Η απόφαση του Ντόναλντ Τραμπ να αναθέσει στον υπουργό Οικονομικών Σκοτ Μπέσεντ την εφαρμογή του πρόσφατου εκτελεστικού διατάγματος για την εποπτεία της τεχνητής νοημοσύνης σηματοδοτεί μια σαφή μετατόπιση στην αμερικανική προσέγγιση της τεχνολογικής διακυβέρνησης.
Η τοποθέτηση του υπουργείου Οικονομικών στο επίκεντρο δεν είναι τυχαία: βλέπεται μέσα από το πρίσμα της εθνικής ασφάλειας, της κυβερνοασφάλειας, της χρηματοπιστωτικής σταθερότητας και της προστασίας κρίσιμων υποδομών. Αυτή η όψη υπαγορεύει μια διαφορετική φιλοσοφία εποπτείας απ’ ό,τι η μέχρι τώρα προσέγγιση της ελεύθερης αγοράς που χαρακτήρισε την πολιτική του Τραμπ για την τεχνητή νοημοσύνη.
Ωστόσο, η πρόταση για τη δημιουργία ενός ειδικού φορέα που θα «προστατεύει το δημόσιο συμφέρον» αξιολογώντας πρωτοποριακά μοντέλα AI πριν από τη διάθεσή τους στην αγορά φέρει ένα κρίσιμο πρόβλημα: ο προτεινόμενος οργανισμός βασίζεται στο μοντέλο FINRA, το οποίο διέπεται και χρηματοδοτείται από τον ίδιο τον κλάδο που εποπτεύει. Δεν αποτελεί έκπληξη ότι ο διευθύνων σύμβουλος της Google DeepMind, Ντέμης Χασάμπης, έχει υποστηρίξει αυτή την προσέγγιση.
Πέραν της προφανούς σύγκρουσης συμφερόντων, υπάρχει ένα ακόμη πιο θεμελιώδες ελάττωμα: το μοντέλο FINRA δεν σχεδιάστηκε για την ανίχνευση συστημικού κινδύνου. Αυτή η αδυναμία έγινε εμφανής κατά την παγκόσμια χρηματοπιστωτική κρίση του 2008. Συνεπώς, ένα μοντέλο τύπου FINRA δεν είναι επαρκές για την εποπτεία συστημάτων τεχνητής νοημοσύνης που γίνονται όλο και πιο ισχυρά και διεισδυτικά στη δημόσια ζωή.
Η απάντηση δεν μπορεί να είναι ένας ακόμη φορέας που θα διοικείται από τον κλάδο. Αντίθετα, οι κυβερνήσεις οφείλουν να αναπτύξουν τη δική τους εμπειρογνωμοσύνη στην τεχνητή νοημοσύνη και να αξιοποιήσουν μηχανισμούς δημόσιας εποπτείας, όπως αυτούς που δημιουργήθηκαν μετά την εμφάνιση της γενετικής τεχνολογίας. Χρειαζόμαστε ανεξάρτητους δημόσιους θεσμούς με την τεχνογνωσία και την αρμοδιότητα να επιβλέπουν αυτά τα συστήματα και να εντοπίζουν συστημικούς κινδύνους.
Στην πράξη, οι ΗΠΑ και άλλες χώρες χρειάζονται το αντίστοιχο του Συμβουλίου Εποπτείας Χρηματοπιστωτικής Σταθερότητας για την τεχνητή νοημοσύνη: ένα εποπτικό όργανο επιφορτισμένο με τον εντοπισμό συστημικών κινδύνων για την εκπαίδευση, την υγεία, τις αγορές εργασίας και τη δικαστική εξουσία. Έχουμε ήδη θεσπίσει τέτοιους φορείς για την προστασία της χρηματοπιστωτικής σταθερότητας και της εθνικής ασφάλειας· είναι ώρα να κάνουμε το ίδιο για τους θεσμούς από τους οποίους εξαρτάται η κοινωνία.
Υπάρχει βαθιά ανισορροπία: τα σημερινά ολοένα πιο ισχυρά συστήματα τεχνητής νοημοσύνης απαιτούν συνεχή δημόσια εποπτεία, όχι μόνον εκ των προτέρων αξιολογήσεις για κινδύνους που μοιάζουν με αυτούς της κυβερνοασφάλειας. Το εκτελεστικό διάταγμα του Τραμπ όμως δεν παρέχει ούτε την ανεξαρτησία ούτε την εμπειρογνωμοσύνη που απαιτείται για μια τέτοια εποπτεία.
Γκαμπριέλα Ράμος είναι συμπρόεδρος της Ομάδας Εργασίας για τις Ανισότητες και τις Κοινωνικά Σχετικές Οικονομικές Γνωστοποιήσεις
Εμίλια Στομένοβα Ντουχ είναι αναπληρώτρια καθηγήτρια Ηλεκτρολόγων Μηχανικών στο Πανεπιστήμιο της Λιουμπλιάνα
