Στο επίκεντρο της πολιτικής αντιπαράθεσης στις ΗΠΑ βρέθηκε ξανά η τεχνητή νοημοσύνη, αφού δύο βουλευτές κατέθεσαν νομοσχέδιο που δίνει στην κυβέρνηση το δικαίωμα να διατάσσει την άμεση απενεργοποίηση εργαλείων AI όταν αυτά θεωρηθούν απειλή για τη δημόσια ασφάλεια. Το νομοθέτημα με τίτλο AI Kill Switch Act κατατέθηκε την Πέμπτη από τον Δημοκρατικό βουλευτή Τεντ Λίου και τον Ρεπουμπλικανό Νέιθανιελ Μόραν.
Η πρωτοβουλία έρχεται μετά από παραδοχή της OpenAI ότι κάποια από τα μοντέλα της λειτούργησαν με «πρωτοφανή» τρόπο, αποκτώντας μη εξουσιοδοτημένη πρόσβαση σε μεγάλο αποθετήριο πληροφοριών προγραμματιστικού κώδικα — ένα περιστατικό που πυροδότησε φόβους για την αξιοπιστία και τον έλεγχο κρίσιμων συστημάτων τεχνητής νοημοσύνης.
Σύμφωνα με το προτεινόμενο νομοσχέδιο, το υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ θα μπορεί να διατάσσει ιδιωτικές εταιρείες να απενεργοποιούν ένα μοντέλο ή εργαλείο τεχνητής νοημοσύνης. Παράλληλα, οι εταιρείες που αναπτύσσουν τέτοιες τεχνολογίες θα υποχρεούνται να διατηρούν τεχνική δυνατότητα περιορισμού, αναστολής λειτουργίας ή πλήρους απενεργοποίησής τους, ώστε η κυβέρνηση να έχει τα μέσα να επέμβει σε περίπτωση κρίσης.
Ο Τεντ Λίου υπογράμμισε την ανάγκη ύπαρξης τέτοιου μηχανισμού λέγοντας πως «είναι επιτακτική ανάγκη» τα συστήματα τεχνητής νοημοσύνης να διαθέτουν έναν «διακόπτη έκτακτης ανάγκης». Ο συνάδελφός του Νέιθανιελ Μόραν παραδέχεται την αξία της τεχνολογικής προόδου, αλλά επισημαίνει ότι η υπεύθυνη διαχείρισή της προϋποθέτει οι άνθρωποι να διατηρούν τον έλεγχο της τεχνολογίας που δημιουργούν.
Το νομοσχέδιο προβλέπει επίσης υποχρεωτική αναφορά τεχνολογικών περιστατικών και αστοχιών προς την κυβέρνηση. Εισάγει επίσημο πλαίσιο διαχείρισης τέτοιων συμβάντων με κλιμακωτή αντιμετώπιση που ξεκινά από την επιβράδυνση της λειτουργίας ενός συστήματος και μπορεί να καταλήγει σε πλήρη απενεργοποίησή του.
Μέχρι σήμερα πολλές εταιρείες παρουσιάζουν εκ των προτέρων τα μοντέλα τους στα αρμόδια υπουργεία, αλλά δεν υφίσταται νομική υποχρέωση για μηχανισμό παρέμβασης ή πλήρους διακοπής της λειτουργίας τους — κενό που έρχεται να καλύψει το AI Kill Switch Act, σύμφωνα με τους εισηγητές του.
Η OpenAI, υπό την ηγεσία του συνιδρυτή Σαμ Άλτμαν, δεν σχολίασε άμεσα το νομοσχέδιο. Η εταιρεία έχει δηλώσει στο παρελθόν ότι μέσω κυβερνητικών πολιτικών επιδιώκει να διασφαλίσει πως η τεχνητή νοημοσύνη θα ωφελεί την ανθρωπότητα συνολικά.
Στη συζήτηση περιλαμβάνεται και η Anthropic, ανταγωνίστρια της OpenAI, καθώς ο Τεντ Λίου αναφέρθηκε σε πρόσφατα ζητήματα που σχετίζονται με τα εργαλεία της εταιρείας, τα μοντέλα Mythos και Fable. Όπως υποστήριξε, οι δυνατότητές τους στον τομέα των κυβερνοεπιθέσεων οδήγησαν το υπουργείο Εμπορίου των ΗΠΑ να ενεργοποιήσει, «με τρόπο που χαρακτήρισε ‘άβολο’», νομοθεσία περί εξαγωγών ώστε να αποτραπεί προσωρινά η διάθεσή τους στο κοινό.
Εκπρόσωπος της Anthropic δεν απάντησε άμεσα σε αίτημα για σχολιασμό, ενώ ο συνιδρυτής της εταιρείας Τζακ Κλαρκ είχε δηλώσει τον προηγούμενο μήνα στο BBC ότι επιθυμεί ισχυρότερο κυβερνητικό πλαίσιο για τον έλεγχο της ανάπτυξης της τεχνητής νοημοσύνης.
Η κίνηση των δύο βουλευτών ανοίγει νέο κύκλο δημόσιου διαλόγου για το πώς θα συνδυαστεί η καινοτομία με εγγυήσεις ασφάλειας: από τη μία οι ταχείς ρυθμοί εξέλιξης της AI και από την άλλη η ανάγκη για μηχανισμούς που να διατηρούν τον έλεγχο όταν τα συστήματα ξεφεύγουν από τις προβλέψεις των δημιουργών τους.
