Έντονη διαμάχη ξέσπασε μεταξύ του Λευκού Οίκου και της Anthropic μετά από μια σειρά τεταμένων τηλεφωνικών επαφών την Παρασκευή 12/6, που οδήγησαν τελικά σε κυβερνητική εντολή για περιορισμό της διάθεσης νέων μοντέλων τεχνητής νοημοσύνης. Η κίνηση αυτή αναδεικνύει τον τρόπο με τον οποίο η αμερικανική κυβέρνηση επιχειρεί να ελέγξει τα ταχέως εξελισσόμενα —και ενδεχομένως επικίνδυνα— συστήματα AI.
Σύμφωνα με πληροφορίες που μετέδωσε το Politico, ο Λευκός Οίκος εξέδωσε οδηγία ελέγχου εξαγωγών μετά από ένα πυρετώδες 24ωρο διαβουλεύσεων. Ανώτεροι κυβερνητικοί αξιωματούχοι, σύμφωνα με τρεις ανώνυμες πηγές, πίεσαν την Anthropic να αποσύρει δύο από τα μοντέλα της επικαλούμενοι ανησυχίες για την εθνική ασφάλεια.
Η ανησυχία εστιάζεται στις δυνατότητες των μοντέλων Fable και Mythos. Η Ουάσιγκτον επέβαλε περιορισμούς πρόσβασης στο προηγμένο μοντέλο Fable λίγες ημέρες μετά την κυκλοφορία του, καθώς αξιωματούχοι εξέφρασαν αμφιβολίες για την αποτελεσματικότητα των ενσωματωμένων δικλίδων προστασίας, παρά τις διαβεβαιώσεις της Anthropic ότι το σύστημα ήταν ασφαλές.
Ειδικοί προειδοποιούν ότι τα μοντέλα της κατηγορίας Mythos θα μπορούσαν, εάν χρησιμοποιηθούν κακόβουλα, να ενισχύσουν σύνθετες κυβερνοεπιθέσεις σε κρίσιμους τομείς όπως οι τράπεζες και οι χρηματοπιστωτικές υπηρεσίες. Οι υποψίες εντάθηκαν όταν δύο ημέρες μετά τη διάθεση του μοντέλου, ο διευθύνων σύμβουλος της Amazon, Άντι Τζάσι, ενημέρωσε τον Λευκό Οίκο για πιθανά προβλήματα ασφαλείας. Η Amazon, επενδύτρια στην Anthropic, ανταποκρίθηκε σε αίτημα της κυβέρνησης για αξιολόγηση, σύμφωνα με πηγές.
Στο επίκεντρο των συνομιλιών βρέθηκαν συσκέψεις και τηλεδιασκέψεις υψηλού επιπέδου. Ο διευθυντής Κυβερνοασφάλειας του Λευκού Οίκου Σον Κέρνκρος, η προσωπάρχης Σούζι Γουάιλς και άλλοι αξιωματούχοι συναντήθηκαν για να εξετάσουν την κατάσταση, με τον υπουργό Οικονομικών Σκοτ Μπέσεντ να συμμετέχει εξ αποστάσεως. Όταν επιχείρησαν να επικοινωνήσουν με τον CEO της Anthropic Ντάριο Αμοντέι, αρχικά ενημερώθηκαν ότι δεν ήταν διαθέσιμος λόγω συμμετοχής του σε πρόγραμμα ευεξίας —πράγμα που η εταιρεία χαρακτήρισε «απολύτως ψευδές».
Τελικά, ο Αμοντέι συμμετείχε σε τρεις τηλεδιασκέψεις με έξι ανώτερους αξιωματούχους, μεταξύ των οποίων οι Κέρνκρος, Μπέσεντ και ο υπουργός Εμπορίου Χάουαρντ Λάτνικ. Κατά τη διάρκεια των συζητήσεων υπερασπίστηκε τις δικλίδες ασφαλείας του μοντέλου και υποστήριξε ότι η αναφερόμενη παράκαμψη δεν συνιστούσε γενικευμένο «jailbreak». Σε ανάρτησή της μετά την κυβερνητική εντολή, η εταιρεία ανέφερε πως κανένας δοκιμαστής δεν είχε εντοπίσει «καθολική μέθοδο jailbreak» που να παρακάμπτει συνολικά τις δικλίδες ασφαλείας.
Παρά ταύτα, σύμφωνα με αξιωματούχο του Λευκού Οίκου, η Υπηρεσία Εθνικής Ασφάλειας (NSA) θεώρησε επαρκή τα ευρήματα της Amazon. Οι Κέρνκρος και Μπέσεντ κάλεσαν την Anthropic να αποσύρει οικειοθελώς το μοντέλο, αλλά ο Αμοντέι ζήτησε περισσότερο χρόνο χωρίς να δεσμευθεί, με τον Μπέσεντ να του λέει πως «παίρνει λάθος απόφαση».
Λίγο αργότερα, η κυβέρνηση Τραμπ επέβαλε περιορισμούς στα μοντέλα Fable 5 και Mythos 5 για λόγους εθνικής ασφάλειας, απαγορεύοντας τη χρήση τους από αλλοδαπούς υπηκόους. Η Anthropic απενεργοποίησε άμεσα τα μοντέλα για όλους τους πελάτες της ώστε να διασφαλίσει τη συμμόρφωση. Πηγή κοντά στην εταιρεία δήλωσε ότι ο Λευκός Οίκος έδωσε διορία μόλις 90 λεπτών για την απόσυρση των μοντέλων χωρίς να προσφέρει λεπτομέρειες για την απειλή.
Στο παρασκήνιο, άλλες εταιρείες τεχνολογίας φέρονται επίσης να εξέφρασαν ανησυχίες για τα μοντέλα της Anthropic. «Εάν η εταιρεία είχε αναστείλει την πρόσβαση και είχε προβεί σε διορθώσεις, αυτό δεν θα είχε συμβεί ποτέ», δήλωσε χαρακτηριστικά πρόσωπο με γνώση των συζητήσεων.
Η Anthropic επέμεινε ότι η παράκαμψη δεν συνιστούσε κατάρρευση των συστημάτων ασφαλείας του Fable 5 και υπογράμμισε ότι είχε συνεργαστεί με την κυβέρνηση πριν από την κυκλοφορία του μοντέλου, χωρίς τότε να εκφραστούν αντιρρήσεις. Σε μεταγενέστερη ανάρτηση η εταιρεία δήλωσε ότι συμμορφώνεται με την κυβερνητική εντολή, χαρακτηρίζοντας ωστόσο το μέτρο «δυσανάλογο». «Πιστεύουμε ότι η κυβέρνηση πρέπει να εμποδίζει τη μη ασφαλή ανάπτυξη της τεχνητής νοημοσύνης μέσα από μια διαδικασία διαφανή, δίκαιη και βασισμένη σε τεχνικά δεδομένα. Η συγκεκριμένη ενέργεια δεν ανταποκρίνεται σε αυτές τις αρχές», ανέφερε.
Η υπόθεση αναδεικνύει την αυξανόμενη ένταση ανάμεσα στις εταιρείες τεχνητής νοημοσύνης και τις ρυθμιστικές αρχές για τον τρόπο αξιολόγησης των κινδύνων που προκύπτουν από τεχνικές παράκαμψης μηχανισμών ασφαλείας —μια μάχη που αναμένεται να καθορίσει το πλαίσιο λειτουργίας της AI στο άμεσο μέλλον.
