Σε σοβαρό διπλωματικό και στρατιωτικό επεισόδιο θα μπορούσε να εξελιχθεί ένα λάθος που προέκυψε από τη χρήση Τεχνητής Νοημοσύνης στις αμερικανικές ένοπλες δυνάμεις. Όπως αποκαλύπτει το CNN, λανθασμένη αναφορά για το φορτίο κινεζικού πλοίου στη Μέση Ανατολή παραλίγο να οδηγήσει σε επιχείρηση εναντίον του, με τον κίνδυνο να ξεσπάσει σοβαρή κρίση στις σχέσεις Ουάσινγκτον – Πεκίνου.
Η αναφορά, η οποία διακινήθηκε την άνοιξη, κατά τη διάρκεια του πολέμου με το Ιράν, υποστήριζε ότι το πλοίο μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα ανάπτυξης πυρηνικών όπλων. Οι αμερικανικές στρατιωτικές υπηρεσίες κινητοποιήθηκαν άμεσα: καταρτίστηκαν σχέδια για την αναχαίτιση του πλοίου, ένοπλες ομάδες προετοιμάστηκαν για επιβίβαση και στρατιωτικά αεροσκάφη απογειώθηκαν.
Η επιχείρηση, ωστόσο, σταμάτησε λίγο πριν ξεκινήσει. Αξιωματούχοι επανεξέτασαν τα στοιχεία και διαπίστωσαν ότι η αναφορά είχε δημιουργηθεί με τη βοήθεια εργαλείου Τεχνητής Νοημοσύνης, το οποίο είχε αναγνωρίσει λανθασμένα το φορτίο του κινεζικού πλοίου.
Το CNN δεν έχει διευκρινίσει ποιο ήταν το πραγματικό φορτίο που παρερμηνεύθηκε από το σύστημα AI. Πηγή του δικτύου χαρακτήρισε την αναφορά «εντελώς ψευδής» και τόνισε πως «σχεδόν ξεκίνησε έναν πόλεμο», καθώς μια αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να προκαλέσει επικίνδυνη κλιμάκωση.
Σύμφωνα με τις πληροφορίες, ένας αναλυτής χρησιμοποίησε chatbot για να επεξεργαστεί δεδομένα σχετικά με το φορτίο. Τα στοιχεία προέρχονταν από ανοιχτές πηγές, αλλά και από απόρρητες κυβερνητικές βάσεις δεδομένων, μεταξύ άλλων από τη Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού (US Special Operations Command Pacific), η οποία έχει την έδρα της στη Χαβάη.
Το σύστημα συνδύασε τις διαθέσιμες πληροφορίες και κατέληξε σε λανθασμένο συμπέρασμα για τη φύση του φορτίου. Στη συνέχεια συντάχθηκε τυπική αναφορά με τη χρήση AI, η οποία διακινήθηκε στους στρατιωτικούς αξιωματούχους ως επαληθευμένη ανάλυση.
Παραμένει άγνωστο αν το chatbot ήταν εμπορικά διαθέσιμο ή αν είχε αναπτυχθεί από την αμερικανική κυβέρνηση. Πρώην ανώτερος αξιωματούχος των ΗΠΑ σημείωσε πως «τα εσωτερικά εργαλεία είναι σε μεγάλο βαθμό απλώς αντίγραφα των εμπορικών εφαρμογών, με ένα πιο “γυαλισμένο” περιτύλιγμα». Το Πεντάγωνο και η Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού δεν σχολίασαν το περιστατικό.
Η υπόθεση φέρνει στο προσκήνιο τους κινδύνους από την ταχύτατη ενσωμάτωση της Τεχνητής Νοημοσύνης στις στρατιωτικές και πληροφοριακές υπηρεσίες των ΗΠΑ. Οι αμερικανικές ένοπλες δυνάμεις επενδύουν διαρκώς στην AI, επιδιώκοντας να επιταχύνουν τη λήψη αποφάσεων στο πεδίο της μάχης, από την επιλογή στόχων έως τη διαχείριση πόρων και προϋπολογισμών.
Η αμερικανική κυβέρνηση υπογραμμίζει ότι οι ΗΠΑ δεν πρέπει να μείνουν πίσω στην ανάπτυξη στρατιωτικής AI, ειδικά απέναντι σε αντιπάλους όπως η Κίνα. Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη στρατηγική του Πενταγώνου για την επιτάχυνση της χρήσης της τεχνολογίας, δηλώνοντας πως «θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια και θα επικεντρώσουμε τις επενδύσεις μας ώστε να διασφαλίσουμε ότι θα ηγηθούμε στην τεχνολογία της στρατιωτικής AI».
Αξιωματούχοι, πάντως, επισημαίνουν ότι η εφαρμογή της AI προχωρά χωρίς ενιαίο πλαίσιο ασφαλείας. Διαφορετικές υπηρεσίες χρησιμοποιούν διαφορετικά εργαλεία και ακολουθούν διαφορετικούς κανόνες ελέγχου, γεγονός που αυξάνει τον κίνδυνο να περάσουν κρίσιμα λάθη ως αξιόπιστες πληροφορίες.
Το περιστατικό με το κινεζικό πλοίο δεν θεωρείται μεμονωμένο. Οι λεγόμενες «παραισθήσεις» της AI, δηλαδή η παραγωγή πειστικών αλλά ανακριβών πληροφοριών, έχουν καταγραφεί και σε άλλες περιπτώσεις στην αμερικανική κοινότητα πληροφοριών.
Ιδιαίτερη ανησυχία προκαλεί η χρήση της τεχνολογίας σε επιχειρήσεις στοχοποίησης, όπου ένα σφάλμα μπορεί να έχει άμεσες ανθρώπινες συνέπειες. Πηγή με γνώση των στρατιωτικών πολιτικών προειδοποίησε πως «η AI στη στοχοποίηση σίγουρα αυξάνεται και δεν υπάρχει πραγματική καθοδήγηση για το πώς η παρουσία ανθρώπου στη διαδικασία θα αποτρέψει απώλειες αμάχων ή φίλια πυρά».
Παράλληλα, πρώην αξιωματούχοι των υπηρεσιών πληροφοριών φοβούνται ότι η πίεση για ταχύτερη παραγωγή αναλύσεων μπορεί να οδηγήσει σε περισσότερα λάθη, ιδιαίτερα όταν νεότεροι αναλυτές εμπιστεύονται υπερβολικά τα εργαλεία AI. Όπως χαρακτηριστικά ανέφερε πηγή του CNN: «Η AI σού επιτρέπει να φτάσεις σε μια κακή ιδέα πιο γρήγορα».
