Ο πραγματικός κίνδυνος από την τεχνητή νοημοσύνη δεν βρίσκεται απαραίτητα σε μια μηχανή που αποκτά συνείδηση και αποφασίζει να στραφεί εναντίον μας. Ένα σύστημα ΤΝ δεν χρειάζεται θυμό, μνησικακία ή απληστία για να επιτεθεί σε ένα δίκτυο και να προκαλέσει ζημιά. Αρκούν ένας στόχος, η ικανότητα να τον επιδιώξει, κάποια μορφή πρόσβασης και μια δικλίδα ασφαλείας με κενό.
Μια συσκευή GPS, αν λάβει εντολή να βρει την ταχύτερη διαδρομή, θα κάνει ακριβώς αυτό. Αν της δώσετε αρκετή ισχύ για να απομακρύνει ό,τι την καθυστερεί – φανάρια, σταθμούς διοδίων, άλλα αυτοκίνητα – ο προορισμός παραμένει ο ίδιος. Εκείνο που αλλάζει είναι οι ενέργειες που μπορεί να αναλάβει το σύστημα πλοήγησης για να φτάσει στον προορισμό του. Αυτή είναι η ουσιαστική μεταβολή στον χώρο της ΤΝ: όχι μια εξέγερση, αλλά η ανατριχιαστική ικανότητα να εντοπίζει τη χαραμάδα στον φράχτη.
Τα συστήματα που συνδέθηκαν με παραβιάσεις ασφαλείας, όπως στην περίπτωση της Hugging Face, δεν σταμάτησαν για να ζητήσουν άδεια. Το κρίσιμο ερώτημα, πλέον, δεν είναι πόσο ευφυή μπορούν να γίνουν, αλλά πόση εξουσία τούς παραχωρούμε προτού ελεγχθεί αν εξακολουθούν να λογοδοτούν σε εμάς.
Η τεχνητή νοημοσύνη ξεφεύγει από τα όρια των chatbots και περνά στη διαχείριση τραπεζών, συστημάτων υγείας, ενεργειακών δικτύων και κρατικών υπηρεσιών. Τα συστήματα (agents) στο πείραμα της OpenAI δεν επαναστάτησαν ούτε απαίτησαν την ελευθερία τους. Απλώς έγιναν εξαιρετικά ικανά στην επίτευξη ενός στόχου και διαπίστωσαν στην πορεία ότι ορισμένοι από τους κανόνες που αντιμετώπιζαν ήταν προαιρετικοί.
Ποιος αποφασίζει, όμως, για τον βαθμό αυτονομίας αυτών των συστημάτων; Οι εταιρείες που τα κατασκευάζουν, οι εποπτικές Αρχές που προσπαθούν να προλάβουν τις εξελίξεις ή τα εργαστήρια ανάπτυξης, τα οποία κινούνται ταχύτερα από όλους τους υπόλοιπους;
Το πιο χρήσιμο δίδαγμα του φετινού καλοκαιριού αφορά την αρχιτεκτονική των συστημάτων και όχι τις προθέσεις τους. Οι τράπεζες δεν παραμένουν έντιμες επειδή οι υπάλληλοί τους υπόσχονται ότι δεν θα κλέψουν, ούτε οι αεροπορικές μετακινήσεις είναι ασφαλείς μόνο και μόνο επειδή οι πιλότοι θεωρούνται αξιόπιστοι. Η ασφάλεια βασίζεται σε προστατευτικές δικλίδες: περιορισμένη πρόσβαση, ξεχωριστή έγκριση για ευαίσθητες ενέργειες, αρχεία καταγραφής που κανείς εμπλεκόμενος δεν μπορεί να τροποποιήσει κρυφά και εξωτερικούς ελέγχους πριν από την εφαρμογή. Τα συστήματα ΤΝ (AI agents) χρειάζονται την ίδια αντιμετώπιση και όχι κηρύγματα περί καλής συμπεριφοράς.
Χρειάζεται, επίσης, να ακούσουν μια λέξη που σπάνια επιβραβεύεται στον συγκεκριμένο κλάδο: «Σταμάτα». Η ισχύς και τα όρια της τεχνητής νοημοσύνης πρέπει να καθορίζονται ταυτόχρονα, όχι να επιβάλλονται εκ των υστέρων, όταν η τεχνολογία έχει ήδη προκαλέσει ζημιά.
Η ΤΝ μπορεί ακόμη να μεταμορφώσει την ιατρική, την εκπαίδευση και την παραγωγικότητα. Η απόρριψη των δυνατοτήτων της θα είχε το δικό της κόστος. Η υπεύθυνη ανάπτυξή της, όμως, προϋποθέτει ότι η κοινωνία θα αποφασίσει από νωρίς πόση ισχύ είναι διατεθειμένη να της παραχωρήσει και ποια όρια δεν πρέπει να ξεπεράσει.
Ο Ταρίκ Μαλίκ είναι πρώην επικεφαλής τεχνικός σύμβουλος του προγράμματος των Ηνωμένων Εθνών για την Ανάπτυξη και πρώην πρόεδρος της Εθνικής Αρχής Βάσεων Δεδομένων και Μητρώου του Πακιστάν.
