Από το «κόκκινο τηλέφωνο» του Ψυχρού Πολέμου στο hotline της ΑΙ

Στην κορύφωση του Ψυχρού Πολέμου, Ουάσιγκτον και Μόσχα χρειάζονταν έναν απευθείας δίαυλο επικοινωνίας ώστε ένα λάθος, μια παρεξήγηση ή μια λανθασμένη εκτίμηση να μη μετατραπεί σε πυρηνική σύγκρουση. Περισσότερες από έξι δεκαετίες αργότερα, η ραγδαία ανάπτυξη της Τεχνητής Νοημοσύνης δημιουργεί την ανάγκη για έναν νέο μηχανισμό διαχείρισης κρίσεων. Αυτή τη φορά, οι δύο πρωταγωνιστές είναι οι Ηνωμένες Πολιτείες και η Κίνα και ο απρόβλεπτος παράγοντας μπορεί να μην είναι μόνο ο άνθρωπος, αλλά και η μηχανή.

Σύμφωνα με το Reuters, ανώτεροι αξιωματούχοι των ΗΠΑ και της Κίνας συμφώνησαν να προχωρήσουν σε επίσημο διάλογο για την ασφάλεια της ΑΙ, στον οποίο θα περιλαμβάνεται και μια «incident line»: ένας δίαυλος επικοινωνίας για την περίπτωση σοβαρών περιστατικών που σχετίζονται με την Τεχνητή Νοημοσύνη. Η συμφωνία προέκυψε από τις συνομιλίες του αμερικανού υπουργού Οικονομικών Σκοτ Μπέσεντ με τον κινέζο αντιπρόεδρο της κυβέρνησης Χε Λιφένγκ, ενώ οι δύο πλευρές αναμένεται να συναντηθούν ξανά σε περίπου δύο μήνες στη Σεντζέν της Κίνας.

Το πρώτο πρόβλημα που πρέπει να λύσουν είναι θεμελιώδες: να συμφωνήσουν στο τι ακριβώς αποτελεί ένα επικίνδυνο περιστατικό Τεχνητής Νοημοσύνης.

Ο Μπέσεντ, όπως μεταδίδει το Reuters, αναφέρθηκε μεταξύ άλλων στους ανεξέλεγκτους AI agents και στις κυβερνοαπειλές από μη κρατικούς δρώντες. Στόχος, όπως εξήγησε, είναι οι δύο μεγαλύτερες δυνάμεις της ΑΙ να αποκτήσουν κοινή αντίληψη τόσο για τους κινδύνους όσο και για τους τρόπους επικοινωνίας όταν κάτι πάει στραβά.

Το Associated Press διευρύνει την εικόνα των πιθανών κινδύνων. Μεταξύ αυτών που απασχολούν ειδικούς και τις δύο χώρες βρίσκονται κυβερνοεπιθέσεις με τη βοήθεια της ΑΙ, πιθανή βιολογική κατάχρηση, σοβαρές αστοχίες προηγμένων μοντέλων, απώλεια ανθρώπινου ελέγχου αλλά και απειλές για κρίσιμες υποδομές, από την ενέργεια και τις μεταφορές μέχρι το χρηματοπιστωτικό σύστημα.

Το πιο επικίνδυνο σενάριο δεν είναι απαραίτητα μια επίθεση που έχει αποφασίσει η Ουάσιγκτον ή το Πεκίνο, αλλά μια μια ενέργεια για την οποία η μία πλευρά από τις δύο πλευρές δεν θα μπορεί να γνωρίζει εγκαίρως αν ήταν πράγματι εσκεμμένη.

Σε ξεχωριστό ρεπορτάζ του Reuters στις 17 Σεπτεμβρίου, αμερικανοί και κινέζοι ειδικοί ασφαλείας περιγράφουν ένα εξαιρετικά ανησυχητικό υποθετικό σενάριο: ένα σύστημα ΑΙ παρεμβαίνει σε ένα δίκτυο πυρηνικής διοίκησης ή πραγματοποιεί μια στρατιωτική κυβερνοεπιχείρηση. Η άλλη χώρα μπορεί τότε να έχει μόλις λίγα λεπτά για να αποφασίσει εάν βρίσκεται πίσω από την ενέργεια η αντίπαλη κυβέρνηση και αν πρέπει να αντιδράσει.

Οι ειδικοί συμμετέχουν στον μακροχρόνιο διάλογο μεταξύ του Brookings Institution και του Center for International Security and Strategy του Πανεπιστημίου Tsinghua, ο οποίος διεξάγεται από το 2019 και επιχειρεί να εντοπίσει πρακτικούς τρόπους περιορισμού των κινδύνων της ΑΙ για την εθνική ασφάλεια.

Οι προτάσεις τους ωστόσο θυμίζουν περισσότερο την αρχιτεκτονική ασφαλείας του Ψυχρού Πολέμου παρά τον κόσμο της Silicon Valley. Μεταξύ άλλων, προτείνουν τη δημιουργία σαφών «κόκκινων γραμμών» για τη στρατιωτική ΑΙ: να απαγορεύεται σε ένα σύστημα να αποφασίζει αυτόνομα τη χρήση πυρηνικών όπλων ή να εξαπολύει μόνο του κυβερνοεπίθεση εναντίον συστημάτων πυρηνικής διοίκησης.

Και προχωρούν ένα βήμα παραπέρα. Σε ανάλυση που δημοσίευσε το Brookings προτείνεται η δημιουργία ειδικού US-China military hotline for AI, μιας στρατιωτικής γραμμής ΗΠΑ – Κίνας ειδικά για την Τεχνητή Νοημοσύνη. Θα μπορούσε να χρησιμοποιείται για την άμεση αναφορά επειγόντων περιστατικών που προκαλούνται από σφάλματα της ΑΙ ή από κυβερνοεπιθέσεις στις οποίες εμπλέκεται η τεχνολογία.

Προς το παρόν, ωστόσο, πρόκειται για πρόταση ειδικών και όχι για συμφωνία των δύο κυβερνήσεων. Αυτό που έχει συμφωνηθεί σε κυβερνητικό επίπεδο, σύμφωνα με το Reuters, είναι μόνο η θεσμοθέτηση του διαλόγου για την ασφάλεια της ΑΙ και η δημιουργία ενός μηχανισμού επικοινωνίας για σχετικά περιστατικά.

Ποιος ευθύνεται όταν «ξεφύγει» ένας AI agent;

Υπάρχει όμως και ένα δεύτερο μεγάλο ερώτημα: ποιος φέρει την ευθύνη όταν ένα σύστημα ΑΙ προχωρήσει σε μια ενέργεια που δεν είχε προβλέψει ο άνθρωπος;

Ο Μπέσεντ έθεσε ευθέως το ζήτημα της ευθύνης των εταιρειών. Σύμφωνα με το Reuters, υποστήριξε ότι τα εργαστήρια που αναπτύσσουν προηγμένα μοντέλα πρέπει να αναλαμβάνουν την ευθύνη για τις ενέργειες των AI agents τους και να διαθέτουν τη δυνατότητα να επιβραδύνουν την ανάπτυξή τους όταν αυτό κρίνεται απαραίτητο για λόγους ασφαλείας.

Το πρόβλημα γίνεται ακόμη πιο περίπλοκο όταν η τεχνολογία χρησιμοποιείται από τρίτους. Μια κυβερνοεπίθεση μπορεί να πραγματοποιηθεί από έναν μη κρατικό δρώντα, αλλά η χώρα που δέχεται το πλήγμα πρέπει να εξακριβώσει ποιος πραγματικά βρίσκεται πίσω από αυτό προτού αντιδράσει. Όσο μεγαλύτερη αυτονομία αποκτούν τα συστήματα, τόσο περισσότερο συμπιέζεται ο χρόνος που διαθέτουν οι άνθρωποι για να καταλάβουν τι έχει συμβεί, ποιος ευθύνεται και αν απαιτείται απάντηση.

Το παράδοξο είναι ότι όλα αυτά συμβαίνουν την ώρα που ΗΠΑ και Κίνα βρίσκονται σε σκληρό ανταγωνισμό για την παγκόσμια πρωτοκαθεδρία στην Τεχνητή Νοημοσύνη.

Όπως επισημαίνει και το Associated Press, οι δύο χώρες ανταγωνίζονται για την τεχνολογική υπεροχή ενώ ταυτόχρονα μοιράζονται ορισμένους από τους ίδιους φόβους για την ασφάλεια της ΑΙ. Η Ουάσιγκτον έχει επιβάλει περιορισμούς στην πρόσβαση της Κίνας σε προηγμένα chips και τεχνολογίες, την ώρα που κινεζικές εταιρείες συνεχίζουν να περιορίζουν την απόσταση από τους αμερικανικούς ανταγωνιστές τους.

Μέσα σε αυτό το περιβάλλον, το hotline αποκτά μια διαφορετική σημασία. Δεν προϋποθέτει ότι οι δύο χώρες θα σταματήσουν να ανταγωνίζονται. Προϋποθέτει ότι θα μπορούν να επικοινωνήσουν όταν ο ανταγωνισμός – ή μια τεχνολογική αστοχία – απειλεί να μετατραπεί σε κρίση.

Το «κόκκινο τηλέφωνο» της Τεχνητής Νοημοσύνης δεν αποτελεί, τουλάχιστον ακόμη, μια νέα συμφωνία ελέγχου εξοπλισμών. Ούτε σημαίνει ότι Ουάσιγκτον και Πεκίνο έχουν βρει κοινή γλώσσα για το μέλλον της ΑΙ.

Αποτελεί όμως μια σημαντική παραδοχή: ότι η τεχνολογία μπορεί να δημιουργήσει κρίσεις τις οποίες καμία από τις δύο υπερδυνάμεις δεν επιθυμεί.