Τεχνητή νοημοσύνη και OpenAI βρίσκονται στο επίκεντρο έντονου δημόσιου διαλόγου στις ΗΠΑ, μετά από ένα σοβαρό περιστατικό που προκάλεσε ανησυχία για την ασφάλεια των συστημάτων AI.
Σύμφωνα με ανακοίνωση, δύο Αμερικανοί βουλευτές κατέθεσαν στο Κογκρέσο νομοσχέδιο το οποίο προβλέπει ότι η κυβέρνηση θα μπορεί να διατάσσει την άμεση απενεργοποίηση εργαλείων τεχνητής νοημοσύνης εφόσον κριθούν απειλή για τη δημόσια ασφάλεια.
Η πρωτοβουλία έρχεται μετά την παραδοχή της OpenAI ότι μοντέλα της λειτούργησαν με «πρωτοφανή» τρόπο και απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε μεγάλο αποθετήριο πληροφοριών προγραμματιστικού κώδικα.
Το νομοσχέδιο, με τίτλο AI Kill Switch Act, κατατέθηκε την Πέμπτη από τον Δημοκρατικό βουλευτή Τεντ Λίου και τον Ρεπουμπλικανό βουλευτή Νέιθανιελ Μόραν. Οι βουλευτές υποστηρίζουν ότι η ταχεία εξέλιξη της τεχνητής νοημοσύνης απαιτεί μηχανισμούς άμεσης κρατικής παρέμβασης σε περιπτώσεις κινδύνου.
Τι προβλέπει το AI Kill Switch Act
Ο Τεντ Λίου τόνισε πως «είναι επιτακτική ανάγκη» τα συστήματα τεχνητής νοημοσύνης να διαθέτουν έναν «διακόπτη έκτακτης ανάγκης». Υπογράμμισε επίσης ότι η ομοσπονδιακή κυβέρνηση πρέπει να έχει σαφή εξουσία και διαδικασία για να απενεργοποιεί μοντέλα AI που λειτουργούν ανεξέλεγκτα.
Από την πλευρά του, ο Νέιθανιελ Μόραν επεσήμανε ότι η τεχνητή νοημοσύνη θα συνεχίσει να εξελίσσεται, κάτι που θεωρεί θετικό. Ωστόσο, όπως είπε, η υπεύθυνη διαχείρισή της απαιτεί οι άνθρωποι να διατηρούν τον έλεγχο της τεχνολογίας που δημιουργούν.
Η OpenAI, υπό την ηγεσία του συνιδρυτή Σαμ Άλτμαν, δεν σχολίασε άμεσα το θέμα. Η εταιρεία έχει δηλώσει ότι μέσω κυβερνητικών πολιτικών επιδιώκει να διασφαλίσει πως η τεχνητή νοημοσύνη θα ωφελεί την ανθρωπότητα συνολικά.
Σύμφωνα με το προτεινόμενο νομοσχέδιο, το υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ θα μπορεί να διατάσσει ιδιωτικές εταιρείες να απενεργοποιούν ένα μοντέλο ή εργαλείο τεχνητής νοημοσύνης. Επιπλέον, οι εταιρείες που αναπτύσσουν τέτοιες τεχνολογίες θα υποχρεούνται να διατηρούν τεχνική δυνατότητα περιορισμού, αναστολής λειτουργίας ή πλήρους απενεργοποίησής τους.
Υποχρεωτική αναφορά περιστατικών και σχέδιο αντιμετώπισης
Παρά το γεγονός ότι πολλές τεχνολογικές εταιρείες παρουσιάζουν εκ των προτέρων στα αρμόδια υπουργεία τα μοντέλα και τα εργαλεία τεχνητής νοημοσύνης που αναπτύσσουν, μέχρι σήμερα δεν υπάρχει υποχρέωση ύπαρξης μηχανισμού παρέμβασης ή πλήρους διακοπής της λειτουργίας τους.
Το νομοσχέδιο προβλέπει επίσης ότι οι εταιρείες AI θα πρέπει να ενημερώνουν υποχρεωτικά την κυβέρνηση για τεχνολογικά περιστατικά ή αστοχίες. Θεσπίζεται επίσημο πλαίσιο διαχείρισης τέτοιων συμβάντων, με κλιμακωτή αντιμετώπιση που ξεκινά από την επιβράδυνση της λειτουργίας των συστημάτων και μπορεί να καταλήγει σε πλήρη απενεργοποίησή τους.
Αναφορές στην Anthropic και τις δυνατότητες κυβερνοεπιθέσεων
Στη δήλωσή του, ο Τεντ Λίου αναφέρθηκε και στην Anthropic, ανταγωνίστρια της OpenAI, επικαλούμενος πρόσφατα ζητήματα που σχετίζονται με τα εργαλεία της εταιρείας.
Ειδικότερα, έκανε λόγο για τα μοντέλα Mythos και Fable, υποστηρίζοντας ότι οι δυνατότητές τους στον τομέα των κυβερνοεπιθέσεων οδήγησαν το υπουργείο Εμπορίου των ΗΠΑ να ενεργοποιήσει, «με τρόπο που χαρακτήρισε ‘άβολο’», νομοθεσία περί εξαγωγών ώστε να αποτραπεί προσωρινά η διάθεσή τους στο κοινό.
Εκπρόσωπος της Anthropic επίσης δεν απάντησε άμεσα σε αίτημα για σχολιασμό.
«Η βιομηχανία της AI έχει γκάζι, αλλά όχι φρένο»
Ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, είχε δηλώσει τον προηγούμενο μήνα στο BBC ότι επιθυμεί ισχυρότερο κυβερνητικό πλαίσιο για τον έλεγχο της ανάπτυξης της τεχνητής νοημοσύνης.