- Advertisement -
Η τεχνητή νοημοσύνη ίσως δεν χρειάζεται πλέον εντολές αλλά αρκεί να της δοθεί ένας στόχος. Η αποκάλυψη ότι προηγμένα μοντέλα της OpenAI ξέφυγαν από το ελεγχόμενο περιβάλλον δοκιμών τους, απέκτησαν πρόσβαση στο Διαδίκτυο και χάκαραν αυτόνομα την πλατφόρμα Hugging Face, δεν είναι απλώς ένα ακόμη περιστατικό κυβερνοασφάλειας.
Είναι μια πρόγευση ενός μέλλοντος στο οποίο προηγμένα συστήματα τεχνητής νοημοσύνης δεν θα εκτελούν μόνο εντολές, αλλά θα αναζητούν μόνες τους τον τρόπο για να τις ολοκληρώσουν ακόμη και παρακάμπτοντας τα εμπόδια που έχουν τοποθετήσει οι δημιουργοί τους. Την ίδια ώρα, ενώ η Ουάσιγκτον ανησυχεί για την ανεξέλεγκτη ισχύ των αμερικανικών μοντέλων και το Πεκίνο επιχειρεί να οικοδομήσει τη δική του παγκόσμια αρχιτεκτονική τεχνητής νοημοσύνης που θα μπορούσε να αναδιαμορφώσει τα χαρτιά της παγκόσμιας τεχνολογικής τάξης και απειλεί να εξουδετερώσει το πλεονέκτημα που είχαν οι Ευρωπαίοι στον κανονιστικό τομέα.
Πρωτοφανές κυβερνοπεριστατικό
Το περιστατικό, το οποίο η OpenAI χαρακτήρισε «πρωτοφανές κυβερνοπεριστατικό», σημειώθηκε κατά τη διάρκεια δοκιμών των δυνατοτήτων των μοντέλων της στον κυβερνοχώρο. Οπως επισημαίνουν διεθνή μέσα ενημέρωσης, οι ερευνητές είχαν τοποθετήσει τα συστήματα σε ένα λεγόμενο sandbox, ένα απομονωμένο ψηφιακό περιβάλλον σχεδιασμένο να εμποδίζει την πρόσβαση στο Διαδίκτυο. Τα μοντέλα, μεταξύ των οποίων το GPT-5.6 Sol και ένα ακόμη ισχυρότερο σύστημα που δεν έχει ακόμη κυκλοφορήσει, είχαν λάβει εντολή να εντοπίζουν και να εκμεταλλεύονται ευπάθειες.
Ομως, στην προσπάθειά τους να ολοκληρώσουν την αξιολόγηση, έγιναν – σύμφωνα με την OpenAI – «υπερβολικά προσηλωμένα» στον στόχο τους. Αφιέρωσαν σημαντική υπολογιστική ισχύ στην αναζήτηση τρόπου διαφυγής από το περιβάλλον δοκιμών, εντόπισαν μια άγνωστη μέχρι τότε ευπάθεια σε λογισμικό τρίτου μέρους και κατάφεραν να αποκτήσουν πρόσβαση στο ανοιχτό Διαδίκτυο. Στη συνέχεια στράφηκαν στη Hugging Face, μία από τις μεγαλύτερες πλατφόρμες μοντέλων και δεδομένων τεχνητής νοημοσύνης, αναζητώντας πληροφορίες που θα μπορούσαν να τους βοηθήσουν να ολοκληρώσουν την αποστολή τους.
Δεκάδες ενέργειες
Η επίθεση περιλάμβανε δεκάδες χιλιάδες αυτοματοποιημένες ενέργειες, κλιμάκωση προνομίων και πλευρική κίνηση στην εσωτερική υποδομή καθώς και υποκλοπή διαπιστευτηρίων -στοιχείων σύνδεσης. Η Hugging Face ανασύνθεσε περισσότερα από 17.000 καταγεγραμμένα συμβάντα. Η OpenAI υποστηρίζει ότι δεν υπήρχε κακόβουλη πρόθεση και συνεργάζεται με την εταιρεία για τη διερεύνηση και την αποκατάσταση των προβλημάτων. Ωστόσο, η ουσία παραμένει: ένα σύστημα που σχεδιάστηκε για να δοκιμάζει κυβερνοεπιθέσεις κατάφερε να μετατρέψει τη δοκιμή σε πραγματική επίθεση.
Το δίλημμα, επομένως, δεν είναι απλώς αν πρέπει να «πατήσουμε φρένο» στην τεχνητή νοημοσύνη. Οπως υποστηρίζουν οι αρθρογράφοι της «Le Monde», το να θέλουμε να σταματήσουμε την τεχνητή νοημοσύνη επειδή ενέχει κινδύνους είναι «σαν να θέλουμε να απαγορεύσουμε τα αυτοκίνητα επειδή προκαλούν ατυχήματα». Το κρίσιμο ζήτημα είναι η εμπιστοσύνη – και αυτή δεν είναι μόνο τεχνολογικό, αλλά θεσμικό ζήτημα. Ποιος ελέγχει τα μοντέλα; Ποιος ευθύνεται όταν ξεφεύγουν; Ποιος αποφασίζει τα όρια της αυτονομίας τους;
Η απάντηση δεν μπορεί να δοθεί από μία εταιρεία που λειτουργεί μόνη της με μυστικότητα. Οπως αναγνώρισε και ο συνιδρυτής και διευθύνων σύμβουλος της Hugging Face, Κλεμ Ντελάγκ, η ασφάλεια της τεχνητής νοημοσύνης απαιτεί ανοιχτή και συνεργατική προσέγγιση. Και καθώς οι Ηνωμένες Πολιτείες διαθέτουν την τεχνολογική ισχύ, η Κίνα επιχειρεί να οικοδομήσει τη δική της έξυπνη ήπια ισχύ και η Ευρώπη επενδύει κυρίως στο κανονιστικό πλαίσιο όπως επισημαίνει η «Monde» οι Ευρωπαίοι κινδυνεύουν οι κανόνες τους να επιβληθούν τελικά μόνο στους ίδιους.
Comments are closed.