Πώς η AI παραλίγο να μας οδηγήσει στον όλεθρο – Η λάθος πληροφορία που πήγε να οδηγήσει σε σύγκρουση ΗΠΑ και Κίνας

Έντονη ανησυχία και προβληματισμό προκαλεί αποκάλυψη του CNN, σύμφωνα με την οποία μια λανθασμένη αναφορά πληροφοριών που δημιουργήθηκε με τη βοήθεια AI παραλίγο να οδηγήσει σε επιχείρηση εναντίον κινεζικού πλοίου στη Μέση Ανατολή. Το περιστατικό αυτό θα μπορούσε να προκαλέσει σοβαρή κρίση στις σχέσεις Ουάσινγκτον – Πεκίνου.

Η αναφορά διακινήθηκε στις αμερικανικές ένοπλες δυνάμεις την άνοιξη, κατά τη διάρκεια του πολέμου με το Ιράν, προκαλώντας συναγερμό. Υποστήριζε ότι ένα κινεζικό πλοίο στη Μέση Ανατολή μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα ανάπτυξης πυρηνικών όπλων. Οι αμερικανικές στρατιωτικές υπηρεσίες αντέδρασαν άμεσα, καταρτίζοντας σχέδια για αναχαίτιση του πλοίου, ενώ ένοπλες ομάδες προετοιμάζονταν για επιβίβαση και στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί.

Λίγο πριν την έναρξη της επιχείρησης, αξιωματούχοι επανεξέτασαν προσεκτικά τη συγκεκριμένη αναφορά και διαπίστωσαν πως είχε δημιουργηθεί με τη βοήθεια εργαλείου Τεχνητής Νοημοσύνης, το οποίο είχε εσφαλμένα αναγνωρίσει το φορτίο του πλοίου.

Το CNN αναφέρει πως δεν έχει αποκαλυφθεί ποιο ήταν το πραγματικό φορτίο που παρερμηνεύθηκε από το σύστημα AI. Πηγή του δικτύου τόνισε ότι η αναφορά ήταν «εντελώς ψευδής» και πως «σχεδόν ξεκίνησε έναν πόλεμο», καθώς οποιαδήποτε αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να οδηγήσει σε κλιμάκωση.

Οι κίνδυνοι από την ταχεία ενσωμάτωση της Τεχνητής Νοημοσύνης

Το περιστατικό αναδεικνύει τους κινδύνους που προκύπτουν από την ταχύτατη ενσωμάτωση της Τεχνητής Νοημοσύνης στις στρατιωτικές και πληροφοριακές υπηρεσίες των ΗΠΑ. Σε αυτή την περίπτωση, ένας αναλυτής χρησιμοποίησε chatbot για να επεξεργαστεί δεδομένα σχετικά με το φορτίο του πλοίου, αντλώντας πληροφορίες από τη Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού (US Special Operations Command Pacific), με έδρα τη Χαβάη.

Το σύστημα συνδύασε ανοιχτές πηγές με απόρρητες πληροφορίες από κυβερνητικές βάσεις δεδομένων, καταλήγοντας σε λανθασμένο συμπέρασμα για τη φύση του φορτίου. Ο αναλυτής προχώρησε στη σύνταξη τυπικής αναφοράς με χρήση AI, η οποία διακινήθηκε ως επαληθευμένη ανάλυση σε στρατιωτικούς αξιωματούχους.

Δεν έχει διευκρινιστεί αν το chatbot που χρησιμοποιήθηκε ήταν εμπορικά διαθέσιμο ή ανεπτυγμένο από την αμερικανική κυβέρνηση. Πρώην ανώτερος αξιωματούχος των ΗΠΑ ανέφερε πως «τα εσωτερικά εργαλεία είναι σε μεγάλο βαθμό απλώς αντίγραφα των εμπορικών εφαρμογών, με ένα πιο “γυαλισμένο” περιτύλιγμα». Το Πεντάγωνο και η Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού δεν σχολίασαν το περιστατικό.

Η πίεση για υιοθέτηση της AI και οι φόβοι για μοιραία λάθη

Οι αμερικανικές ένοπλες δυνάμεις επενδύουν διαρκώς στην Τεχνητή Νοημοσύνη, με στόχο την επιτάχυνση λήψης αποφάσεων στο πεδίο της μάχης, από την επιλογή στόχων έως τη διαχείριση πόρων και προϋπολογισμών.

Η αμερικανική κυβέρνηση τονίζει ότι η χώρα δεν πρέπει να μείνει πίσω στην ανάπτυξη στρατιωτικής AI, ιδιαίτερα απέναντι σε αντιπάλους όπως η Κίνα. Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη στρατηγική του Πενταγώνου για την επιτάχυνση της χρήσης Τεχνητής Νοημοσύνης, επισημαίνοντας πως «θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια και θα επικεντρώσουμε τις επενδύσεις μας ώστε να διασφαλίσουμε ότι θα ηγηθούμε στην τεχνολογία της στρατιωτικής AI».

Παράλληλα, αξιωματούχοι επισημαίνουν ότι η εφαρμογή της AI γίνεται χωρίς ενιαίο πλαίσιο ασφαλείας, με διαφορετικές υπηρεσίες να χρησιμοποιούν διαφορετικά εργαλεία και κανόνες ελέγχου.

Το περιστατικό με το κινεζικό πλοίο δεν αποτελεί μεμονωμένη περίπτωση. Οι λεγόμενες «παραισθήσεις» της AI – η δημιουργία πειστικών αλλά ανακριβών πληροφοριών – έχουν καταγραφεί και σε άλλες περιπτώσεις στην αμερικανική κοινότητα πληροφοριών.

Ιδιαίτερη ανησυχία προκαλεί η χρήση της AI σε επιχειρήσεις στοχοποίησης, όπου ένα λάθος μπορεί να έχει άμεσες ανθρώπινες συνέπειες. Όπως αναφέρει πηγή με γνώση των στρατιωτικών πολιτικών, «η AI στη στοχοποίηση σίγουρα αυξάνεται και δεν υπάρχει πραγματική καθοδήγηση για το πώς η παρουσία ανθρώπου στη διαδικασία θα αποτρέψει απώλειες αμάχων ή φίλια πυρά».

Παράλληλα, ορισμένοι παλαιότεροι αξιωματούχοι των υπηρεσιών πληροφοριών εκφράζουν ανησυχία ότι η πίεση για ταχύτερη παραγωγή αναλύσεων μπορεί να οδηγήσει σε περισσότερα λάθη, ειδικά όταν νεότεροι αναλυτές εμπιστεύονται υπερβολικά τα εργαλεία AI. Όπως χαρακτηριστικά σημειώνει πηγή του CNN: «Η AI σού επιτρέπει να φτάσεις σε μια κακή ιδέα πιο γρήγορα».