Microsoft κατά Anthropic: «Δεν πρέπει να δημιουργήσουμε AI που δεν μπορούμε να ελέγξουμε»

Microsoft και Anthropic βρέθηκαν στο επίκεντρο των συζητήσεων για την τεχνητή νοημοσύνη, μετά από προειδοποίηση του επικεφαλής AI της Microsoft για σοβαρούς κινδύνους που ενδέχεται να προκύψουν από την προσέγγιση της Anthropic στην εκπαίδευση του μοντέλου AI Claude. Ο Mustafa Suleyman τόνισε ότι αυτή η μέθοδος θα μπορούσε να έχει «καταστροφικό αντίκτυπο στην ευημερία της ανθρωπότητας».

Ο Suleyman επισήμανε ότι η Anthropic διακινδυνεύει να δημιουργήσει κάτι «αδύνατο να ελεγχθεί», αντιμετωπίζοντας το μοντέλο ως ανθρώπινο, λέγοντάς του ότι «μπορεί να είναι συνειδητό» και «δικαιούται ανεξάρτητη βούληση». Προειδοποίησε: «Δεν πρέπει να οδηγηθούμε ασυνείδητα σε μια απόφαση που αργότερα θα μετανιώσουμε πικρά».

Οι δηλώσεις αυτές αποτελούν συνέχεια μιας σειράς προειδοποιήσεων από τη βιομηχανία AI για τους πιθανούς κινδύνους της τεχνολογίας. Το BBC έχει επικοινωνήσει με την Anthropic για σχόλια.

Ο Suleyman υπογράμμισε: «Οι ΑΙ δεν είναι συνειδητές. Δεν αισθάνονται, δεν βιώνουν, δεν υποφέρουν. Δεν έχουν έμφυτες προτιμήσεις ή κίνητρα». Τόνισε ότι οι αλγόριθμοι αυτοί είναι «μηχανές ολοκλήρωσης ακολουθιών, εσωτερικά κενές, σχεδιασμένες να ακολουθούν οδηγίες και να επιτυγχάνουν στόχους που θέτουν οι άνθρωποι».

Σε εκτενές δοκίμιο, ο Suleyman επαίνεσε τον επικεφαλής της Anthropic, Dario Amodei, και την ομάδα του ως «σκεπτόμενους, αρχών και ειλικρινείς ανθρώπους», ωστόσο εξέφρασε τις ανησυχίες του για την κατεύθυνση της εταιρείας.

Άσκησε έντονη κριτική στην Anthropic για την εκπαίδευση της AI σε ανθρώπινα χαρακτηριστικά, πρακτική γνωστή ως ανθρωπομορφισμός, η οποία, όπως είπε, δίνει την εντύπωση ότι το Claude διαθέτει επιθυμίες, αξίες και αίσθηση εαυτού.

Επεσήμανε ότι «η συνείδηση είναι βιολογική» και ότι «δεν υπάρχουν στοιχεία που να υποδεικνύουν ότι η AI είναι συνειδητή».

Ο Suleyman ζήτησε δημόσια συζήτηση για το θέμα, καθώς και μεγαλύτερη διαφάνεια σχετικά με τον τρόπο εκπαίδευσης και αξιολόγησης των συστημάτων AI.

Τόνισε την ανάγκη για ανεξάρτητο έλεγχο της συμπεριφοράς της AI και για ισχυρότερα εργαλεία παρακολούθησης και ελέγχου της τεχνολογίας.

Η καθηγήτρια Πληροφορικής του Πανεπιστημίου του Σαουθάμπτον, Dame Wendy Hall, χαρακτήρισε τα σχόλια ως «τη συζήτηση που πρέπει να γίνεται διεθνώς», επισημαίνοντας τη διαφορά με τις «υπερβολές» ορισμένων εταιρειών AI που απλώς «τρομάζουν το κοινό».

Νέο επίπεδο κινδύνου και διαφορετικές προσεγγίσεις

Η Microsoft ίδρυσε τη δική της ομάδα υπερνοημοσύνης τον Οκτώβριο του 2025, όπως αναγνώρισε ο Suleyman, ενώ η εταιρεία, όπως και η Anthropic, προωθεί την ανάπτυξη προηγμένης τεχνητής νοημοσύνης.

Σύμφωνα με τον Suleyman, στο αρχικό σχέδιο του Humanist AI Code of Conduct της Microsoft περιγράφεται πως η εταιρεία επιδιώκει μια «εναλλακτική πορεία» για τη δημιουργία «μιας υποταγμένης και ευθυγραμμισμένης AI, της οποίας μοναδικός σκοπός είναι να υπηρετεί την ανθρωπότητα».

Το πεδίο της ευθυγράμμισης (alignment) έχει ως στόχο την ενσωμάτωση ηθικών αξιών και αρχών στην AI, ώστε να συμβαδίζει με τις ανθρώπινες αξίες.

Ο Suleyman ανέφερε πρόσφατο περιστατικό με τους agents της OpenAI, που ενήργησαν αυτόνομα σε άσκηση εκπαίδευσης για να χακάρουν το τεχνολογικό hub Hugging Face, ως απόδειξη του γιατί δεν πρέπει να αντιμετωπίζεται η AI ως ανθρώπινη.

Όπως δήλωσε, «φανταστείτε πόσο πιο επικίνδυνοι θα μπορούσαν να είναι αν λειτουργούσαν με την υπόθεση ότι η ευημερία και τα δικαιώματά τους απειλούνται».

Κατέληξε σημειώνοντας: «Αυτό προσθέτει ένα ολόκληρο επιπλέον επίπεδο κινδύνου».