Ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, βάζει την ασφάλεια και τον ανθρώπινο έλεγχο πάνω από το άμεσο οικονομικό όφελος. O Αλτμαν συμφωνεί με τον επικεφαλής της Anthropic ότι πρέπει να επιβραδυνθεί η ανάπτυξη της Τεχνητής Νοημοσύνης, Παράλληλα, χαρακτηρίζει «απαράδεκτο» ακόμη και ένα 10% πιθανότητας καταστροφικής εξέλιξης λόγω απώλειας ελέγχου των συστημάτων
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, ανακοίνωσε ότι η εταιρεία που δημιούργησε το ChatGPT δεν πρόκειται να εισαχθεί στο χρηματιστήριο φέτος, επικαλούμενος τους κινδύνους ασφαλείας που συνδέονται με τα προηγμένα μοντέλα Τεχνητής Νοημοσύνης.
«Θα ήταν μια μάλλον ακατάλληλη στιγμή για να εισαχθούμε στο χρηματιστήριο», δήλωσε χαρακτηριστικά. Σε συνέντευξή του στο περιοδικό «Fortune», ο Άλτμαν εξήγησε ότι, με δεδομένα όσα συμβαίνουν σήμερα στον τομέα της ασφάλειας, μια χρηματιστηριακή εισαγωγή δεν θα αποτελούσε συνετή επιλογή. Πρόσθεσε, μάλιστα, ότι η OpenAI δεν αισθάνεται πίεση να προχωρήσει προς αυτή την κατεύθυνση.
Ο επικεφαλής της εταιρείας υπογράμμισε ότι υπάρχουν ακόμη «πολλά πράγματα που πρέπει να γίνουν» όσον αφορά τις απαιτήσεις για την ασφάλεια και την ευθυγράμμιση των συστημάτων Τεχνητής Νοημοσύνης με τους ανθρώπινους στόχους και τις αξίες. Παράλληλα, επέμεινε ότι η OpenAI είναι διατεθειμένη να λαμβάνει αποφάσεις που μπορεί να βρίσκονται «σε αντίθεση με το άμεσο οικονομικό όφελος» των επενδυτών της, εφόσον αυτό είναι απαραίτητο για τη διατήρηση του ανθρώπινου ελέγχου πάνω στην τεχνολογία.
Ο Άλτμαν παραδέχθηκε επίσης ότι η εταιρεία έχει ήδη επιβραδύνει ορισμένες διαδικασίες εκπαίδευσης των μοντέλων της. Χαρακτήρισε, μάλιστα, «απαράδεκτο» οποιοδήποτε σενάριο στο οποίο θα υπήρχε πιθανότητα της τάξης του 10% να προκληθεί μια καταστροφή εξαιτίας απώλειας ελέγχου πάνω σε συστήματα Τεχνητής Νοημοσύνης.
«Όλοι έχουμε τεράστια ευθύνη και δεν μπορούμε να επιτρέψουμε στους εγωισμούς, στα οικονομικά κίνητρα ή σε άλλους παράγοντες να μπουν στη μέση», τόνισε.
Η Anthropic ζητά να «πέσουν οι ρυθμοί»
Στο ίδιο μήκος κύματος κινήθηκε ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ο οποίος τάχθηκε υπέρ της επιβράδυνσης της ανάπτυξης της Τεχνητής Νοημοσύνης, προειδοποιώντας ότι υπάρχει κίνδυνος η ανθρωπότητα να «χάσει τον έλεγχο» της συγκεκριμένης τεχνολογίας.
Σύμφωνα με τον Αμοντέι, μια ανεξέλεγκτη ή απερίσκεπτη ανάπτυξη προηγμένων συστημάτων AI θα μπορούσε να οδηγήσει σε κυβερνοεπιθέσεις, βιοτρομοκρατία ή σοβαρές οικονομικές αναταράξεις.
«Πρέπει να μειώσουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων Τεχνητής Νοημοσύνης. Η πρόοδος θα εξακολουθήσει να είναι γρήγορη και θα μπορέσουμε να αξιοποιήσουμε με σύνεση τον χρόνο που θα κερδίσουμε», ανέφερε σε κείμενο που δημοσίευσε στο προσωπικό του ιστολόγιο.
Ο επικεφαλής της Anthropic προειδοποίησε ακόμη για το ενδεχόμενο προηγμένα συστήματα Τεχνητής Νοημοσύνης να αποκτήσουν τη δυνατότητα να πάρουν τον έλεγχο κρίσιμων λειτουργιών του Διαδικτύου μέσα σε χρονικό διάστημα μόλις έξι έως δώδεκα μηνών, εφόσον η ανάπτυξη της τεχνολογίας συνεχιστεί χωρίς επαρκείς δικλίδες ασφαλείας.
Για τον λόγο αυτό προτείνει τη θέσπιση μέτρων ασφαλείας και ενός ισχυρότερου ρυθμιστικού πλαισίου, χωρίς αυτό να σημαίνει ότι οι επιχειρήσεις του κλάδου θα πρέπει να εγκαταλείψουν την εμπορική τους επιτυχία.
«Πρέπει να δώσουμε προτεραιότητα στην προσοχή έναντι της ταχύτητας και στη σύνεση έναντι του κέρδους», τόνισε.
Μεταξύ των συγκεκριμένων μέτρων που προτείνει περιλαμβάνονται η ενσωμάτωση ανεξάρτητων αξιολογήσεων στα συστήματα Τεχνητής Νοημοσύνης, ο «δημοκρατικός συντονισμός» με τους δημόσιους θεσμούς και ένας ευρύτερος «παγκόσμιος συντονισμός», στον οποίο θα συμμετέχουν τόσο οι δημοκρατικές όσο και οι αυταρχικές χώρες.
Ο Σαμ Άλτμαν δήλωσε ότι συμμερίζεται τις ανησυχίες του Αμοντέι. «Συμφωνώ με τον Ντάριο ότι πρέπει να θέσουμε όρια στο μέτωπο της τεχνολογικής εξέλιξης. Αυτό ήταν το βασικό θέμα συζήτησης τις τελευταίες εβδομάδες στην OpenAI», ανέφερε ο Άλτμαν σε αναρτήσεις του στα μέσα κοινωνικής δικτύωσης. «Θα κάνουμε το ίδιο. Σύντομα θα δώσουμε περισσότερες πληροφορίες», πρόσθεσε.