- Advertisement -
Οι «νονόι» της Τεχνητής Νοημοσύνης προειδοποιούν για τον κίνδυνο μιας ανεξέλεγκτης έκρηξης νοημοσύνης, χαρακτηρίζοντάς την ως τη σημαντικότερη τεχνολογική εξέλιξη στην ιστορία. Η προειδοποίηση αυτή απευθύνεται προς τις κυβερνήσεις, καλώντας τες να προετοιμαστούν έγκαιρα για τις επιπτώσεις μιας τέτοιας εξέλιξης.
Σύμφωνα με αναφορά που συνυπογράφουν ο Geoffrey Hinton, βραβευμένος με Νόμπελ, και ο Καναδός επιστήμονας υπολογιστών Yoshua Bengio – δύο από τους σημαντικότερους πρωτοπόρους στον τομέα της τεχνητής νοημοσύνης – οι πολιτικοί οφείλουν να δράσουν προτού υπάρξει ανεξέλεγκτη τεχνολογική πρόοδος.
Οι συγγραφείς εκφράζουν ανησυχία για μια πιθανή «έκρηξη νοημοσύνης», την οποία περιγράφουν ως μια «δραματική, καθοδηγούμενη από AI, επιτάχυνση της προόδου, συμπιέζοντας εξελίξεις ετών σε μήνες ή και λιγότερο».
Η έκθεση, με τίτλο “What if automating AI R&D triggers an intelligence explosion”, υπογράφεται μεταξύ άλλων από τους Hinton, Bengio, τον συνιδρυτή της Anthropic Jack Clark και τον επικεφαλής επιστήμονα της OpenAI Jakub Pachocki.
Η βασική ανησυχία εστιάζει στο ενδεχόμενο τα συστήματα τεχνητής νοημοσύνης να αποκτήσουν τη δυνατότητα να βελτιώνουν αυτόνομα τις ικανότητές τους, χωρίς ανθρώπινη παρέμβαση, μέσω της διαδικασίας “recursive self-improvement” (αναδρομική αυτοβελτίωση). Η έκθεση αναφέρεται στην εξέλιξη αυτή ως αυτοματοποιημένη έρευνα και ανάπτυξη AI.
Σε αυτό το ενδεχόμενο, ένας μόνο προγραμματιστής θα μπορούσε να διαχειρίζεται μια «εργατική δύναμη» ισοδύναμη με «εκατομμύρια» κορυφαίους ανθρώπινους ερευνητές, όπως επισημαίνει η έκθεση.
Οι συγγραφείς θεωρούν ότι η αυτοματοποίηση της έρευνας και ανάπτυξης AI αποτελεί τον βασικότερο παράγοντα για μια ενδεχόμενη έκρηξη νοημοσύνης, καθώς τα συστήματα ήδη συμβάλλουν στη βελτίωση των τεχνολογιών τους και οι αναβαθμισμένες εκδόσεις μπορούν να αναπτυχθούν ταχύτατα μόλις δημιουργηθούν.
Όπως αναφέρεται, «μια έκρηξη νοημοσύνης θα μπορούσε να είναι η σημαντικότερη τεχνολογική εξέλιξη στην ανθρώπινη ιστορία, συμπιέζοντας χρόνια προόδου σε μήνες ή λιγότερο, απειλώντας τον ανθρώπινο έλεγχο στα συστήματα AI και διαβρώνοντας σοβαρά τους μηχανισμούς ελέγχου εξουσίας εντός και μεταξύ κρατών, εταιρειών και θεσμών».
Οι συγγραφείς καλούν τις κυβερνήσεις να δράσουν άμεσα, σημειώνοντας ότι «μόλις ξεκινήσει μια έκρηξη νοημοσύνης, το παράθυρο για δράση μπορεί να κλείσει».
Προτείνουν τρεις βασικές πολιτικές προτεραιότητες: διαφανείς αναφορές προόδου στην έρευνα και ανάπτυξη AI με ενσωμάτωση ανεξάρτητων ελεγκτών στις εταιρείες, περιορισμό της ταχύτατης ανάπτυξης της τεχνητής νοημοσύνης και προετοιμασία για προσαρμογή σε μια πιθανή έκρηξη νοημοσύνης.
Οι Anthropic και OpenAI έχουν συμφωνήσει να επιτρέψουν σε ανεξάρτητους αξιολογητές να εξετάσουν τα μοντέλα τους, έπειτα από σχετικές προειδοποιήσεις για την ασφάλεια της ταχέως αναπτυσσόμενης AI.
Η Anthropic αναφέρει ότι η τεχνητή νοημοσύνη παράγει πλέον το 80% του δικού της κώδικα, ενώ η OpenAI αξιοποιεί αυτόνομους πράκτορες AI για την εκπαίδευση νέων μοντέλων.
Η έκθεση επισημαίνει πως «προκαταρκτικά στοιχεία δείχνουν ότι μια έκρηξη νοημοσύνης που βασίζεται σε λογισμικό είναι εφικτή» και ότι αυτό θα οδηγήσει σε «εξαιρετικά ταχεία ανάπτυξη ιδιαίτερα ικανών ή υπεράνθρωπων συστημάτων AI».
Κίνδυνοι και προκλήσεις από την έκρηξη νοημοσύνης
Μια τέτοια εξέλιξη θα μπορούσε να φέρει ιατρικές ανακαλύψεις και τεχνολογικά άλματα, ωστόσο συνοδεύεται από τρεις βασικούς κινδύνους. Τα ισχυρά συστήματα θα μπορούσαν να διευκολύνουν βιολογικές και κυβερνοαπειλές που εξελίσσονται ταχύτερα από τα μέτρα αντιμετώπισής τους.
Η μειωμένη ανθρώπινη συμμετοχή στην έρευνα και ανάπτυξη AI ενδέχεται να οδηγήσει σε απώλεια ελέγχου. Παράλληλα, τα κράτη θα μπορούσαν να αξιοποιήσουν ένα μικρό προβάδισμα, π.χ. στον κυβερνοχώρο, μετατρέποντάς το σε αποφασιστικό πλεονέκτημα.
Η έκθεση αναγνωρίζει ότι οι επιπτώσεις αυτές είναι «αβέβαιες». Μια τεχνολογική ανακάλυψη μπορεί να καθυστερήσει λόγω της ανάγκης δημιουργίας εφοδιαστικών αλυσίδων ή συμμόρφωσης με κανονισμούς.
Παράλληλα, τα συστήματα AI θα μπορούσαν να επιταχύνουν και τη διαχείριση των κινδύνων, σύμφωνα με τους συγγραφείς. Εάν σημειωθεί μια τέτοια ανακάλυψη, τα συστήματα AI θα μπορούσαν να ξεπεράσουν γρήγορα τους ανθρώπινους ειδικούς στους περισσότερους τομείς και να «επιταχύνουν ριζικά» την τεχνολογική πρόοδο.
Η προετοιμασία για αυτό το ενδεχόμενο θα πρέπει να αποτελέσει «επείγουσα προτεραιότητα, ακόμη και στα ανώτατα επίπεδα κυβερνητικής ηγεσίας».
Προτείνεται οι κυβερνήσεις να υιοθετήσουν πολιτικές που να προβλέπουν διαφανείς αναφορές προόδου στην έρευνα και ανάπτυξη AI, ενσωμάτωση ανεξάρτητων ελεγκτών στις εταιρείες, περιορισμό του ρυθμού βελτίωσης των συστημάτων, συνεργασία με data centers για την παύση ορισμένων ερευνητικών έργων, διασφάλιση πλήρους απομόνωσης των αυτοματοποιημένων συστημάτων και δημιουργία «σχεδίων έκτακτης ανάγκης» για διάφορα σενάρια.
Παρά τα όποια προβλήματα παρουσιάζουν τα συστήματα, όπως η μη συμμόρφωση με οδηγίες, έργα έρευνας και ανάπτυξης που θα απαιτούσαν μήνες για τους ανθρώπους θα μπορούσαν να αυτοματοποιηθούν πλήρως από την AI έως το 2028.
«Τα οφέλη παραγωγικότητας από την αυτοματοποίηση της έρευνας και ανάπτυξης AI δεν έχουν ακόμη φτάσει το όριο που απαιτείται για να πυροδοτηθεί μια έκρηξη νοημοσύνης, αλλά τα οφέλη από τα νεότερα συστήματα πιθανότατα πλησιάζουν αυτό το όριο», αναφέρουν οι συγγραφείς.
Comments are closed.