Πρωτοπόροι της τεχνολογίας ζητούν εξάμηνη παύση της "ανεξέλεγκτης" ανάπτυξης της τεχνητής νοημοσύνης

Πολλοί πρωτοπόροι της τεχνολογίας υπέγραψαν ανοιχτή επιστολή με την οποία ζητούν να σταματήσει η ανάπτυξη της προηγμένης τεχνητής νοημοσύνης (ΤΝ). Η ανοιχτή επιστολή του Ινστιτούτου Future of Life έλαβε περισσότερους από 1.100 υπογράφοντες, μεταξύ των οποίων ο Elon Musk, ο βραβευμένος με το βραβείο Turing Yoshua Bengio και ο Steve Wozniak.

Ζητείται "άμεση παύση" της "εκπαίδευσης συστημάτων τεχνητής νοημοσύνης ισχυρότερων από το GPT-4" για τουλάχιστον έξι μήνες.

Σύμφωνα με το ινστιτούτο, η έκκληση για δράση έρχεται ως άμεση απάντηση στην ταχεία επιτάχυνση των τεχνολογιών δημιουργικής τεχνητής νοημοσύνης που αναπτύσσονται σήμερα από μεγάλους παράγοντες της βιομηχανίας, όπως η Microsoft και η Google.  

Στην επιστολή υποστηρίζεται ότι, ενώ αυτό το κύμα καινοτομίας συνεχίζεται, υπάρχει μια σαφής έλλειψη εταιρικών και ρυθμιστικών εγγυήσεων που εφαρμόζονται επί του παρόντος για να μετριάσουν την ανάπτυξη της δημιουργικής ΤΝ, η οποία ενέχει σημαντικούς κινδύνους για την κοινωνία.  

"Όπως αναφέρεται στις ευρέως επικυρωμένες αρχές της Asilomar AI, η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει μια βαθιά αλλαγή στην ιστορία της ζωής στη Γη και θα πρέπει να σχεδιαστεί και να διαχειριστεί με ανάλογη προσοχή και πόρους", αναφέρεται στην επιστολή.

"Δυστυχώς, αυτό το επίπεδο σχεδιασμού και διαχείρισης δεν συμβαίνει, παρόλο που τους τελευταίους μήνες τα εργαστήρια Τεχνητής Νοημοσύνης έχουν εγκλωβιστεί σε έναν ανεξέλεγκτο αγώνα δρόμου για την ανάπτυξη και την ανάπτυξη ολοένα και πιο ισχυρών ψηφιακών μυαλών που κανείς - ούτε καν οι δημιουργοί τους - δεν μπορεί να κατανοήσει, να προβλέψει ή να ελέγξει αξιόπιστα". 

Η συνιστάμενη εξάμηνη παύση στην ανάπτυξη θα πρέπει να είναι "δημόσια και επαληθεύσιμη", δήλωσε το ινστιτούτο, και να περιλαμβάνει τη συνεργασία μεταξύ "βασικών παραγόντων" της τεχνολογικής βιομηχανίας για την από κοινού ανάπτυξη και εφαρμογή ενός "συνόλου κοινών πρωτοκόλλων ασφαλείας για τον σχεδιασμό προηγμένης τεχνητής νοημοσύνης".  

Επιπλέον, μετά την εφαρμογή τους, τα μέτρα ασφαλείας θα πρέπει να "ελέγχονται και να επιβλέπονται αυστηρά από ανεξάρτητους εξωτερικούς εμπειρογνώμονες. Τα πρωτόκολλα αυτά θα πρέπει να διασφαλίζουν ότι τα συστήματα που τα τηρούν είναι ασφαλή πέραν πάσης αμφιβολίας. Αυτό δεν σημαίνει παύση στην ανάπτυξη της τεχνητής νοημοσύνης γενικά, απλώς ένα βήμα πίσω από την επικίνδυνη κούρσα προς ολοένα και μεγαλύτερα απρόβλεπτα μοντέλα μαύρου κουτιού με αναδυόμενες ικανότητες". 

Η δημοσίευση αυτής της ανοικτής επιστολής ακολουθεί τις εκκλήσεις από μια σειρά ενδιαφερόμενων φορέων του κλάδου που υπογραμμίζουν την αυξανόμενη σημασία της υπεύθυνης και ηθικής ανάπτυξης της ΤΝ.

Την περασμένη εβδομάδα, η Mozilla ανακοίνωσε την έναρξη μιας νέας νεοφυούς επιχείρησης τεχνητής νοημοσύνης ανοικτού κώδικα, με την ονομασία Mozilla AI, η οποία έχει ως στόχο να φέρει σε επαφή προγραμματιστές, ερευνητές και φορείς χάραξης πολιτικής για να ενθαρρύνει την ανάπτυξη "αξιόπιστης τεχνητής νοημοσύνης".

Ο Mark Surman, εκτελεστικός πρόεδρος της Mozilla, δήλωσε στο IT Pro ότι ο οργανισμός ελπίζει να τοποθετήσει τη νεοφυή επιχείρηση ως αντίβαρο στην κυριαρχία της Microsoft και της Google, οι οποίες επενδύουν σημαντικά στη γεννητική τεχνητή νοημοσύνη.

Ο Surman πρότεινε ότι η επιτάχυνση των προϊόντων γεννητικής τεχνητής νοημοσύνης τους τελευταίους μήνες εγκυμονεί σοβαρούς κινδύνους τόσο για τις επιχειρήσεις όσο και για την κοινωνία, καθώς οι προγραμματιστές συχνά αποτυγχάνουν να εξετάσουν τις πιθανές αρνητικές επιπτώσεις που μπορεί να έχουν αυτές οι τεχνολογίες στα άτομα και στο δημόσιο διάλογο. 

Παράλληλα με τη δράση του κλάδου, η ανοιχτή επιστολή κάλεσε τους προγραμματιστές ΤΝ να συνεργαστούν με τους φορείς χάραξης πολιτικής για να "επιταχύνουν δραματικά την ανάπτυξη ισχυρών συστημάτων διακυβέρνησης ΤΝ".  

Αυτά τα συστήματα διακυβέρνησης θα πρέπει να περιλαμβάνουν "τουλάχιστον" τα εξής:  

• Νέες και ικανές ρυθμιστικές αρχές αφιερωμένες στην ΤΝ
• Εποπτεία και παρακολούθηση των ιδιαίτερα ικανών συστημάτων ΤΝ και των μεγάλων δεξαμενών υπολογιστικών δυνατοτήτων
• Συστήματα προέλευσης και υδατογράφησης για τη διάκριση των πραγματικών από τα συνθετικά και για τον εντοπισμό διαρροών μοντέλων
• ένα ισχυρό οικοσύστημα ελέγχου και πιστοποίησης
• Ευθύνη για βλάβες που προκαλούνται από την ΤΝ
• Στιβαρή δημόσια χρηματοδότηση της τεχνικής έρευνας για την ασφάλεια της ΤΝ
• Θεσμοί με επαρκείς πόρους για την αντιμετώπιση των δραματικών οικονομικών και πολιτικών διαταραχών (ιδίως στη δημοκρατία) που θα προκαλέσει η ΤΝ.

Τους τελευταίους μήνες, το θέμα της ρύθμισης της ΤΝ έχει συζητηθεί επανειλημμένα. Στο Ηνωμένο Βασίλειο, οι υπεύθυνοι χάραξης πολιτικής εξετάζουν πώς να διαμορφώσουν μια ισορροπημένη προσέγγιση για τη δημιουργική ΤΝ, η οποία θα δίνει έμφαση στην υπευθυνότητα, επιτρέποντας παράλληλα την καινοτομία και την ανάπτυξη.  

Η Λευκή Βίβλος της κυβέρνησης του Ηνωμένου Βασιλείου για την ΤΝ, η οποία δημοσιεύθηκε σήμερα, περιγράφει σχέδια για την καθοδήγηση της υπεύθυνης ανάπτυξης της ΤΝ, λαμβάνοντας παράλληλα μια στάση υπέρ της καινοτομίας. Η κυβέρνηση δήλωσε ότι θα αποφύγει την εφαρμογή "βαριάς νομοθεσίας" που θα μπορούσε να καταπνίξει την καινοτομία, επιλέγοντας αντ' αυτού μια "προσαρμόσιμη προσέγγιση για τη ρύθμιση της ΤΝ". 

"Αυτή η προσέγγιση θα σημαίνει ότι οι κανόνες του Ηνωμένου Βασιλείου θα μπορούν να προσαρμόζονται καθώς αναπτύσσεται αυτή η ταχέως εξελισσόμενη τεχνολογία, εξασφαλίζοντας προστασία για το κοινό χωρίς να εμποδίζει τις επιχειρήσεις να χρησιμοποιούν την τεχνολογία ΤΝ για να προσφέρουν ισχυρότερη οικονομική ανάπτυξη, καλύτερες θέσεις εργασίας και τολμηρές νέες ανακαλύψεις που βελτιώνουν ριζικά τη ζωή των ανθρώπων", ανέφερε η κυβέρνηση σε δήλωσή της. 

Η δημοσίευση της ανοικτής επιστολής προκάλεσε διαμάχη μεταξύ των υποτιθέμενων υπογραφόντων, με ορισμένους να αποκαλύπτουν ότι τα ονόματά τους είχαν προστεθεί χωρίς τη συγκατάθεσή τους.  Ο Yann LeCun, επικεφαλής επιστήμονας Τεχνητής Νοημοσύνης στη Meta, διέψευσε τους ισχυρισμούς ότι είχε υπογράψει την ανοιχτή επιστολή σε ένα tweet σήμερα, ενώ άλλοι ακολούθησαν το παράδειγμά του.  "Όχι. Δεν υπέγραψα αυτή την επιστολή", είπε. "Διαφωνώ με την παραδοχή της".

Από τη δημοσίευσή της, τα ονόματα των άλλων υπογραφόντων έχουν αρχίσει να "εξαφανίζονται", σύμφωνα με την ανάλυση της επιστολής από τη δημοσιογράφο του Semafor, Λουίζα Ματσάκη. Ωστόσο, εξέχοντα ονόματα όπως ο Elon Musk, ο Steve Wozniak και ο Yoshua Bengio εξακολουθούν να παραμένουν, προκαλώντας σύγχυση.