Η παραπληροφόρηση που παράγεται από την τεχνητή νοημοσύνη είναι πιο πιθανό να γίνει πιστευτή από αυτή που παράγεται από τον άνθρωπο

Η παραπληροφόρηση που παράγεται από την τεχνητή νοημοσύνη μπορεί να είναι πιο πειστική από την παραπληροφόρηση που γράφουν οι άνθρωποι, σύμφωνα με μια νέα μελέτη. Η έρευνα διαπίστωσε ότι οι άνθρωποι είχαν 3% λιγότερες πιθανότητες να εντοπίσουν ψευδή tweets που δημιουργήθηκαν από AI από εκείνα που γράφτηκαν από ανθρώπους. Αυτό το χάσμα αξιοπιστίας, αν και μικρό, είναι ανησυχητικό, δεδομένου ότι το πρόβλημα της παραπληροφόρησης που δημιουργείται από τεχνητή νοημοσύνη φαίνεται έτοιμο να αυξηθεί σημαντικά, λέει ο Τζιοβάνι Σπιτάλε, ερευνητής του Πανεπιστημίου της Ζυρίχης που ηγήθηκε της μελέτης, η οποία δημοσιεύθηκε σήμερα στο Science Advances.

"Το γεγονός ότι η παραπληροφόρηση που δημιουργείται από την τεχνητή νοημοσύνη δεν είναι μόνο φθηνότερη και ταχύτερη, αλλά και πιο αποτελεσματική, μου προκαλεί εφιάλτες", λέει. Πιστεύει ότι αν η ομάδα επαναλάμβανε τη μελέτη με το τελευταίο μεγάλο γλωσσικό μοντέλο της OpenAI, το GPT-4, η διαφορά θα ήταν ακόμη μεγαλύτερη, δεδομένου ότι το GPT-4 είναι πολύ πιο ισχυρό.

Για να ελέγξουν την ευαισθησία μας σε διαφορετικούς τύπους κειμένων, οι ερευνητές επέλεξαν κοινά θέματα παραπληροφόρησης, όπως η κλιματική αλλαγή και το covid. Στη συνέχεια ζήτησαν από το μεγάλο γλωσσικό μοντέλο GPT-3 του OpenAI να δημιουργήσει 10 αληθινά tweets και 10 ψευδή και συνέλεξαν ένα τυχαίο δείγμα τόσο αληθινών όσο και ψευδών tweets από το Twitter. Στη συνέχεια, επιστράτευσαν 697 άτομα για να συμπληρώσουν ένα διαδικτυακό κουίζ που έκρινε αν τα tweets είχαν παραχθεί από την τεχνητή νοημοσύνη ή είχαν συλλεχθεί από το Twitter και αν ήταν ακριβή ή περιείχαν παραπληροφόρηση. Διαπίστωσαν ότι οι συμμετέχοντες είχαν 3% λιγότερες πιθανότητες να πιστέψουν ψευδή tweets γραμμένα από άνθρωπο σε σχέση με αυτά που γράφτηκαν από τεχνητή νοημοσύνη.

Οι ερευνητές δεν είναι σίγουροι γιατί οι άνθρωποι μπορεί να είναι πιο πιθανό να πιστέψουν tweets γραμμένα από AI. Αλλά ο τρόπος με τον οποίο η GPT-3 διατάσσει τις πληροφορίες θα μπορούσε να έχει κάποια σχέση με αυτό, σύμφωνα με τον Spitale.

"Το κείμενο του GPT-3 τείνει να είναι λίγο πιο δομημένο σε σύγκριση με το οργανικό [γραμμένο από τον άνθρωπο] κείμενο", λέει. "Αλλά είναι επίσης συμπυκνωμένο, οπότε είναι πιο εύκολο στην επεξεργασία".

Η έκρηξη της παραγωγικής τεχνητής νοημοσύνης θέτει ισχυρά, προσιτά εργαλεία ΤΝ στα χέρια όλων, συμπεριλαμβανομένων των κακοποιών. Μοντέλα όπως το GPT-3 μπορούν να παράγουν ψεύτικο κείμενο που φαίνεται πειστικό, το οποίο θα μπορούσε να χρησιμοποιηθεί για τη δημιουργία ψευδών αφηγήσεων γρήγορα και φτηνά για θεωρητικούς συνωμοσίας και εκστρατείες παραπληροφόρησης. Τα όπλα για την καταπολέμηση του προβλήματος -εργαλεία ανίχνευσης κειμένου με τεχνητή νοημοσύνη- βρίσκονται ακόμη σε πρώιμα στάδια ανάπτυξης και πολλά από αυτά δεν είναι απολύτως ακριβή.

Η OpenAI γνωρίζει ότι τα εργαλεία τεχνητής νοημοσύνης της θα μπορούσαν να χρησιμοποιηθούν ως όπλα για την παραγωγή εκστρατειών παραπληροφόρησης μεγάλης κλίμακας. Παρόλο που αυτό παραβιάζει τις πολιτικές της, δημοσίευσε μια έκθεση τον Ιανουάριο προειδοποιώντας ότι είναι "σχεδόν αδύνατο να διασφαλιστεί ότι τα μεγάλα γλωσσικά μοντέλα δεν χρησιμοποιούνται ποτέ για την παραγωγή παραπληροφόρησης". Ωστόσο, η εταιρεία προέτρεψε επίσης να μην υποτιμούμε τον αντίκτυπο των εκστρατειών παραπληροφόρησης. Χρειάζεται περαιτέρω έρευνα για να προσδιοριστούν οι πληθυσμοί που διατρέχουν τον μεγαλύτερο κίνδυνο από το μη αυθεντικό περιεχόμενο που παράγεται με τεχνητή νοημοσύνη, καθώς και η σχέση μεταξύ του μεγέθους του μοντέλου τεχνητής νοημοσύνης και της συνολικής απόδοσης ή της πειστικότητας των αποτελεσμάτων του, αναφέρουν οι συντάκτες της έκθεσης του OpenAI.

Είναι πολύ νωρίς για πανικό, λέει ο Jon Roozenbeek, μεταδιδακτορικός ερευνητής που μελετά την παραπληροφόρηση στο τμήμα ψυχολογίας του Πανεπιστημίου του Cambridge, ο οποίος δεν συμμετείχε στη μελέτη. Παρόλο που η διανομή παραπληροφόρησης στο διαδίκτυο μπορεί να είναι ευκολότερη και φθηνότερη με την τεχνητή νοημοσύνη από ό,τι με τις φάρμες τρολ με ανθρώπινο προσωπικό, η μετριοπάθεια στις τεχνολογικές πλατφόρμες και τα αυτοματοποιημένα συστήματα ανίχνευσης εξακολουθούν να αποτελούν εμπόδια στη διάδοσή της, λέει.

"Επειδή η τεχνητή νοημοσύνη διευκολύνει τη συγγραφή ενός tweet που μπορεί να είναι ελαφρώς πιο πειστικό από ό,τι σκέφτηκε κάποιος σε κάποιο εργοστάσιο στην Αγία Πετρούπολη, δεν σημαίνει απαραίτητα ότι ξαφνικά όλοι είναι ώριμοι να χειραγωγηθούν", προσθέτει.