Γιατί δεν πρέπει να εμπιστεύεστε τις μηχανές αναζήτησης Τεχνητής Νοημοσύνης

Η περασμένη εβδομάδα ήταν η εβδομάδα που υποτίθεται ότι έγιναν διαθέσιμες οι μηχανές αναζήτησης που λειτουργούσαν με chatbot. Η μεγάλη ιδέα είναι ότι αυτά τα ρομπότ τεχνητής νοημοσύνης θα ανατρέψουν την εμπειρία μας από την αναζήτηση στον ιστό δημιουργώντας ομιλητικές απαντήσεις στις ερωτήσεις μας, αντί να επιστρέφουν απλώς λίστες συνδέσμων όπως κάνουν οι αναζητήσεις τώρα. Μόνο… τα πράγματα πραγματικά δεν πήγαν σύμφωνα με το σχέδιο.

Περίπου δύο δευτερόλεπτα αφότου η Microsoft άφησε τους ανθρώπους να περιηγηθούν με τη νέα της μηχανή αναζήτησης Bing που υποστηρίζεται από ChatGPT, οι άνθρωποι άρχισαν να διαπιστώνουν ότι απαντούσε σε ορισμένες ερωτήσεις με λανθασμένες ή παράλογες απαντήσεις, όπως θεωρίες συνωμοσίας. Η Google είχε μια ντροπιαστική στιγμή όταν οι επιστήμονες εντόπισαν ένα πραγματικό λάθος στη διαφήμιση της ίδιας της εταιρείας για το chatbot Bard, το οποίο στη συνέχεια εξαφάνισε 100 δισεκατομμύρια δολάρια από την τιμή της μετοχής της.

Αυτό που κάνει όλο αυτό ακόμα πιο συγκλονιστικό είναι ότι ήταν δεν ήταν έκπληξη για όποιον έχει μελετήσει τα μοντέλα γλώσσας ΤΝ.

Το πρόβλημα έγκειται στο γεγονός ότι η τεχνολογία απλά δεν είναι έτοιμη να χρησιμοποιηθεί έτσι σε αυτήν την κλίμακα. Τα μοντέλα γλώσσας τεχνητής νοημοσύνης συχνά παρουσιάζουν ψέματα ως γεγονότα. Είναι άριστα στο να προβλέψουν την επόμενη λέξη σε μια πρόταση, αλλά δεν γνωρίζουν τι σημαίνει στην πραγματικότητα η πρόταση. Αυτό καθιστά απίστευτα επικίνδυνο τον συνδυασμό τους με την αναζήτηση, όπου είναι ζωτικής σημασίας να ξεκαθαρίζουμε τα γεγονότα.

Το OpenAI, ο δημιουργός του επιτυχημένου chatbot ΤΝ ChatGPT, τόνιζε πάντα ότι εξακολουθεί να είναι απλώς ένα ερευνητικό έργο και ότι βελτιώνεται συνεχώς καθώς λαμβάνει τα σχόλια των ανθρώπων. Αυτό δεν εμπόδισε τη Microsoft να το ενσωματώσει σε μια νέα έκδοση του Bing, αν και με προειδοποιήσεις ότι τα αποτελέσματα αναζήτησης μπορεί να μην είναι αξιόπιστα.

Η Google χρησιμοποιεί επεξεργασία φυσικής γλώσσας εδώ και χρόνια για να βοηθήσει τους ανθρώπους να αναζητήσουν στο διαδίκτυο χρησιμοποιώντας ολόκληρες προτάσεις αντί για λέξεις-κλειδιά. Ωστόσο, μέχρι τώρα η εταιρεία ήταν απρόθυμη να ενσωματώσει τη δική της τεχνολογία chatbot ΤΝ στη μηχανή αναζήτησής της με υπογραφή, λέει ο Chirag Shah, καθηγητής στο Πανεπιστήμιο της Ουάσιγκτον που ειδικεύεται στην online αναζήτηση. Η ηγεσία της Google ανησυχεί για τον «κίνδυνο φήμης» από τη βιασύνη του εργαλείου που μοιάζει με το ChatGPT. Τι ειρωνεία!

Οι πρόσφατες γκάφες από τη Big Tech δεν σημαίνουν ότι η αναζήτηση με τεχνητή νοημοσύνη είναι χαμένη υπόθεση. Ένας τρόπος με τον οποίο η Google και η Microsoft προσπάθησαν να κάνουν πιο ακριβείς τις περιλήψεις αναζήτησής τους που δημιουργούνται από ΤΝ είναι να προσφέρουν αναφορές. Η σύνδεση με πηγές επιτρέπει στους χρήστες να κατανοούν καλύτερα από πού παίρνει τις πληροφορίες της η μηχανή αναζήτησης, λέει η Margaret Mitchell, ερευνήτρια και ηθικολόγος στην startup τεχνητής νοημοσύνης Hugging Face, η οποία ήταν επικεφαλής της ομάδας ηθικής τεχνητής νοημοσύνης της Google. Αυτό θα μπορούσε ακόμη και να βοηθήσει να δοθεί στους ανθρώπους μια πιο διαφορετική αντίληψη για τα πράγματα, λέει, παροτρύνοντάς τους να εξετάσουν περισσότερες πηγές από ό,τι θα μπορούσαν να είχαν κάνει διαφορετικά.

Αλλά αυτό δεν κάνει τίποτα για να αντιμετωπίσει το θεμελιώδες πρόβλημα ότι αυτά τα μοντέλα τεχνητής νοημοσύνης συνθέτουν πληροφορίες και παρουσιάζουν με σιγουριά τα ψέματα ως γεγονός. Και όταν το κείμενο που δημιουργείται από την τεχνητή νοημοσύνη φαίνεται έγκυρο και αναφέρει πηγές, αυτό θα μπορούσε να κάνει τους χρήστες ακόμη λιγότερο πιθανό να ελέγξουν ξανά τις πληροφορίες που βλέπουν.

«Πολλοί άνθρωποι δεν ελέγχουν τις αναφορές. Η ύπαρξη μιας παραπομπής δίνει σε κάτι έναν αέρα ορθότητας που μπορεί στην πραγματικότητα να μην υπάρχει», λέει η Mitchell.

Αλλά η ακρίβεια των αποτελεσμάτων αναζήτησης δεν είναι πραγματικά το ζητούμενο για τη Big Tech, λέει ο Shah. Αν και η Google επινόησε την τεχνολογία που τροφοδοτεί την τρέχουσα διαφημιστική εκστρατεία ΤΝ, η αναγνώριση και η προσοχή είναι σταθερά συνδεδεμένες με την πολυσύχναστη startup OpenAI και τον προστάτη της, τη Microsoft. «Είναι σίγουρα ντροπιαστικό για την Google. Τώρα είναι σε θέση άμυνας. Δεν ήταν σε αυτή τη θέση για πολύ καιρό», λέει ο Shah.

Εν τω μεταξύ, η Microsoft έχει στοιχηματίσει ότι οι προσδοκίες γύρω από το Bing είναι τόσο χαμηλές που μερικά σφάλματα δεν θα έχουν πραγματικά σημασία. Η Microsoft κατέχει λιγότερο από το 10% του μεριδίου αγοράς για διαδικτυακή αναζήτηση. Το να κερδίσουν μόνο μερικές ακόμη ποσοστιαίες μονάδες θα ήταν μια τεράστια νίκη για αυτούς, λέει ο Shah.

Υπάρχει ένα ακόμη μεγαλύτερο παιχνίδι πέρα από την αναζήτηση με τεχνητή νοημοσύνη, προσθέτει ο Shah. Η αναζήτηση είναι μόνο ένας από τους τομείς όπου οι δύο τεχνολογικοί γίγαντες μάχονται μεταξύ τους. Ανταγωνίζονται επίσης σε υπηρεσίες υπολογιστικού νέφους, λογισμικό παραγωγικότητας και εταιρικό λογισμικό. Το Conversational AI γίνεται ένας τρόπος επίδειξης τεχνολογίας αιχμής που μεταφράζεται σε αυτούς τους άλλους τομείς της επιχείρησης.

Ο Shah εκτιμά ότι οι εταιρείες θα χρησιμοποιήσουν τις "αβαρίες" που εμφανίζονται, ως ευκαιρίες μάθησης. «Αντί να προσεγγίσουν προσεκτικά αυτό, το κάνουν με πολύ τολμηρό τρόπο. Αφήστε το [σύστημα ΤΝ] να κάνει λάθη, γιατί τώρα ο ασκός του Αιόλου έχει ανοίξει», λέει. Ουσιαστικά, εμείς—οι χρήστες— κάνουμε τώρα το έργο της δοκιμής αυτής της τεχνολογίας δωρεάν. «Είμαστε όλοι πειραματόζωα σε αυτό το σημείο», λέει ο Shah.