Ασφάλεια
Η κρυπτογράφηση μπορεί να προσφέρει μια λύση στο τεράστιο πρόβλημα επισήμανσης των δημιουργιών της τεχνητής νοημοσύνης
Υπάρχει όμως ένα μεγάλο πρόβλημα: ο εντοπισμός υλικού που δημιουργήθηκε από τεχνητή νοημοσύνη αποτελεί τεράστια τεχνική πρόκληση. Οι καλύτερες επιλογές που υπάρχουν σήμερα -εργαλεία εντοπισμού που λειτουργούν με τεχνητή νοημοσύνη και watermark- είναι ασυνεπείς, παροδικές και μερικές φορές ανακριβείς. Στην πραγματικότητα, μόλις αυτή την εβδομάδα η OpenAI έκλεισε το δικό της εργαλείο ανίχνευσης τεχνητής νοημοσύνης λόγω υψηλών ποσοστών σφάλματος.
Αλλά μια άλλη προσέγγιση έχει προσελκύσει την προσοχή τον τελευταίο καιρό: To C2PA. Ξεκίνησε πριν από δύο χρόνια, είναι ένα πρωτόκολλο διαδικτύου ανοιχτού κώδικα που βασίζεται στην κρυπτογράφηση για την κωδικοποίηση λεπτομερειών σχετικά με την προέλευση ενός περιεχομένου, ή αυτό που αποκαλείται "πληροφορίες προέλευσης". Οι προγραμματιστές του C2PA συχνά συγκρίνουν το πρωτόκολλο με μια διατροφική ετικέτα, η οποία όμως αναφέρει από πού προέρχεται το περιεχόμενο και ποιος -ή τι- το δημιούργησε.
Το έργο, μέρος του μη κερδοσκοπικού Joint Development Foundation, ξεκίνησε από τις Adobe, Arm, Intel, Microsoft και Truepic, οι οποίες δημιούργησαν τον Συνασπισμό για την Απόδειξη και την Αυθεντικότητα του Περιεχομένου (από τον οποίο πήρε το όνομά του το C2PA (Coalition for Content Provenance and Authenticity)). Πάνω από 1.500 εταιρείες συμμετέχουν πλέον στο έργο μέσω της στενά συνδεδεμένης κοινότητας ανοικτού κώδικα, Content Authenticity Initiative (CAI), μεταξύ των οποίων τόσο διαφορετικές και εξέχουσες όπως η Nikon, το BBC και η Sony.
Πρόσφατα, καθώς το ενδιαφέρον για την ανίχνευση και τη ρύθμιση της ΤΝ έχει ενταθεί, το έργο έχει κερδίσει έδαφος- ο Andrew Jenks, πρόεδρος της C2PA, λέει ότι τα μέλη έχουν αυξηθεί κατά 56% τους τελευταίους έξι μήνες. Η μεγάλη πλατφόρμα μέσων μαζικής ενημέρωσης Shutterstock έχει ενταχθεί ως μέλος και ανακοίνωσε την πρόθεσή της να χρησιμοποιήσει το πρωτόκολλο για να επισημάνει όλο το περιεχόμενο που παράγει με τεχνητή νοημοσύνη, συμπεριλαμβανομένης της γεννήτριας εικόνων τεχνητής νοημοσύνης DALL-E. Ο Sejal Amin, επικεφαλής τεχνολογίας στο Shutterstock, δήλωσε στο MIT Technology Review σε ηλεκτρονικό μήνυμα ότι η εταιρεία προστατεύει τους καλλιτέχνες και τους χρήστες "υποστηρίζοντας την ανάπτυξη συστημάτων και υποδομών που δημιουργούν μεγαλύτερη διαφάνεια για να αναγνωρίζεται εύκολα τι είναι δημιουργία ενός καλλιτέχνη σε σχέση με την τέχνη που παράγεται ή τροποποιείται από τεχνητή νοημοσύνη".
Τι είναι το C2PA και πώς χρησιμοποιείται;
Η Microsoft, η Intel, η Adobe και άλλες μεγάλες εταιρείες τεχνολογίας άρχισαν να εργάζονται πάνω στο C2PA τον Φεβρουάριο του 2021, ελπίζοντας να δημιουργήσουν ένα καθολικό πρωτόκολλο διαδικτύου που θα επιτρέπει στους δημιουργούς περιεχομένου να επιλέγουν να επισημαίνουν το οπτικό και ακουστικό τους περιεχόμενο με πληροφορίες σχετικά με το από πού προέρχεται. (Τουλάχιστον προς το παρόν, αυτό δεν ισχύει για αναρτήσεις που βασίζονται σε κείμενο). Το κρίσιμο είναι ότι το έργο έχει σχεδιαστεί ώστε να είναι προσαρμόσιμο και λειτουργικό σε όλο το διαδίκτυο, ενώ ο βασικός υπολογιστικός κώδικας είναι προσβάσιμος και δωρεάν σε οποιονδήποτε.
Η Truepic, η οποία πωλεί προϊόντα επαλήθευσης περιεχομένου, έχει επιδείξει πώς λειτουργεί το πρωτόκολλο με ένα deepfake βίντεο με το Revel.ai. Όταν ο θεατής περνάει το ποντίκι του πάνω από ένα μικρό εικονίδιο στην επάνω δεξιά γωνία της οθόνης, εμφανίζεται ένα πλαίσιο με πληροφορίες σχετικά με το βίντεο που περιλαμβάνει τη γνωστοποίηση ότι "περιέχει περιεχόμενο που δημιουργήθηκε από τεχνητή νοημοσύνη".
mirror_of_reflection-0dd672be.mp4
Η Adobe έχει ήδη ενσωματώσει το C2PA, το οποίο αποκαλεί διαπιστευτήρια περιεχομένου, σε διάφορα προϊόντα της, όπως το Photoshop και το Adobe Firefly. "Πιστεύουμε ότι είναι μια προστιθέμενη αξία που μπορεί να προσελκύσει περισσότερους πελάτες στα εργαλεία της Adobe", λέει ο Andy Parsons, ανώτερος διευθυντής της Πρωτοβουλίας Αυθεντικότητας Περιεχομένου στην Adobe και επικεφαλής του έργου C2PA.
Το C2PA διασφαλίζεται μέσω της κρυπτογράφησης, η οποία βασίζεται σε μια σειρά κωδικών και κλειδιών για την προστασία των πληροφοριών από την αλλοίωση και την καταγραφή της προέλευσης των πληροφοριών. Πιο συγκεκριμένα, λειτουργεί με την κωδικοποίηση των πληροφοριών προέλευσης μέσω ενός συνόλου από hashes που συνδέονται κρυπτογραφικά με κάθε pixel, λέει ο Jenks, ο οποίος ηγείται επίσης των εργασιών της Microsoft για το C2PA.
Το C2PA προσφέρει ορισμένα κρίσιμα πλεονεκτήματα σε σχέση με τα συστήματα ανίχνευσης τεχνητής νοημοσύνης, τα οποία χρησιμοποιούν τεχνητή νοημοσύνη για να εντοπίζουν περιεχόμενο που έχει παραχθεί με τεχνητή νοημοσύνη και μπορούν με τη σειρά τους να μάθουν να γίνονται καλύτερα στην αποφυγή της ανίχνευσης. Είναι επίσης ένα πιο τυποποιημένο και, σε ορισμένες περιπτώσεις, πιο εύκολα προβαλλόμενο σύστημα από την υδατογράφηση, την άλλη εξέχουσα τεχνική που χρησιμοποιείται για την αναγνώριση περιεχομένου που παράγεται από ΤΝ. Το πρωτόκολλο μπορεί να λειτουργήσει παράλληλα με τα εργαλεία υδατογράφησης και ανίχνευσης ΤΝ, λέει ο Jenks.
Η αξία των πληροφοριών προέλευσης
Η προσθήκη πληροφοριών προέλευσης στα μέσα ενημέρωσης για την καταπολέμηση της παραπληροφόρησης δεν είναι νέα ιδέα και οι πρώτες έρευνες φαίνεται να δείχνουν ότι μπορεί να είναι πολλά υποσχόμενες: ένα έργο από έναν μεταπτυχιακό φοιτητή του Πανεπιστημίου της Οξφόρδης, για παράδειγμα, βρήκε στοιχεία που αποδεικνύουν ότι οι χρήστες ήταν λιγότερο επιρρεπείς στην παραπληροφόρηση όταν είχαν πρόσβαση σε πληροφορίες προέλευσης για το περιεχόμενο. Πράγματι, στην ενημέρωση της OpenAI σχετικά με το εργαλείο ανίχνευσης τεχνητής νοημοσύνης της, η εταιρεία δήλωσε ότι εστιάζει σε άλλες "τεχνικές προέλευσης" για να ανταποκριθεί στις απαιτήσεις δημοσιοποίησης.
Τούτου λεχθέντος, οι πληροφορίες για την προέλευση απέχουν πολύ από το να αποτελούν λύση για όλα. Το C2PA δεν είναι νομικά δεσμευτικό, και χωρίς την απαιτούμενη υιοθέτηση του προτύπου σε όλο το διαδίκτυο, θα υπάρχει μη επισημασμένο περιεχόμενο που παράγεται από τεχνητή νοημοσύνη, λέει ο Siwei Lyu, διευθυντής του Κέντρου για την Ακεραιότητα της Πληροφορίας και καθηγητής στο Πανεπιστήμιο του Μπάφαλο στη Νέα Υόρκη. "Η έλλειψη υπερεντατικής δεσμευτικής ισχύος δημιουργεί εγγενή κενά σε αυτή την προσπάθεια", λέει, αν και τονίζει ότι το έργο είναι ωστόσο σημαντικό.
Επιπλέον, δεδομένου ότι το C2PA βασίζεται στην επιλογή των δημιουργών, το πρωτόκολλο δεν αντιμετωπίζει πραγματικά το πρόβλημα των κακόβουλων χρηστών που χρησιμοποιούν περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη. Και δεν είναι ακόμη σαφές πόσο χρήσιμη θα είναι η παροχή μεταδεδομένων όταν πρόκειται για την ευχέρεια των μέσων ενημέρωσης του κοινού. Οι ετικέτες προέλευσης δεν αναφέρουν απαραίτητα αν το περιεχόμενο είναι αληθινό ή ακριβές.
Τελικά, η σημαντικότερη πρόκληση του συνασπισμού μπορεί να είναι η ενθάρρυνση της ευρείας υιοθέτησης σε όλο το οικοσύστημα του διαδικτύου, ιδίως από τις πλατφόρμες των μέσων κοινωνικής δικτύωσης. Το πρωτόκολλο είναι σχεδιασμένο έτσι ώστε μια φωτογραφία, για παράδειγμα, να έχει κωδικοποιημένες πληροφορίες προέλευσης από τη στιγμή που μια φωτογραφική μηχανή την κατέγραψε μέχρι τη στιγμή που βρέθηκε στα μέσα κοινωνικής δικτύωσης. Αλλά αν η πλατφόρμα κοινωνικής δικτύωσης δεν χρησιμοποιεί το πρωτόκολλο, δεν θα εμφανίζει τα δεδομένα προέλευσης της φωτογραφίας.
Οι μεγάλες πλατφόρμες κοινωνικής δικτύωσης δεν έχουν ακόμη υιοθετήσει το C2PA. Το Twitter είχε υπογράψει στο έργο, αλλά το εγκατέλειψε αφού ανέλαβε ο Elon Musk (ωραίος ο Φαίδων). Το Twitter σταμάτησε επίσης να συμμετέχει σε άλλα εθελοντικά προγράμματα που επικεντρώνονται στον περιορισμό της παραπληροφόρησης (μπράβο Φαίδων).
Το C2PA "δεν είναι πανάκεια, δεν λύνει όλα τα προβλήματα παραπληροφόρησης, αλλά θέτει τα θεμέλια για μια κοινή αντικειμενική πραγματικότητα", λέει ο Parsons. "Ακριβώς όπως η μεταφορά της διατροφικής ετικέτας, δεν χρειάζεται να κοιτάξετε τη διατροφική ετικέτα πριν αγοράσετε τα ζαχαρούχα δημητριακά.
"Και δεν χρειάζεται να ξέρετε από πού προέρχεται κάτι πριν το μοιραστείτε στο Meta, αλλά μπορείτε. Πιστεύουμε ότι η δυνατότητα να το κάνεις αυτό είναι κρίσιμη, δεδομένων των εκπληκτικών ικανοτήτων των δημιουργικών μέσων".
695
.jpg.2aa206be747273e70826120e2c4e3603.jpg)
.webp.4de8af54333c105ba467272adedaf27b.webp)
