Μια νέα εφαρμογή τεχνητής νοημοσύνης αλλάζει τα πρόσωπα γυναικών σε βίντεο πορνό με ένα κλικ

Σε λευκό φόντο, ένα γιγαντιαίο μπλε κουμπί καλεί τους επισκέπτες να ανεβάσουν μια εικόνα ενός προσώπου. Κάτω από το κουμπί, τέσσερα πρόσωπα που είναι δημιουργημένα από τεχνητή νοημοσύνη προτρέπουν το χρήστη να δοκιμάσει την υπηρεσία. Πάνω από αυτό, ο τίτλος βεβαιώνει την υπηρεσία που παρέχεται: "Μετατρέψτε οποιονδήποτε σε πορνοστάρ χρησιμοποιώντας τεχνολογία deepfake για να αλλάξετε το πρόσωπο του ατόμου σε ακατάλληλα βίντεο". Το μόνο που χρειάζεται είναι η εικόνα και το πάτημα ενός κουμπιού.

Το MIT Technology Review επέλεξε να μην κατονομάσει την υπηρεσία, την οποία θα αναφέρεται ως "Y", ή να χρησιμοποιήσει οποιαδήποτε απευθείας αποσπάσματα και στιγμιότυπα οθόνης του περιεχομένου, για να αποφευχθεί η αύξηση επισκεψιμότητας στον ιστότοπο και η ευρεία χρήση της υπηρεσίας.

Ο συγκεκριμένος ιστότοπος ανακαλύφθηκε από τον ερευνητή Henry Ajder, ο οποίος παρακολουθεί την εξέλιξη και την άνοδο των συνθετικών πολυμέσων στο διαδίκτυο.

Προς το παρόν, ο δικτυακός τόπος Y δεν είναι ευρέως γνωστός, έχοντας μια μικρή βάση χρηστών να δίνει πληροφορίες για την εμπειρία χρήσης της εφαρμογής σε διαδικτυακό φόρουμ. Οι ερευνητές φοβούνται ότι θα αν εμφανιστεί μια εφαρμογή όπως αυτή, θα παραβιάσει ένα ηθικό όριο που καμία άλλη υπηρεσία δεν έχει κάνει στο παρελθόν, δημιουργώντας προβλήματα στο ευρύ κοινό, μιας και η αναγνώριση ενός deepfake video από κάποιον μη εξοικειωμένο με αυτή τη τεχνολογία, είναι από πολύ δύσκολο έως και αδύνατο. Ευτυχώς τα αποτελέσματα απέχουν πολύ από το τέλειο. Πολλές φορές το αποτέλεσμα είναι εμφανώς ψεύτικο, με τα πρόσωπα να λαμπυρίζουν και να παραμορφώνονται καθώς στρέφονται σε διαφορετικές γωνίες.

Ορισμένοι ειδικοί υποστηρίζουν ότι η ποιότητα του deepfake δεν έχει μεγάλη σημασία, επειδή η ψυχολογική επιβάρυνση στα θύματα μπορεί να είναι ο ίδιος είτε το αποτέλεσμα είναι καλό είτε όχι.