Η Google απαγόρευσε την εκπαίδευση Deepfakes στο Colab

Κάποια στιγμή τις τελευταίες δύο εβδομάδες, η Google άλλαξε αθόρυβα τους όρους παροχής υπηρεσιών για τους χρήστες του Colab, προσθέτοντας έναν όρο ότι οι υπηρεσίες Colab δεν μπορούν πλέον να χρησιμοποιούνται για την εκπαίδευση deepfakes.

Η πρώτη αρχειοθετημένη στο Διαδίκτυο έκδοση από το Αρχείο Διαδικτύου που περιλαμβάνει την απαγόρευση του deepfake καταγράφηκε την περασμένη Τρίτη, 24 Μαΐου. Η τελευταία έκδοση του Colab FAQ που δεν αναφέρει την απαγόρευση ήταν στις 14 Μαΐου.

Από τις δύο δημοφιλείς διανομές δημιουργίας deepfake, το DeepFaceLab (DFL) και το FaceSwap, που είναι αμφότερες από τον αμφιλεγόμενο και ανώνυμο κώδικα που δημοσιεύτηκε στο Reddit το 2017, μόνο το πιο DFL φαίνεται να έχει στοχοποιηθεί άμεσα από την απαγόρευση. Σύμφωνα με τον προγραμματιστή deepfake «chervonij» στο DFL Discord, η εκτέλεση του λογισμικού στο Google Colab παράγει τώρα μια προειδοποίηση:

«Μπορεί να εκτελείτε κώδικα που δεν επιτρέπεται και αυτό μπορεί να περιορίσει τη δυνατότητά σας να χρησιμοποιείτε το Colab στο μέλλον. Λάβετε υπόψη τις απαγορευμένες ενέργειες που καθορίζονται στις Συχνές Ερωτήσεις μας.»

Ωστόσο, είναι ενδιαφέρον ότι ο χρήστης αυτή τη στιγμή επιτρέπεται να συνεχίσει με την εκτέλεση του κώδικα.

Σύμφωνα με έναν χρήστη στο Discord για την ανταγωνιστική διανομή FaceSwap, ο κώδικας αυτού του έργου προφανώς δεν ενεργοποιεί ακόμη την προειδοποίηση, υποδηλώνοντας ότι ο κώδικας για το DeepFaceLab (επίσης την αρχιτεκτονική τροφοδοσίας για την υλοποίηση ροής deepfake σε πραγματικό χρόνο DeepFaceLive), η μακράν η πιο κυρίαρχη μέθοδος deepfakes , έχει στοχοποιηθεί ειδικά από την Colab.

Δεν υπάρχουν στοιχεία που να αποδεικνύουν ότι ο νέος περιορισμός περιορίζεται μόνο στη δωρεάν βαθμίδα του Google Colab – στο κάτω μέρος της λίστας των απαγορευμένων δραστηριοτήτων στις οποίες έχουν πλέον προστεθεί τα deepfakes, βρίσκεται η σημείωση «Υπάρχουν πρόσθετοι περιορισμοί για χρήστες επί πληρωμή», που υποδεικνύει ότι αυτοί είναι κανονισμοί που ισχύουν για όλους. Όσον αφορά την απαγόρευση των deepfakes, αυτό έχει μπερδέψει ορισμένους, καθώς η «εξόρυξη κρυπτονομισμάτων» και η «συμμετοχή σε peer-to-peer κοινή χρήση αρχείων» περιλαμβάνονται τόσο στη δωρεάν όσο και στην pro ενότητα «Περιορισμοί».

Με αυτή τη λογική, όλα όσα απαγορεύονται στη δωρεάν ενότητα «Περιορισμοί» επιτρέπονται στην έκδοση Pro, εφόσον η έκδοση Pro δεν το απαγορεύει ρητά, συμπεριλαμβανομένων των «εκτελούμενων επιθέσεων άρνησης υπηρεσίας(DoS)» και «σπάσιμο κωδικών πρόσβασης». Οι πρόσθετοι περιορισμοί για το Pro Tier αφορούν κυρίως τη μη «υπομίσθωση» της πρόσβασης pro Colab, παρά τις μπερδεμένες και επιλεκτικές διπλές απαγορεύσεις.