Microsoft και το θέμα της αποτυχίας απόσυρσης της αναγνώρισης φύλου μέσω AI

Η Microsoft είχε ανακοινώσει το 2022 την πρόθεσή της να αποσύρει τις δυνατότητες αναγνώρισης φύλου, ηλικίας και συναισθημάτων από τα εργαλεία ανάλυσης εικόνας, λόγω των ανησυχιών για αθέμιτες χρήσεις και διακρίσεις, ιδιαίτερα προς τρανς άτομα. Ωστόσο, νέα αποκαλυπτικά στοιχεία δείχνουν πως η πρόσβαση σε αυτές τις λειτουργίες δεν σταμάτησε για όλους τους χρήστες, προκαλώντας ερωτήματα σχετικά με τη συνέπεια της εταιρείας στη διαχείριση αυτών των ζητημάτων.

Σύμφωνα με την καλλιτέχνη αλγόριθμων* Ada Ada Ada, που είχε πρόσβαση στη λειτουργία αναγνώρισης φύλου μέσω της έκδοσης 3.2 του Image Analysis API της Microsoft, η δυνατότητα αυτή παρέμενε ενεργή για χρήστες που την είχαν ήδη ενεργοποιήσει πριν από την ανακοίνωση απόσυρσης. Όταν η Microsoft πληροφορήθηκε το θέμα, δήλωσε πως πρόκειται για τεχνικό σφάλμα που επέτρεψε σε λίγες εφαρμογές να διατηρήσουν αυτήν την πρόσβαση, και έλαβε άμεσα μέτρα για την απενεργοποίησή της.

Η αδυναμία της Microsoft να αποσύρει πλήρως την αναγνώριση φύλου προκαλεί προβληματισμούς για τη φιλοσοφία "ηθικής AI" που προβάλλουν πολλές εταιρείες. Όπως ανέφερε η Ada Ada Ada, η κίνηση της Microsoft φαίνεται να στοχεύει περισσότερο σε θετική δημοσιότητα παρά σε ουσιαστική απόσυρση των επιβλαβών τεχνολογιών. Η παραμονή αυτών των λειτουργιών σε παλαιότερους χρήστες δείχνει την έλλειψη ελέγχου και διαφάνειας, επιβεβαιώνοντας πως οι υποσχέσεις περί ηθικής δεν παρακολουθούνται ή δεν εφαρμόζονται επαρκώς.

Το γεγονός υπογραμμίζει το πρόβλημα της βιομηχανίας να ελέγχει την ανάπτυξη και διαχείριση εργαλείων AI, όπως παρατηρεί και ο ερευνητής Os Keyes. Η αναγνώριση φύλου βάσει φυσικής εμφάνισης, τονίζει, μπορεί να βλάψει άτομα που δεν ταιριάζουν σε προκαθορισμένα πρότυπα, επισημαίνοντας τις συνέπειες μιας προσέγγισης που βλέπει την τεχνολογία μόνο ως εργαλείο ανάπτυξης, χωρίς να λαμβάνει υπόψη τα κοινωνικά και ηθικά ζητήματα.

* Ένας algorithmic artist είναι ένας καλλιτέχνης που δημιουργεί τέχνη χρησιμοποιώντας αλγορίθμους, δηλαδή σύνολα κανόνων και διαδικασιών που συχνά εκτελούνται από υπολογιστές. Αυτός ο τύπος τέχνης περιλαμβάνει τη χρήση προγραμματισμού ή μαθηματικών για τη δημιουργία οπτικών έργων, συνθέσεων, ή ακόμα και κινούμενων εικόνων. Στόχος τους είναι να αξιοποιήσουν την αυτοματοποίηση και την αλληλεπίδραση των αλγορίθμων για να παράγουν μοναδικά έργα που συνδυάζουν τη δημιουργικότητα με την τεχνολογία.