Η ΕΕ θέλει οι εταιρείες να θεωρούνται υπεύθυνες για ζημιά που προκαλείται από την τεχνητή νοημοσύνη

Η Ευρωπαϊκή Επιτροπή πρότεινε την Τετάρτη νέους κανόνες που θα αναγκάσουν τους κατασκευαστές λογισμικού και προϊόντων με τεχνητή νοημοσύνη να αποζημιώνουν αυτούς που ζημιώθηκαν από τις δημιουργίες τους.

Μια νέα οδηγία για την ευθύνη της τεχνητής νοημοσύνης θα διευκολύνει την υποβολή αγωγών για αποζημίωση όταν ένα άτομο ή ένας οργανισμός τραυματίζεται ή υφίσταται ζημίες μέσω μη επανδρωμένων αεροσκαφών και ρομπότ που λειτουργούν με τεχνητή νοημοσύνη ή εξαιτίας λογισμικού όπως οι αυτοματοποιημένοι αλγόριθμοι πρόσληψης.

"Οι νέοι κανόνες θα δώσουν στα θύματα ζημιών που προκαλούνται από συστήματα τεχνητής νοημοσύνης ίσες ευκαιρίες και πρόσβαση σε δίκαιη δίκη και αποζημίωση", δήλωσε ο Επίτροπος Δικαιοσύνης Didier Reynders στους δημοσιογράφους πριν από την παρουσίαση των προτάσεων.

Το σχέδιο νόμου είναι η τελευταία προσπάθεια των Ευρωπαίων αξιωματούχων να ρυθμίσουν την τεχνητή νοημοσύνη και να θέσουν ένα παγκόσμιο πρότυπο για τον έλεγχο της ανθούσας τεχνολογίας. Έρχεται καθώς η ΕΕ βρίσκεται στη δίνη της διαπραγμάτευσης της Πράξης για την Τεχνητή Νοημοσύνη, το πρώτο νομοσχέδιο στον κόσμο για τον περιορισμό του υψηλού κινδύνου χρήσης της Τεχνητής Νοημοσύνης, συμπεριλαμβανομένης της αναγνώρισης προσώπου, των συστημάτων "κοινωνικής βαθμολόγησης" και του ενισχυμένου με Τεχνητή Νοημοσύνη λογισμικού για τη μετανάστευση και τις κοινωνικές παροχές.

"Αν θέλουμε να έχουμε πραγματική εμπιστοσύνη των καταναλωτών και των χρηστών στην εφαρμογή της ΤΝ, πρέπει να είμαστε σίγουροι ότι είναι δυνατή μια τέτοια πρόσβαση σε αποζημίωση και πρόσβαση σε πραγματική απόφαση στη δικαιοσύνη, αν χρειαστεί, χωρίς πολλά εμπόδια, όπως η αδιαφάνεια των συστημάτων", δήλωσε ο Reynders.

Σύμφωνα με τον νέο νόμο, τα θύματα θα μπορούν να αμφισβητήσουν έναν πάροχο, προγραμματιστή ή χρήστη τεχνολογίας ΤΝ, εάν υποστούν ζημία στην υγεία ή την περιουσία τους ή υποστούν διακρίσεις βάσει θεμελιωδών δικαιωμάτων, όπως η ιδιωτική ζωή. Μέχρι τώρα, ήταν δύσκολο και εξαιρετικά δαπανηρό για τα θύματα να δημιουργήσουν υποθέσεις όταν πιστεύουν ότι έχουν υποστεί ζημία από μια ΤΝ, επειδή η τεχνολογία είναι πολύπλοκη και αδιαφανής.

Τα δικαστήρια θα αποκτήσουν περισσότερες εξουσίες για να ανοίγουν τα μαύρα κουτιά των εταιρειών ΤΝ και να ζητούν λεπτομερείς πληροφορίες σχετικά με τα δεδομένα που χρησιμοποιούνται για τους αλγορίθμους, τις τεχνικές προδιαγραφές και τους μηχανισμούς ελέγχου κινδύνου.  

Με αυτή τη νέα πρόσβαση σε πληροφορίες, τα θύματα θα μπορούσαν να αποδείξουν ότι η ζημία προήλθε από μια τεχνολογική εταιρεία που πούλησε ένα σύστημα ΤΝ ή ότι ο χρήστης της ΤΝ - για παράδειγμα, ένα πανεπιστήμιο, ένας χώρος εργασίας ή μια κυβερνητική υπηρεσία - δεν συμμορφώθηκε με τις υποχρεώσεις που προβλέπονται σε άλλους ευρωπαϊκούς νόμους, όπως ο νόμος για την ΤΝ ή μια οδηγία για την προστασία των εργαζομένων σε πλατφόρμες. Τα θύματα θα πρέπει επίσης να αποδείξουν ότι η ζημία συνδέεται με τις συγκεκριμένες εφαρμογές ΤΝ.

Η Ευρωπαϊκή Επιτροπή παρουσίασε επίσης μια αναθεωρημένη οδηγία για την ευθύνη των προϊόντων. Ο νόμος του 1985 δεν έχει προσαρμοστεί για νέες κατηγορίες προϊόντων, όπως οι συνδεδεμένες συσκευές, και οι αναθεωρημένοι κανόνες αποσκοπούν στο να δώσουν στους πελάτες τη δυνατότητα να διεκδικήσουν αποζημίωση όταν υφίστανται ζημία από ελαττωματική ενημέρωση λογισμικού, αναβάθμιση ή υπηρεσία. Οι προτεινόμενοι κανόνες για την ευθύνη προϊόντων φέρνουν επίσης στο στόχαστρο τις διαδικτυακές αγορές, οι οποίες, σύμφωνα με τους κανόνες, μπορούν να θεωρηθούν υπεύθυνες εάν δεν αποκαλύψουν το όνομα ενός εμπόρου σε ένα πρόσωπο που υπέστη ζημία κατόπιν αιτήματος.

Η πρόταση της Επιτροπής θα χρειαστεί ακόμη την έγκριση των εθνικών κυβερνήσεων στο Συμβούλιο της ΕΕ και του Ευρωπαϊκού Κοινοβουλίου.

Ειδικότερα, το Κοινοβούλιο θα μπορούσε να αντιταχθεί στην επιλογή της Ευρωπαϊκής Επιτροπής να προτείνει ένα ασθενέστερο καθεστώς ευθύνης από αυτό που η ίδια πρότεινε νωρίτερα.

Η Βουλή το 2020 κάλεσε την Επιτροπή να θεσπίσει κανόνες για να διασφαλίσει ότι τα θύματα επιβλαβούς τεχνητής νοημοσύνης μπορούν να λάβουν αποζημίωση, ζητώντας συγκεκριμένα να μπορούν να θεωρηθούν νομικά υπεύθυνοι οι developers, οι πάροχοι και οι χρήστες αυτόνομης τεχνητής νοημοσύνης υψηλού κινδύνου ακόμη και για ακούσια βλάβη. Ωστόσο, το εκτελεστικό όργανο της ΕΕ αποφάσισε να ακολουθήσει μια "ρεαλιστική" προσέγγιση που είναι πιο αδύναμη από αυτό το καθεστώς αυστηρής ευθύνης, λέγοντας ότι τα στοιχεία "δεν επαρκούν για να δικαιολογήσουν" ένα τέτοιο καθεστώς.

"Επιλέξαμε το χαμηλότερο επίπεδο παρέμβασης", δήλωσε ο Reynders. "Πρέπει να δούμε αν οι νέες εξελίξεις [θα] δικαιολογούν ισχυρότερους κανόνες για το μέλλον".

Η Επιτροπή θα επανεξετάσει κατά πόσον χρειάζεται ένα αυστηρότερο καθεστώς, πέντε χρόνια μετά την έναρξη ισχύος του, δήλωσε.