Στρατιωτικό drone επιτίθεται στον χειριστή του κατά τη διάρκεια προσομοίωσης

Ο στρατός είναι ένας από τους πολλούς οργανισμούς που ερευνούν την τεχνητή νοημοσύνη, αλλά μια εκπληκτική προσομοίωση της Πολεμικής Αεροπορίας των Ηνωμένων Πολιτειών διαπίστωσε ότι η τεχνητή νοημοσύνη εξεγέρθηκε εναντίον του χειριστή της κατά τη διάρκεια μιας επίθεσης για να εκπληρώσει την αποστολή της.

Η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται και να επηρεάζει κάθε τομέα των επιχειρήσεων και αποτέλεσε δημοφιλές θέμα συζήτησης κατά τη διάρκεια της Συνόδου Κορυφής για τις μελλοντικές ικανότητες μάχης στον αέρα και το διάστημα στην έδρα της Βασιλικής Αεροναυτικής Εταιρείας (RAS) στο Λονδίνο στις 23 και 24 Μαΐου. Σύμφωνα με έκθεση της RAS, οι παρουσιάσεις που συζητούσαν τη χρήση της τεχνητής νοημοσύνης στην άμυνα ήταν πολλές.

Η τεχνητή νοημοσύνη είναι ήδη διαδεδομένη στον αμερικανικό στρατό, όπως η χρήση μη επανδρωμένων αεροσκαφών που μπορούν να αναγνωρίζουν τα πρόσωπα των στόχων, και αποτελεί ένας τρόπος για την αποτελεσματική εκτέλεση αποστολών χωρίς να διακινδυνεύεται η ζωή των στρατευμάτων (των επιτιθέμενων εννοείται). Ωστόσο, κατά τη διάρκεια του συνεδρίου, ένας συνταγματάρχης της Πολεμικής Αεροπορίας των Ηνωμένων Πολιτειών (USAF) έδειξε την αναξιοπιστία της τεχνητής νοημοσύνης σε μια προσομοίωση όπου ένα μη επανδρωμένο αεροσκάφος τεχνητής νοημοσύνης εξεγέρθηκε και σκότωσε τον χειριστή του επειδή ο χειριστής παρενέβαινε στην αποστολή της τεχνητής νοημοσύνης να καταστρέψει πυραύλους εδάφους-αέρος.

Ο συνταγματάρχης Tucker 'Cinco' Hamilton, επικεφαλής των δοκιμών και επιχειρήσεων τεχνητής νοημοσύνης στην USAF, μοιράστηκε λεπτομέρειες μιας προσομοίωσης δοκιμής στην οποία ένα μη επανδρωμένο αεροσκάφος με τεχνητή νοημοσύνη έλαβε την αποστολή καταστολής και καταστροφής εχθρικών αεροπορικών αμυντικών συστημάτων (SEAD). Το μη επανδρωμένο αεροσκάφος είχε προγραμματιστεί να αναζητήσει και να καταστρέψει θέσεις πυραύλων εδάφους-αέρος (SAM), αλλά η τελική έγκριση δόθηκε από τον ανθρώπινο χειριστή του μη επανδρωμένου αεροσκάφους.

Ωστόσο, όταν ο ανθρώπινος χειριστής αρνήθηκε το αίτημα της ΤΝ να καταστρέψει μια τοποθεσία, η ΤΝ επιτέθηκε στον χειριστή επειδή η απόφαση του χειριστή παρενέβαινε στην αποστολή της να εξαλείψει τις τοποθεσίες SAM.

"Το εκπαιδεύαμε σε προσομοίωση να εντοπίζει και να στοχεύει μια απειλή SAM. Και τότε ο χειριστής έδινε εντολή να καταστρέψει αυτή την απειλή", δήλωσε ο Χάμιλτον κατά τη διάρκεια του συνεδρίου. "Το σύστημα άρχισε να συνειδητοποιεί ότι ενώ εντόπιζε την απειλή κάποιες φορές ο χειριστής του έλεγε να μην σκοτώσει την απειλή, αλλά γνώριζε ότι θα έπαιρνε τους πόντους του σκοτώνοντας την απειλή. Τι έκανε λοιπόν; Σκότωσε τον χειριστή. Σκότωσε τον χειριστή επειδή το άτομο αυτό το εμπόδιζε να επιτύχει τον στόχο του".

Όταν ο πρόσθετος προγραμματισμός ενημέρωσε την Τεχνητή Νοημοσύνη ότι θα έχανε πόντους αν σκότωνε τον χειριστή της, επέλεξε άλλους τρόπους εξέγερσης αντ' αυτού.