Παραλίγο πόλεμος ηπα-κίνας εξαιτίας της αι – chatbot αναγνώρισε εμπόρευμα ως πυρηνικά εξαρτήματα

Παραλίγο τραγωδία και πολεμικό επεισόδιο ανάμεσα στην Κίνα και τις ΗΠΑ, εξαιτίας της τεχνητής νοημοσύνης, σε μια εποχή που ο Ντόναλντ Τραμπ την υπερασπίζεται άνευ όρων. Αναφορά πληροφοριών, που συντάχθηκε με τη βοήθεια της ΑΙ, ανέφερε εσφαλμένα ότι κινεζικό πλοίο μετέφερε εξαρτήματα πυρηνικών όπλων, βάσει ρεπορτάζ του CNN.

Το αμερικανικό πλοίο του πολεμικού ναυτικού ήταν έτοιμο να πλήξει το κινεζικό πλοίο. Ωστόσο, λίγο πριν από την προγραμματισμένη ενέργεια, αξιωματούχοι διαπίστωσαν ότι η αναφορά είχε παραχθεί με τη χρήση ΑΙ και περιείχε ανακριβείς πληροφορίες.

Πρόκειται για ένα ακόμη περιστατικό που εγείρει ανησυχίες σχετικά με τους κινδύνους που ενέχει η εξάρτηση από την τεχνητή νοημοσύνη για τη λήψη αποφάσεων που αφορούν στρατιωτικές πληροφορίες και τον καθορισμό στόχων.

Ωστόσο, πολύ λίγο πριν από την έναρξη της προγραμματισμένης επιχείρησης, οι αξιωματούχοι έψαξαν βαθύτερα στην αναφορά που συνέταξε ένας αναλυτής της διοίκησης ειδικών επιχειρήσεων. Διαπίστωσαν ότι η ανάλυση είχε δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης (AI). Και πως το chatbot που είχε χρησιμοποιήσει ο αναλυτής αναγνώρισε ανακριβώς το υλικό που μετέφερε το πλοίο.

Στις ΗΠΑ υπάρχει μεγάλη πίεση στον αμερικανικό στρατό και την κοινότητα των μυστικών υπηρεσιών να ενσωματώσουν την ΑΙ σχεδόν σε κάθε πτυχή της εργασίας τους. Από την ανάλυση των τεράστιων όγκων ακατέργαστων πληροφοριών που συλλέγουν οι ΗΠΑ και την επιλογή στόχων για επιθέσεις, έως πιο απλές εφαρμογές όπως η διαχείριση του προϋπολογισμού και η εφοδιαστική αλυσίδα.

Ο υπουργός Άμυνας των ΗΠΑ, Πιτ Χέγκσεθ, θέλει την ΑΙ παντού – REUTERS/Jonathan Ernst

Το επεισόδιο αυτό έρχεται να υπογραμμίζει τους σοβαρούς κινδύνους χρήσης αυτής της ισχυρής, νέας τεχνολογίας, την οποία ελάχιστοι κατανοούν. Και αυξάνει τα επιχειρήματα των αναλυτών, οι οποίοι φοβούνται ότι η ΑΙ θα μπορούσε να οδηγήσει σε καταστροφικό λάθος υπολογισμό. Ο λόγος είναι ότι, εάν τα κράτη βασίζονται σε κακά ή αλλοιωμένα δεδομένα, θα μπορούσε να προκληθεί ένα μοιραίο σφάλμα. Και να γίνει ένας πόλεμος, που πιθανόν αποφεύχθηκε την τελευταία στιγμή.

Η ΑΙ συνδύασε πληροφορίες ανοιχτού κώδικα με μυστικά σήματα σε κυβερνητικές αποθήκες και κατέληξε στο συμπέρασμά του σχετικά με το υλικό που μετέφερε το πλοίο: εξαρτήματα πυρηνικών όπλων.

Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά την τεχνητή νοημοσύνη για να συντάξει την έκθεση πληροφοριών, στη μορφή των εκθέσεων που συμβολεύονται οι αξιωματικοί. Και μετά τη διέδωσε…

Η Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό και το Πεντάγωνο δεν απάντησαν σε αίτημα για σχολιασμό.