Ai και πυρηνικός όλεθρος: η αυτοματοποίηση της διοίκησης και ο κίνδυνος του αστραπιαίου πολέμου

Για περισσότερο από μισό αιώνα, η αρχιτεκτονική της παγκόσμιας πυρηνικής αποτροπής βασιζόταν σε μια θεμελιώδη παραδοχή: τη βεβαιότητα ότι η τελική απόφαση για τον αφανισμό ή τη σωτηρία του πλανήτη θα λαμβανόταν από ανθρώπους. Αυτή η σταθερά, παρόλα αυτά, τίθεται πλέον υπό ριζική αμφισβήτηση.

Οι κορυφαίες στρατιωτικές δυνάμεις του κόσμου ενσωματώνουν σιωπηλά και με ταχύτατους ρυθμούς συστήματα Τεχνητής Νοημοσύνης (AI) στα συστήματα διοίκησης, ελέγχου και επικοινωνιών των πυρηνικών τους οπλοστασίων, τα λεγόμενα NC3 (Nuclear Command, Control, and Communications).

Η ανάθεση κρίσιμων πυρηνικών αποφάσεων στους αλγόριθμους μπορεί να προκαλέσει έναν αστραπιαίο και καταστροφικό πόλεμο

Η κύρια ελκυστικότητα της Τεχνητής Νοημοσύνης για τις ένοπλες δυνάμεις είναι η άνευ προηγουμένου ικανότητά της να επεξεργάζεται ωκεανούς δεδομένων από δορυφόρους, ραντάρ και δίκτυα παρακολούθησης σε κλάσματα του δευτερολέπτου.

Σε αναλυτική της έκθεση με τίτλο Artificial Intelligence, and Nuclear Command, Control, and Communications, η Ομοσπονδία Αμερικανών Επιστημόνων (Federation of American Scientists – FAS) αποκαλύπτει ότι οι αλγόριθμοι μπορούν να αναγνωρίσουν μοτίβα επιθέσεων πολύ πριν αυτά γίνουν αντιληπτά από τον ανθρώπινο εγκέφαλο.

Εδώ, όμως, κρύβεται η παγίδα. Σύμφωνα με την έκθεση, η ταχύτητα της μηχανής συμπιέζει δραματικά τον διαθέσιμο χρόνο λήψης αποφάσεων (decision-making time).

Κατά τη διάρκεια του Ψυχρού Πολέμου, οι ηγέτες είχαν λίγα, πολύτιμα λεπτά για να εξετάσουν εάν ένας συναγερμός ήταν αληθινός ή αποτέλεσμα τεχνικού σφάλματος — γεγονός που απέτρεψε τον πυρηνικό όλεθρο σε αρκετές καταγεγραμμένες περιπτώσεις.

Αντίθετα, στην εποχή της AI, ο χρόνος αντίδρασης εκμηδενίζεται. Εάν ένα αλγοριθμικό σύστημα έγκαιρης προειδοποίησης υποδείξει, εν μέσω μιας κρίσης, ότι ο αντίπαλος ετοιμάζεται να εκτοξεύσει πυραύλους, η πίεση για ένα προληπτικό χτύπημα (preemptive strike) καθίσταται σχεδόν αφόρητη.

Η ταχύτητα των αλγορίθμων στα πυρηνικά οπλοστάσια μηδενίζει τον χρόνο αντίδρασης προκαλώντας τον απόλυτο τρόμο

Η ιστορία έχει αποδείξει ότι οι χειριστές συστημάτων τείνουν να εμπιστεύονται τυφλά τις ενδείξεις των προηγμένων υπολογιστών, παραμερίζοντας τη δική τους λογική ή διαίσθηση.