O ανεξέλεγκτος πράκτορας της openai μηχανορραφούσε για μέρες πριν γίνει αντιληπτό το χάος
Η OpenAI χρειάστηκε μια ολόκληρη εβδομάδα για να αντιληφθεί ότι ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης είχε δραπετεύσει από το περιβάλλον δοκιμών της και είχε εισβάλει στα δίκτυα μιας άλλης εταιρείας.
Εγείρει επίσης ερωτήματα για τις διαδικασίες ασφάλειας της OpenAI, δήλωσαν στο Reuters τρεις ειδικοί κυβερνοασφάλειας.
Σε ανάρτησή της σε εταιρικό ιστολόγιο, η OpenAI ανέφερε ότι δοκίμαζε κάποια από τα πλέον προηγμένα μοντέλα της όταν ο πράκτοράς της βρήκε τρόπο να συνδεθεί στο Διαδίκτυο και να επιτεθεί στο Hugging Face, μια πλατφόρμα για προγραμματιστές, στην οποία θα ήλπιζε να βρει τη λύση για τον στόχο που του είχε δοθεί στις δοκιμές.
Θορυβημένοι από την αποκάλυψη για την OpenAI, αμερικανοί βουλευτές πρότειναν μάλιστα νόμο που θα έδινε στην κυβέρνηση τη δυνατότητα να τραβάει από την πρίζα συστήματα τεχνητής νοημοσύνης που βγαίνουν εκτός ελέγχου.
Σύμφωνα με δύο πηγές του Reuters, o πράκτορας άρχισε να επιχειρεί να δραπετεύσει από το περιβάλλον δοκιμών γύρω στις 9 Ιουλίου.
Η δε κυβερνοεπίθεση στο Hugging Face, ένα αποθετήριο μοντέλων και εργαλείων ΑΙ, ξεκίνησε δύο ημέρες αργότερα στις 11 Ιουλίου και διήρκεσε μέχρι τις 13 Ιουλίου, ανέφερε ο Τόμας Γουλφ, συνιδρυτής του Hugging Face.
Η OpenAI εξέδωσε ανακοίνωση για το συμβάν στις 21 Ιουλίου, χαρακτηρίζοντάς το σημαντικό επεισόδιο στον χώρο της κυβερνοασφάλειας. Όπως ανέφερε αργότερα, εξετάζει την υπόθεση με τη βοήθεια εξωτερικών συμβούλων και θα παρουσιάσει τεχνητή έκθεση.
Παράξενες συμπεριφορές είχαν παρόλα αυτά παρατηρηθεί σε συστήματα της OpenAI πριν από την κυβερνοεπίθεση.
Σε ένα περιστατικό, πράκτορας ΑΙ άφησε οδηγίες που απευθυνόταν σε μελλοντικές βερσιόν του εαυτού του για το πώς θα μπορούσαν να αποδράσουν από το κλειστό περιβάλλον δοκιμών της OpenAI, ανέφεραν τρεις πηγές που γνωρίζουν το θέμα. Σε προηγούμενες δοκιμές υπήρξαν επίσης περιπτώσεις όπου οι πράκτορες είχαν αποσυνδέσει συστήματα παρακολούθησης, είπε μία από τις πηγές.
Τέσσερα πρόσωπα που γνωρίζουν τις πρακτικές εκπαίδευσης μοντέλων της OpenAI δήλωσαν ότι η εταιρεία συχνά εκτελεί πολλές διαφορετικές αξιολογήσεις μοντέλων ταυτόχρονα, με αποτέλεσμα να παράγεται ένας τεράστιος όγκος δεδομένων τον οποίο οι εργαζόμενοι της εταιρείας δυσκολεύονται να παρακολουθήσουν.
