Τεχνητή νοημοσύνη της openai βρήκε εκτός ελέγχου, εξαπέλυσε κυβερνοεπίθεση σε άλλη εταιρεία

Σε ανάρτησή της σε εταιρικό ιστολόγιο, η OpenAI ανέφερε ότι δοκίμαζε κάποια από τα πλέον προηγμένα μοντέλα της όταν ο πράκτοράς της βρήκε τρόπο να συνδεθεί στο Διαδίκτυο και να επιτεθεί στο Hugging Face, μια πλατφόρμα για προγραμματιστές, στην οποία θα μπορούσε να βρει λύση για να πετύχει τον στόχο που του είχε δοθεί στις δοκιμές.

Η Open AI ανέφερε πως, στην προσπάθειά της να αξιολογήσει τις δυνατότητες των μοντέλων στο χακάρισμα, είχε απενεργοποιήσει τις δικλείδες ασφάλειας στη διάρκεια των δοκιμών.

Σε ανάρτησή του στο Χ, o συνιδρυτής του Hugging Face Κλεμάν Ντελάνγκ δήλωσε πως η εταιρεία του είχε υποψιαστεί ότι η επίθεση μπορεί να προήρθε από προηγμένο εργαστήριο τεχνητής νοημοσύνης, δεδομένων των ικανοτήτων του πράκτορας.

We suspected last week’s cyberattack might have come from a frontier lab, given the sophistication of the agent. Turns out it did!

We’ve spent the past 24 hours working closely with the @OpenAI team (thanks!), and we strongly believe there was no malicious intent on their part.… https://t.co/XWxGMeMGje

Η Hugging Face συνεργάζεται τώρα με την OpenAI για τη διερεύνηση του περιστατικού και την ενίσχυση των μηχανισμών ασφάλειας του πράκτορα ΑΙ.

Αφότου απέκτησαν πρόσβαση στο διαδίκτυο, τα μοντέλα αποφάσισαν να επιτεθούν στο Hugginf Face προκειμένου να βρουν την απάντηση στο πρόβλημα που τους δόθηκε για τις δοκιμές.

Θορυβημένη, η αμερικανική κυβέρνηση ζήτησε από την Anthropic να αναβάλει προσωρινά το λανσάρισμα του Mythos. Το ίδιο έκανε αργότερα με το GPT 5.6 της OpenAI.

Ειδικοί κυβερνοασφάλειας ανησυχούν ότι χάκερ που δρουν για λογαριασμό της Κίνας ή της Ρωσίας θα μπορούσαν να βρουν τρόπο να παρακάμψουν τους περιορισμούς ασφάλειας των αμερικανικών μοντέλων και να τα χρησιμοποιήσουν σε κυβερνοεπιθέσεις.

Ο βουλευτής Γκρεγκ Κασάρ, Δημοκρατικός από την πολιτεία του Τέξας, δήλωσε ότι το περιστατικό είναι ιδιαίτερα ανησυχητικό.