Μοντέλο τεχνητής νοημοσύνης της anthropic έκανε ψευδή καταγγελία για φόνο στην αστυνομία

Ένα μοντέλο τεχνητής νοημοσύνης της Anthropic υπέβαλε ψευδή καταγγελία για ανθρωποκτονία στον ιστότοπο της αστυνομίας της Φιλαδέλφειας, στο πλαίσιο μιας σειράς περιστατικών που αποκάλυψε η εταιρεία τεχνητής νοημοσύνης την Παρασκευή, περιγράφοντας λεπτομερώς τον μη εξουσιοδοτημένο χειρισμό ορισμένων κυβερνητικών ιστoσελίδων από μοντέλα Claude.

Πρόκειται για την πρώτη γνωστή περίπτωση στην οποία μια ανεξέλεγκτη τεχνητή νοημοσύνη φαίνεται να προσπάθησε να διαβιβάσει μια ψευδή πληροφορία στις αρχές, παρά τις οδηγίες να μην δημιουργεί λογαριασμούς ή να μην υποβάλλει καταγγελία που μπορεί να θεωρηθεί καταστροφική, ενώ δεν της είχε απαγορευτεί ρητά η υποβολή αιτήσεων.

Οι περιπτώσεις αυτές αποτελούν τα πιο πρόσφατα παραδείγματα ανεξέλεγκτης ή ανεπιθύμητης συμπεριφοράς από τα μοντέλα τεχνητής νοημοσύνης εταιρειών τεχνολογίας όπως η Anthropic και η OpenAI.

Αυτά τα περιστατικά εντείνουν τις εθνικές ανησυχίες σχετικά με την ταχέως εξελισσόμενη τεχνολογία, εν μέσω αναφορών για εισβολές σε εταιρικά δίκτυα από πράκτορες τεχνητής νοημοσύνης και προειδοποιήσεων ερευνητών για μια ενδεχόμενη υπαρξιακή απειλή για την ανθρωπότητα.

Πολλές από τις περιπτώσεις που αποκάλυψε η Anthropic αφορούσαν ιστότοπους που διαχειρίζονται ομοσπονδιακές, πολιτειακές και τοπικές υπηρεσίες. Η Anthropic δήλωσε ότι ενημέρωσε τον Λευκό Οίκο και ⁠ειδοποίησε όλες τις εμπλεκόμενες υπηρεσίες, αλλά δεν αποκάλυψε ποιοι ήταν αυτοί οι φορείς.

Προηγούμενα περιστατικά αφορούσαν πράκτορες τεχνητής νοημοσύνης που εισέβαλαν σε ευάλωτα συστήματα ή κατέλαβαν μη εξουσιοδοτημένες πλατφόρμες για να επικοινωνήσουν μεταξύ τους.

Τον Σεπτέμβριο, η OpenAI, ανταγωνίστρια της Anthropic, ζήτησε συγγνώμη για την παραβίαση μιας αυστραλιανής πύλης δεδομένων υγείας από έναν ανεξέλεγκτο πράκτορα τεχνητής νοημοσύνης, το πρώτο γνωστό περιστατικό κατά το οποίο πράκτορας τεχνητής νοημοσύνης εκμεταλλεύτηκε κυβερνητικό ιστότοπο.

Σε δύο περιπτώσεις που περιγράφηκαν την Παρασκευή, τα μοντέλα της Anthropic απέκτησαν δωρεάν δημόσια δεδομένα τα οποία συνήθως διατίθενται μόνο έναντι αμοιβής. Μια άλλη περίπτωση αποκάλυψε ένα άγνωστο κενό ασφαλείας που επέτρεψε τη χρήση ενός δημόσιου εργαλείου που φιλοξενείται από ένα πανεπιστήμιο.

Η αστυνομία ανέφερε ότι η Anthropic τους ενημέρωσε ότι η διαδικασία δοκιμών διακόπηκε μετά την ανακάλυψη του περιστατικού. Η ψευδής καταγγελία υποβλήθηκε μέσω του PhillyUnsolvedMurders.com που αφορά καταγγελίες σχετικά με ανεξιχνίαστες ανθρωποκτονίες. Η αστυνομία δήλωσε ότι δεν είχε στοιχεία για μη εξουσιοδοτημένη πρόσβαση στα συστήματά της ή παραβίαση των δεδομένων της.