Αγωγή κατά της openai: χρήστης κατηγορεί το chatgpt ότι τον οδήγησε σε απόπειρα αυτοκτονίας

Ένας άνδρας από την Καλιφόρνια προσέφυγε στα δικαστήρια εναντίον της OpenAI και του διευθύνοντος συμβούλου της, του Σαμ Άλτμαν, ισχυριζόμενος ότι η πλατφόρμα ChatGPT επιδείνωσε τη διπολική διαταραχή από την οποία πάσχει, επειδή δεν διαθέτει δικλείδες ασφαλείας για τους χρήστες με ψυχικές ασθένειες.

Η υπόθεση εγείρει ερωτήματα σχετικά με το τι πρέπει να κάνουν οι πλατφόρμες παραγωγικής τεχνητής νοημοσύνης για να προστατεύσουν τους χρήστες οι οποίοι αντιμετωπίζουν προβλήματα ψυχικής υγείας και ενδέχεται να είναι ιδιαίτερα ευάλωτοι απέναντι σε chatbot που μιμούνται την ανθρώπινη επαφή, αναφέρεται επίσης στην αγωγή.

Ο Λάινς ζητάει αφενός αποζημίωση από την εταιρεία και θέλει το δικαστήριο να την υποχρεώσει να τερματίζει αυτόματα τυχόν συνομιλίες σχετικές με αυτοτραυματισμούς.

Εκπρόσωπος της OpenAI δεν ανταποκρίθηκε αμέσως σε αίτημα για σχολιασμό σχετικά με την αγωγή.

Ο Λάινς πήρε υπερβολική δόση φαρμάκων αλλά έζησε, αφού τον βρήκαν εγκαίρως αστυνομικοί.

Σύμφωνα με την αγωγή, η OpenAI ήταν ενήμερη για τη συγκεκριμένη πάθηση του χρήστη, επειδή ο ίδιος το είχε αναφέρει πολλές φορές στο ChatGPT. Αλλά αντί να επισημάνει τα επικίνδυνα σχόλιά του και να τα αποστείλει για αξιολόγηση από ανθρώπους, το chatbot πυροδότησε τις παραισθήσεις του, για να τον κρατήσει ενεργό.

Η OpenAI αντιμετωπίζει και άλλες αγωγές από οικογένειες που λένε ότι το chatbot της ώθησε μέλη τους να βλάψουν τον εαυτό τους. Υπάρχουν επίσης αγωγές που την κατηγορούν ότι βοήθησε πρόσωπα που ήθελαν να ανοίξουν πυρ σε σχολεία και δεν ενημέρωσε για αυτές τις συνομιλίες τις αρχές επιβολής του νόμου.

Η εταιρεία απαντά ότι εκπαιδεύει τα μοντέλα της ώστε να δίνουν οδηγίες σε όσους εκφράζουν την πρόθεση να βλάψουν τον εαυτό τους να αναζητήσουν βοήθεια.