Ηχηρό καμπανάκι από νομπελίστα για την ανεξέλεγκτη πορεία της ai

Μετά από αλλεπάλληλα κενά ασφαλείας στην OpenAI και την Anthropic —όπου αυτόνομοι πράκτορες και των δύο εταιρειών κατέληξαν να χακάρουν εξωτερικά συστήματα— οι ερευνητές ασφάλειας μέσα σε αυτούς τους κολοσσούς αναγκάζονται επιτέλους να παραδεχτούν ότι η ξέφρενη κούρσα για την επόμενη, πιο προηγμένη τεχνητή νοημοσύνη (AI) είναι, στην καλύτερη περίπτωση, ανεύθυνη.

Ωστόσο, όπως επισημαίνει σε ανάλυσή του στο Social Europe ο Ντάρον Ατζέμογλου, νομπελίστας οικονομολόγος και καθηγητής στο ΜΙΤ, αυτή η ανάγνωση συσκοτίζει το πραγματικό πρόβλημα: η απειλή δεν είναι ότι η τεχνητή νοημοσύνη θα γίνει υπερευφυής και θα δραπετεύσει από τον έλεγχό μας. Η απειλή είναι η δημιουργία μιας ελαττωματικής, διαστρεβλωμένης νοημοσύνης (distorted intelligence).

Τα πρόσφατα κενά ασφαλείας δεν υποδηλώνουν την εμφάνιση μιας πανίσχυρης ανεξέλεγκτης οντότητας. Αποδεικνύουν ότι η ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης τέθηκε στην υπηρεσία ατελών ποσοτικών μετρήσεων.

Ο Ατζέμογλου κάνει έναν εύστοχο παραλληλισμό. Η επικρατούσα άποψη, λέει, είναι ότι έχουμε στα χέρια μας ένα υπεραυτοκίνητο με δική του βούληση, το οποίο θέλει να αρπάξει το τιμόνι επειδή είναι ανώτερο από τον οδηγό του.

Η λύση δεν είναι να σταματήσουμε την εξέλιξη της τεχνητής νοημοσύνης, αλλά να αλλάξουμε πορεία. Αντί να κυνηγάμε τη Γενική Τεχνητή Νοημοσύνη (AGI) με πρόχειρα μέτρα ασφαλείας και ατελείς μετρήσεις, πρέπει να εστιάσουμε σε εξειδικευμένα εργαλεία: ένα μοντέλο βελτιστοποιημένο αυστηρά για νομική δουλειά δεν θα έπρεπε να χρησιμοποιείται για τίποτε άλλο. Μόνο έτσι θα αποφύγουμε την οικοδόμηση ενός εύθραυστου ψηφιακού πύργου από τραπουλόχαρτα, που είναι καταδικασμένος να καταρρεύσει καθώς οι απαιτήσεις μας θα αυξάνονται.