Η τεχνητή νοημοσύνη μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο – η αι πλησιάζει την παραγωγή των διαδόχων της

Στις αρχές Ιουνίου, ο πρόεδρος της Αργεντινής, Χαβιέρ Μιλέι έριξε μια ρηξικέλευθη ιδέα. Και ανακοίνωσε τη δημιουργία μιας νέας νομικής κατηγορίας για τις μη ανθρώπινες εταιρείες. Δηλαδή εταιρείες που διοικούνται από την τεχνητή νοημοσύνη.

Την ίδια ώρα, η εταιρεία Anthropic, που παράγει το chatbot Claude, είναι έτοιμη να μπει στο χρηματιστήριο. Ο πράκτορας της, η τεχνητή νοημοσύνη με το όνομα Claude, έχει γίνει απαραίτητος για πολλούς ανθρώπινους προγραμματιστές σε όλο τον κόσμο.

Ακόμη και για την ίδια την εταιρεία: περισσότερα από τα τέσσερα πέμπτα του κώδικα της Anthropic γράφτηκαν από τον Claude. Την ίδια την τεχνητή νοημοσύνη.

Όπως επισημαίνει ο Economist, τα συστήματα έχουν βελτιωθεί τόσο στην ποιότητα της παραγωγής όσο και στην ποσότητα. Τα πιο πρόσφατα συστήματα της Anthropic μπορούν να ολοκληρώσουν εργασίες που θα διαρκούσαν περισσότερο από μια εργάσιμη ημέρα.

Η εξέλιξη στην τεχνητή νοημοσύνη είναι τέτοια, ώστε ακόμη και η διοίκηση της Anthropic ανησυχεί για την προοπτική να χαθεί κάθε έλεγχος. Ο Τζακ Κλαρκ, συνιδρυτής της εταιρείας, πιστεύει ότι υπάρχει 60% πιθανότητα, μέχρι το τέλος του 2028, ένα σύστημα ΑΙ να είναι ικανό να δημιουργήσει τον δικό του διάδοχο. Χωρίς καμία ανθρώπινη συμμετοχή.

Αυτό, για όσους βλέπουν την τεχνητή νοημοσύνη ως πηγή κάθε κακού, σημαίνει ένα πράγμα. Ότι η υπερ-νοημοσύνη θα είναι πέρα ​​από τον ανθρώπινο έλεγχο και ότι η έναρξη του RSI είναι η στιγμή που η μοίρα της ανθρωπότητας παραδίδεται στις μηχανές.

Για την τεχνητή νοημοσύνη είναι δύσκολο να διδαχθεί δημιουργική γραφή ή νομική ανάλυση

Ωστόσο, μια αυτοβελτιούμενη τεχνητή νοημοσύνη πιθανότατα θα αντιμετώπιζε όρια ταχύτητας, τουλάχιστον στην αρχή. Η κατασκευή ενός μοντέλου ικανού για αναδρομική αυτοβελτίωση (RSI) θα απαιτούσε την αυτοματοποίηση μιας σειράς εξειδικευμένων εργασιών που εκτελούνται σήμερα από ανθρώπους. Κάποια στιγμή αυτό θα συμβεί.

Σήμερα δεν υπάρχει μοντέλο ΑΙ που μπορεί να κατασκευάσει τον διάδοχό του. Αλλά τα μεγάλα μοντέλα τεχνητής νοημοσύνης μπορούν να κατασκευάσουν μικρότερα μοντέλα μόνα τους. Με ανθρώπινη βοήθεια μπορούν επίσης να κατασκευάσουν και άλλα μεγάλα μοντέλα τεχνητής νοημοσύνης.

Οι επιταχύνσεις αυτού του είδους είναι αναπόφευκτες καθώς τα μοντέλα γίνονται πιο ικανά. Ένα σύστημα τεχνητής νοημοσύνης μπορεί να κάνει πολλά πράγματα, με ελάχιστη εποπτεία.