Ανταγωνιστικότητα έναντι ασφάλειας: ο κίνδυνος με τα συστήματα ελέγχου των μηχανημάτων

Η ενσωμάτωση της τεχνητής νοημοσύνης (AI) στη λειτουργία βιομηχανικών μηχανημάτων μεγάλης κλίμακας αλλάζει ριζικά τα δεδομένα στους χώρους εργασίας, μεταφέροντας κρίσιμες αποφάσεις για την ασφάλεια από τον άνθρωπο σε αλγοριθμικά συστήματα. Ωστόσο, η αξιοπιστία αυτών των συστημάτων αποτελεί αντικείμενο έντονου προβληματισμού.

Χαρακτηριστικό, σημειώνει το Social Europe, παράδειγμα αποτελούν τα περονοφόρα ανυψωτικά μηχανήματα (κλαρκ) νέας γενιάς, τα οποία χρησιμοποιούν AI για την ανίχνευση επικείμενης σύγκρουσης και την αυτόματη ενεργοποίηση του συστήματος πέδησης.

Σε περιπτώσεις όπου το σύστημα αποτυγχάνει να αναγνωρίσει έναν εργαζόμενο λόγω τεχνικού σφάλματος, το βάρος της αποφυγής του ατυχήματος επιστρέφει αποκλειστικά στα αντανακλαστικά του ανθρώπινου χειριστή.

Αντιδράσεις προκαλεί η εξαίρεση των βιομηχανικών μηχανημάτων από τους αυστηρούς κανόνες ασφαλείας της Τεχνητής Νοημοσύνης

Το σημαντικότερο πρόβλημα σε τέτοια σενάρια είναι η απουσία επαρκούς καταγραφής δεδομένων (ιχνηλασιμότητα), η οποία καθιστά αδύνατο για τους ελεγκτές ασφαλείας να προσδιορίσουν εάν το σφάλμα προήλθε από τους αισθητήρες, από τα δεδομένα εκπαίδευσης του μοντέλου ή από τον ίδιο τον πυρήνα του συστήματος AI.

Με αυτά τα δεδομένα, η πρόσφατη απόφαση της Ευρωπαϊκής Ένωσης να αφαιρέσει τον Κανονισμό για τα Μηχανήματα (Machinery Regulation) από το Παράρτημα Ι, Ενότητα Α της Πράξης για την Τεχνητή Νοημοσύνη (AI Act), προκαλεί σοβαρές ανησυχίες.

Το AI Act (Κανονισμός ΕΕ 2024/1689) θεσπίζει νομικά δεσμευτικές υποχρεώσεις ειδικά σχεδιασμένες για την τεχνητή νοημοσύνη, ρυθμίζοντας ζητήματα όπως η διακυβέρνηση δεδομένων, οι αλγοριθμικές προκαταλήψεις (bias), η κυβερνοασφάλεια και η διαχείριση ποιότητας. Αντίθετα, ο υφιστάμενος Κανονισμός για τα Μηχανήματα (Κανονισμός ΕΕ 2023/1230) δεν περιλαμβάνει αντίστοιχες ειδικές προβλέψεις για το AI. Η διαγραφή της παραπομπής στον Κανονισμό για τα Μηχανήματα πρακτικά σημαίνει ότι αυτές οι ζωτικές υποχρεώσεις παύουν να εφαρμόζονται στα εξαρτήματα ασφαλείας των μηχανημάτων.

Η εξέλιξη αυτή προέκυψε κατόπιν συντονισμένης πίεσης από τμήματα της βιομηχανίας μηχανημάτων, τα οποία ζήτησαν απλούστευση των διαδικασιών συμμόρφωσης στο όνομα της ευρωπαϊκής ανταγωνιστικότητας. Ωστόσο, η Ευρωπαϊκή Συνομοσπονδία Συνδικάτων (ETUC) εκφράζει σοβαρές επιφυλάξεις για αυτόν τον ρυθμιστικό διαχωρισμό. Οι εκπρόσωποι των εργαζομένων τονίζουν ότι η ανάγκη για παραγωγικότητα δεν μπορεί να αποτελεί δικαιολογία για την αποδυνάμωση των μέτρων προστασίας, ειδικά από τη στιγμή που το AI Act διέθετε ήδη μηχανισμούς αποφυγής της διοικητικής γραφειοκρατίας.

Η ευθύνη μεταφέρεται πλέον στην Ευρωπαϊκή Επιτροπή, η οποία καλείται να διασφαλίσει ότι κάθε σχετική δικλίδα του AI Act θα μεταφερθεί αυτούσια και λειτουργικά στον Κανονισμό για τα Μηχανήματα, εντός σαφούς χρονοδιαγράμματος και με διαφάνεια. Το ζητούμενο, όπως αναφέρεται τους ειδικούς της εργασιακής ασφάλειας, είναι σαφές: η ευθύνη για τους νέους τεχνολογικούς κινδύνους πρέπει να παραμένει στους κατασκευαστές και τους σχεδιαστές, και να μην μετακυλίεται στον τελικό χρήστη. Η τεχνολογία οφείλει να εξελίσσεται ταχύτατα, αλλά η προστασία της ανθρώπινης ζωής στο βιομηχανικό περιβάλλον δεν επιδέχεται απλουστεύσεις.