Εκτελεστικό διάταγμα για την ενίσχυση του θεσμικού πλαισίου ασφάλειας της Τεχνητής Νοημοσύνης υπέγραψε ο Κυβερνήτης της Καλιφόρνιας, Γκάβιν Νιούσομ, επιδιώκοντας να επιταχύνει την ανάπτυξη μηχανισμών ανεξάρτητου ελέγχου των πλέον προηγμένων συστημάτων AI.
Το διάταγμα προβλέπει τη συνεργασία της πολιτειακής κυβέρνησης με ειδικούς, οι οποίοι θα υποβάλουν προτάσεις για την ενίσχυση της εποπτείας των εταιρειών που αναπτύσσουν μοντέλα αιχμής. Μεταξύ των μέτρων που θα εξεταστούν περιλαμβάνεται η παρουσία ανεξάρτητων παρατηρητών στα εργαστήρια Τεχνητής Νοημοσύνης, ώστε να αξιολογούν την εφαρμογή των κανόνων ασφαλείας.
Ιδιαίτερο ενδιαφέρον παρουσιάζει η διερεύνηση της δυνατότητας εγκατάστασης μηχανισμών αυτόματης διακοπής λειτουργίας –των λεγόμενων «kill switches»– στα πιο προηγμένα μοντέλα Τεχνητής Νοημοσύνης.
Οι μηχανισμοί αυτοί θα μπορούσαν να ενεργοποιούνται όταν ένα σύστημα παρουσιάζει απρόβλεπτη ή επικίνδυνη συμπεριφορά ή όταν διαπιστώνεται ότι ενεργεί πέρα από τα όρια που έχουν καθορίσει οι δημιουργοί του.
Η επιτροπή εμπειρογνωμόνων θα εξετάσει επίσης εάν οι εταιρείες πρέπει να υποχρεώνονται να γνωστοποιούν στις αρμόδιες αρχές περιστατικά κατά τα οποία παρατηρείται «απώλεια ελέγχου» ενός μοντέλου, απόκρυψη σφαλμάτων, κατασκευή ψευδών δεδομένων ή εκτέλεση ενεργειών χωρίς προηγούμενη εξουσιοδότηση.
Ενίσχυση της ανεξάρτητης εποπτείας
Στις αρχές Σεπτεμβρίου, ο Νιούσομ είχε ήδη υπογράψει δύο νομοθετικά κείμενα που θέτουν τις βάσεις για τη δημιουργία ανεξάρτητου μηχανισμού ελέγχου των εταιρειών AI και των μοντέλων τους. Το νέο διάταγμα αποσκοπεί στην επιτάχυνση και περαιτέρω ενίσχυση της σχετικής διαδικασίας.
Η Καλιφόρνια φιλοξενεί τις σημαντικότερες εταιρείες Τεχνητής Νοημοσύνης και έχει αναδειχθεί σε μία από τις πλέον δραστήριες αμερικανικές πολιτείες ως προς τη νομοθετική ρύθμιση της τεχνολογίας. Ήδη οι επιχειρήσεις που αναπτύσσουν προηγμένα μοντέλα υποχρεούνται να δημοσιοποιούν πληροφορίες για τα πρωτόκολλα ασφαλείας που εφαρμόζουν.
Η αντιπαράθεση με την ομοσπονδιακή κυβέρνηση
Η πρωτοβουλία του Νιούσομ διαφοροποιείται από την περισσότερο ελαστική προσέγγιση της ομοσπονδιακής κυβέρνησης. Ο πρόεδρος Ντόναλντ Τραμπ και αρκετοί Ρεπουμπλικανοί υποστηρίζουν ότι οι αμερικανικές επιχειρήσεις πρέπει να διαθέτουν ευρύ περιθώριο ανάπτυξης, ώστε να μπορούν να ανταγωνιστούν αποτελεσματικά την Κίνα.
Αντίθετα, η πολιτειακή κυβέρνηση της Καλιφόρνιας θεωρεί ότι η τεχνολογική πρόοδος πρέπει να συνοδεύεται από ουσιαστική εποπτεία, διαφάνεια και δυνατότητα άμεσης παρέμβασης σε περίπτωση σοβαρού κινδύνου.
Η εκτελεστική εντολή δεν θεσπίζει ακόμη συγκεκριμένη υποχρέωση εγκατάστασης «kill switch». Εκκινεί τη διαδικασία τεχνικής και νομικής αξιολόγησης των σχετικών προτάσεων, οι οποίες θα μπορούσαν στη συνέχεια να μετατραπούν σε δεσμευτικούς πολιτειακούς κανόνες.
