Την ανάγκη η Τεχνητή Νοημοσύνη να παραμείνει υπό ανθρώπινη καθοδήγηση, εποπτεία και έλεγχο υπογραμμίζουν 22 χώρες με κοινή διακήρυξη που υιοθετήθηκε στο περιθώριο της Γενικής Συνέλευσης του Οργανισμού Ηνωμένων Εθνών.
Η πρωτοβουλία, την οποία ανέλαβαν η Φινλανδία και η Νορβηγία, επιδιώκει τη διαμόρφωση ενός διεθνούς πλαισίου ασφάλειας για τα πλέον προηγμένα μοντέλα Τεχνητής Νοημοσύνης. Στόχος δεν είναι η ανακοπή της τεχνολογικής προόδου, αλλά η ανάπτυξή της με κοινούς κανόνες, διαφάνεια και αποτελεσματικούς μηχανισμούς πρόληψης των κινδύνων.
Η διακήρυξη αναγνωρίζει ότι η Τεχνητή Νοημοσύνη μπορεί να συμβάλει ουσιαστικά στη βελτίωση της καθημερινής ζωής, στην επιστημονική έρευνα, στην αντιμετώπιση ασθενειών, στην αύξηση της παραγωγικότητας και στη διεύρυνση της πρόσβασης στην πληροφορία. Παράλληλα, όμως, προειδοποιεί ότι η ταχύτητα ανάπτυξης των προηγμένων συστημάτων δημιουργεί σοβαρούς κινδύνους, εάν δεν συνοδεύεται από επαρκείς εγγυήσεις ασφαλείας.
Μεταξύ των βασικών προτάσεων περιλαμβάνεται η υποχρέωση των εταιρειών Τεχνητής Νοημοσύνης να καταρτίζουν και να δημοσιοποιούν διαφανή πρωτόκολλα ασφάλειας.
Τα πρωτόκολλα αυτά θα πρέπει να προβλέπουν συστηματικούς ελέγχους πριν από τη διάθεση νέων μοντέλων στην αγορά, καθώς και ανεξάρτητες αξιολογήσεις των δυνατοτήτων και των πιθανών κινδύνων τους. Οι ανεξάρτητοι αξιολογητές θα πρέπει, μάλιστα, να διαθέτουν επαρκή πρόσβαση στα συστήματα, ώστε οι έλεγχοι να μην περιορίζονται σε μια τυπική διαδικασία πιστοποίησης.
Παράλληλα, ζητείται από τα κράτη να συνεργαστούν για τη διαμόρφωση κοινών τεχνικών και θεσμικών προτύπων, αλλά και για τη δημιουργία μηχανισμών ανταλλαγής πληροφοριών σχετικά με σοβαρά περιστατικά ασφάλειας. Η προσέγγιση αυτή παραπέμπει στη δημιουργία ενός διεθνούς συστήματος έγκαιρης προειδοποίησης, μέσω του οποίου κράτη και αρμόδιες αρχές θα ενημερώνονται για σημαντικές δυσλειτουργίες ή επικίνδυνες συμπεριφορές προηγμένων μοντέλων.
Πρόταση για διεθνή εποπτικό οργανισμό
Ιδιαίτερη σημασία έχει η πρόταση να εξεταστεί η δημιουργία ενός νέου διεθνούς οργανισμού για την εποπτεία της Τεχνητής Νοημοσύνης.
Ο πρόεδρος της Φινλανδίας Αλεξάντερ Στουμπ έχει ταχθεί υπέρ ενός φορέα που θα μπορούσε να λειτουργεί στο πλαίσιο του ΟΗΕ και να αντλεί στοιχεία από το πρότυπο του Διεθνούς Οργανισμού Ατομικής Ενέργειας. Η τελική μορφή του μηχανισμού παραμένει ανοικτή, ώστε να επιτευχθεί η ευρύτερη δυνατή διεθνής συναίνεση.
Η σύγκριση με τη διεθνή εποπτεία της πυρηνικής ενέργειας καταδεικνύει τη σοβαρότητα με την οποία αντιμετωπίζονται πλέον οι κίνδυνοι της προηγμένης Τεχνητής Νοημοσύνης. Μεταξύ αυτών αναφέρονται η χρήση της για τη δημιουργία βιολογικών όπλων, οι κυβερνοεπιθέσεις μέσω αυτόνομων πρακτόρων και η ανάπτυξη ρομποτικών συστημάτων που θα μπορούσαν να χρησιμοποιηθούν σε θανατηφόρες επιθέσεις.
Η απουσία ΗΠΑ και Κίνας
Από τη διακήρυξη απουσιάζουν οι Ηνωμένες Πολιτείες και η Κίνα, δηλαδή οι δύο χώρες που πρωταγωνιστούν διεθνώς στην ανάπτυξη των ισχυρότερων μοντέλων Τεχνητής Νοημοσύνης. Δεν έχουν επίσης υπογράψει, μέχρι στιγμής, το Ηνωμένο Βασίλειο, η Γαλλία, η Ιταλία και η Πολωνία.
Η απουσία των μεγαλύτερων τεχνολογικών δυνάμεων περιορίζει αναμφίβολα την άμεση πολιτική βαρύτητα της πρωτοβουλίας. Οι οργανωτές, ωστόσο, εκτιμούν ότι η διακήρυξη μπορεί να δημιουργήσει την αναγκαία δυναμική, ώστε οι προτεινόμενες αρχές να υιοθετηθούν σταδιακά από περισσότερες χώρες και να τεθούν προς συζήτηση στην Ομάδα των Επτά και την Ομάδα των Είκοσι.
Από τις αρχές στους δεσμευτικούς κανόνες
Η διακήρυξη δεν αποτελεί δεσμευτικό διεθνές νομικό κείμενο. Αποτυπώνει, όμως, μια σαφή μετατόπιση της διεθνούς συζήτησης: από τις γενικές διακηρύξεις περί «υπεύθυνης Τεχνητής Νοημοσύνης» προς συγκεκριμένους μηχανισμούς ελέγχου, αξιολόγησης και λογοδοσίας.
Σε ευρωπαϊκό επίπεδο, ο Κανονισμός για την Τεχνητή Νοημοσύνη έχει ήδη εισαγάγει ένα δεσμευτικό πλαίσιο βασισμένο στην κατηγοριοποίηση των κινδύνων, προβλέποντας ειδικές υποχρεώσεις για τα συστήματα υψηλού κινδύνου και τα μοντέλα γενικού σκοπού. Η ανθρώπινη εποπτεία, η τεχνική τεκμηρίωση, η διαχείριση κινδύνων και η αναφορά σοβαρών περιστατικών αποτελούν βασικούς άξονες του ευρωπαϊκού συστήματος.
Η νέα διεθνής πρωτοβουλία επιχειρεί να μεταφέρει αντίστοιχες αρχές σε παγκόσμιο επίπεδο, ιδίως για τα ισχυρότερα μοντέλα που αναπτύσσονται και διατίθενται πέρα από εθνικά σύνορα.
Το κρίσιμο ζήτημα δεν είναι, επομένως, εάν η Τεχνητή Νοημοσύνη θα συνεχίσει να εξελίσσεται. Είναι εάν η εξέλιξή της θα πραγματοποιείται με κανόνες που διασφαλίζουν ότι οι τελικές αποφάσεις, ιδίως όταν επηρεάζουν τη ζωή, την ασφάλεια και τα θεμελιώδη δικαιώματα των πολιτών, θα παραμένουν υπό την ευθύνη του ανθρώπου.
