Την ανάγκη άμεσης δημιουργίας ενός αποτελεσματικού διεθνούς πλαισίου για την τεχνητή νοημοσύνη υπογράμμισε ο Ύπατος Αρμοστής του ΟΗΕ για τα Ανθρώπινα Δικαιώματα, Φόλκερ Τουρκ, προειδοποιώντας ότι οι ανεξέλεγκτες εφαρμογές της μπορούν να επηρεάσουν το σύνολο σχεδόν των θεμελιωδών δικαιωμάτων.
Η παρέμβασή του μεταφέρει τη συζήτηση πέρα από τα εντυπωσιακά τεχνολογικά επιτεύγματα και το ενδεχόμενο ενός μελλοντικού «υπαρξιακού κινδύνου». Οι επιπτώσεις της τεχνητής νοημοσύνης είναι ήδη ορατές στην ιδιωτικότητα, στην εργασία, στην ελευθερία της έκφρασης, στην ισότητα, στη δημοκρατική λειτουργία και στην πρόσβαση στη δικαιοσύνη.
Από την ιδιωτικότητα στις διακρίσεις
Τα συστήματα τεχνητής νοημοσύνης αναπτύσσονται και εκπαιδεύονται με τεράστιες ποσότητες δεδομένων. Όταν η συλλογή και η επεξεργασία τους πραγματοποιούνται χωρίς διαφάνεια και ουσιαστικό έλεγχο, το δικαίωμα προστασίας της ιδιωτικής ζωής περιορίζεται δραστικά. Ο πολίτης συχνά αγνοεί ποια δεδομένα χρησιμοποιούνται, με ποιον σκοπό και για πόσο χρονικό διάστημα.
Παράλληλα, αλγοριθμικά συστήματα χρησιμοποιούνται πλέον για την πρόσληψη εργαζομένων, την αξιολόγηση πιστοληπτικής ικανότητας, την αστυνόμευση, την παροχή κοινωνικών επιδομάτων και τη λήψη διοικητικών αποφάσεων. Εάν τα δεδομένα εκπαίδευσης ενσωματώνουν κοινωνικές προκαταλήψεις, η τεχνολογία μπορεί όχι μόνο να τις αναπαράγει αλλά και να τις μετατρέψει σε αυτοματοποιημένες διακρίσεις μεγάλης κλίμακας.
Απειλή για τη δημοκρατική διαδικασία
Η παραγωγή παραπλανητικού περιεχομένου, εικόνων και βίντεο που εμφανίζονται ως αυθεντικά μπορεί να επηρεάσει εκλογικές διαδικασίες, να κατασκευάσει γεγονότα και να υπονομεύσει την εμπιστοσύνη των πολιτών στην ενημέρωση. Το πρόβλημα δεν είναι μόνο ότι ένα deepfake μπορεί να γίνει πιστευτό, αλλά και ότι η γενικευμένη αμφιβολία επιτρέπει πλέον ακόμη και σε αληθινά στοιχεία να απορρίπτονται ως τεχνητές κατασκευές.
Ιδιαίτερα έντονη είναι και η ανησυχία για τη συγκέντρωση τεχνολογικής, οικονομικής και πληροφοριακής ισχύος σε έναν μικρό αριθμό επιχειρήσεων. Οι εταιρείες που αναπτύσσουν τα ισχυρότερα συστήματα μπορούν στην πράξη να καθορίζουν τους όρους πρόσβασης στην πληροφορία, να επηρεάζουν την αγορά εργασίας και να διαχειρίζονται δεδομένα δισεκατομμυρίων ανθρώπων.
Δεν αρκούν οι κανόνες δεοντολογίας
Ο Φόλκερ Τουρκ ζητεί σαφείς διεθνείς «κόκκινες γραμμές», ανεξάρτητους ελέγχους και ισχυρότερη συνεργασία μεταξύ κρατών και τεχνολογικών επιχειρήσεων. Η απλή αυτορρύθμιση της αγοράς δεν μπορεί να θεωρηθεί επαρκής, ιδίως όταν οι εταιρείες που καλούνται να ελέγξουν τους κινδύνους είναι ταυτόχρονα εκείνες που ανταγωνίζονται για την ταχύτερη ανάπτυξη και εμπορική αξιοποίηση της τεχνολογίας.
Ένα ουσιαστικό ρυθμιστικό πλαίσιο πρέπει να κατοχυρώνει τη διαφάνεια, την ανθρώπινη εποπτεία και τη δυνατότητα αμφισβήτησης μιας αυτοματοποιημένης απόφασης. Παράλληλα, πρέπει να προσδιορίζει ποιος ευθύνεται όταν ένα σύστημα προκαλεί βλάβη: ο δημιουργός του μοντέλου, ο πάροχος, ο επαγγελματίας που το χρησιμοποιεί ή ο φορέας που έλαβε την τελική απόφαση.
Η τεχνητή νοημοσύνη δεν αποτελεί από μόνη της εχθρό των ανθρωπίνων δικαιωμάτων. Μπορεί να βελτιώσει την υγεία, την εκπαίδευση, την πρόσβαση στη γνώση και τη δημόσια διοίκηση. Ο πραγματικός κίνδυνος βρίσκεται στην ανάπτυξή της χωρίς λογοδοσία, χωρίς ελέγχους και χωρίς αποτελεσματικά μέσα προστασίας του πολίτη.
Το κρίσιμο ερώτημα, επομένως, δεν είναι εάν η τεχνητή νοημοσύνη θα συνεχίσει να εξελίσσεται, αλλά εάν το δίκαιο και οι δημοκρατικοί θεσμοί θα προλάβουν να θέσουν τα όρια πριν οι σημαντικότερες αποφάσεις περάσουν οριστικά από τον άνθρωπο στον αλγόριθμο
