Μια αίτηση εργασίας απορρίπτεται, μια πιστοδότηση δεν εγκρίνεται ή ένας πολίτης αποκλείεται από μια παροχή. Όταν στην αξιολόγηση συμμετέχει ένα σύστημα τεχνητής νοημοσύνης, το ερώτημα αφορά τόσο την ορθότητα του αποτελέσματος όσο και τη δυνατότητα του ενδιαφερομένου να καταλάβει τι συνέβη και να αμφισβητήσει την απόφαση.
Αυτό το ζήτημα αναδεικνύει δημοσίευμα της «Εφημερίδας των Συντακτών» για τη σχέση τεχνητής νοημοσύνης και ανθρωπίνων δικαιωμάτων: ένα σφάλμα αποκτά διαφορετική βαρύτητα όταν επηρεάζει την πρόσβαση στην εργασία, στη χρηματοδότηση ή στις δημόσιες υπηρεσίες. Τότε οι συνέπειες υπερβαίνουν την τεχνική δυσλειτουργία και αγγίζουν την προστασία του ανθρώπου.Η αυτοματοποιημένη απόφαση υπόκειται σε κανόνες
Το ευρωπαϊκό δίκαιο περιλαμβάνει ήδη εγγυήσεις για ορισμένες αυτοματοποιημένες αποφάσεις. Το άρθρο 22 του Γενικού Κανονισμού Προστασίας Δεδομένων κατοχυρώνει, υπό τις προϋποθέσεις του, το δικαίωμα του προσώπου να μην υπόκειται σε απόφαση που βασίζεται αποκλειστικά σε αυτοματοποιημένη επεξεργασία και παράγει έννομα αποτελέσματα ή το επηρεάζει σημαντικά με ανάλογο τρόπο.
Η διάταξη προβλέπει εξαιρέσεις, μεταξύ άλλων για αποφάσεις αναγκαίες για σύμβαση, επιτρεπόμενες από σχετική νομοθεσία ή βασιζόμενες σε ρητή συγκατάθεση. Στις περιπτώσεις σύμβασης και συγκατάθεσης, οι εγγυήσεις περιλαμβάνουν τουλάχιστον ανθρώπινη παρέμβαση, δυνατότητα έκφρασης της άποψης του ενδιαφερομένου και αμφισβήτησης της απόφασης. Η εφαρμογή του άρθρου απαιτεί εξέταση των πραγματικών συνθηκών· δεν καλύπτει αδιακρίτως κάθε χρήση αλγορίθμου.
Προστασία σε όλη τη διάρκεια λειτουργίας
Η σύμβαση-πλαίσιο του Συμβουλίου της Ευρώπης για την τεχνητή νοημοσύνη, τα ανθρώπινα δικαιώματα, τη δημοκρατία και το κράτος δικαίου προσεγγίζει την προστασία σε ολόκληρο τον κύκλο ζωής των συστημάτων. Στις βασικές αρχές της περιλαμβάνονται η ανθρώπινη αξιοπρέπεια, η ατομική αυτονομία, η ισότητα, η προστασία της ιδιωτικότητας, η διαφάνεια και η λογοδοσία.
Το πλαίσιο δίνει επίσης έμφαση στην αξιολόγηση κινδύνων και επιπτώσεων, στην πρόληψη και στον περιορισμό τους. Προβλέπει εγγυήσεις ώστε οι επηρεαζόμενοι να διαθέτουν επαρκή πληροφόρηση για να αμφισβητούν αποφάσεις που λαμβάνονται μέσω συστημάτων τεχνητής νοημοσύνης ή βασίζονται ουσιωδώς σε αυτά, καθώς και αποτελεσματική δυνατότητα υποβολής καταγγελίας.
Η Ευρωπαϊκή Ένωση ενέκρινε τη σύναψη της σύμβασης με την απόφαση (ΕΕ) 2026/1080 του Συμβουλίου. Η εξέλιξη ενισχύει τη θεσμική σύνδεση της διακυβέρνησης της τεχνητής νοημοσύνης με την προστασία θεμελιωδών δικαιωμάτων.
Στην πράξη, η παρουσία ενός ανθρώπου στη διαδικασία χρειάζεται να συνοδεύεται από πραγματική δυνατότητα ελέγχου. Η απλή επικύρωση μιας αλγοριθμικής πρότασης, χωρίς κατανόηση των δεδομένων και χωρίς περιθώριο διόρθωσης, αφήνει αναπάντητο το πρόβλημα της προστασίας του πολίτη.
Αντίστοιχα, η αποτελεσματική αμφισβήτηση προϋποθέτει κατανοητή ενημέρωση, σαφή κατανομή ευθύνης και πρόσβαση σε διαδικασία επανεξέτασης. Ο ενδιαφερόμενος πρέπει να μπορεί να αναδείξει ένα λανθασμένο δεδομένο ή μια άδικη αξιολόγηση και να λάβει ουσιαστική απάντηση.
Η τεχνητή νοημοσύνη μπορεί να βελτιώσει υπηρεσίες και να επιταχύνει διαδικασίες. Η επιτυχία της, όμως, θα κριθεί και από το κατά πόσο ο άνθρωπος διατηρεί τη δυνατότητα να ελέγχει, να διορθώνει και να προσβάλλει τις αποφάσεις που επηρεάζουν τη ζωή του.
