Μια ιδιαίτερα σοβαρή υπόθεση στις ΗΠΑ επαναφέρει στο προσκήνιο ένα από τα δυσκολότερα νομικά ζητήματα της εποχής των ψηφιακών πλατφορμών: μέχρι πού μπορεί να φτάσει ο πειραματισμός μιας πλατφόρμας με τους αλγορίθμους της και τι συμβαίνει όταν η επιδίωξη μεγαλύτερης αλληλεπίδρασης των χρηστών συγκρούεται με την ασφάλειά τους;
Σύμφωνα με δημοσιεύματα που βασίζονται σε εμπιστευτικό εσωτερικό έγγραφο του TikTok, η εταιρεία είχε αναπτύξει μηχανισμό που αποσκοπούσε στον περιορισμό των λεγόμενων «filter bubbles», δηλαδή της συνεχούς ανατροφοδότησης του χρήστη με παρόμοιο –και ενδεχομένως επιβλαβές– περιεχόμενο. Ωστόσο, η δικλίδα αυτή φέρεται να μην ενεργοποιήθηκε για περίπου το 10% των χρηστών στις ΗΠΑ, προκειμένου να μετρηθεί η επίδρασή της στην καθημερινή χρήση και σε άλλους βασικούς δείκτες της πλατφόρμας. Η ομάδα ελέγχου αντιστοιχούσε τότε σε περίπου 15 εκατομμύρια χρήστες και περιλάμβανε ανηλίκους.
Ανάμεσά τους βρισκόταν ο 16χρονος Chase Nasca. Σύμφωνα με τα στοιχεία που έχουν δημοσιοποιηθεί, ο λογαριασμός του εντάχθηκε τυχαία στην ομάδα ελέγχου στις 25 Ιανουαρίου 2022. Λιγότερο από έναν μήνα αργότερα ο ανήλικος έθεσε τέλος στη ζωή του. Το εσωτερικό έγγραφο φέρεται να καταγράφει ότι οι στρατηγικές αποτροπής του «filter bubble» δεν εφαρμόστηκαν στον συγκεκριμένο χρήστη «by design».
Η υπόθεση δεν αποδεικνύει από μόνη της ότι ο αλγόριθμος προκάλεσε τον θάνατο. Αυτό ακριβώς αποτελεί ένα από τα δυσκολότερα ζητήματα μιας ενδεχόμενης δικαστικής κρίσης: τον αιτιώδη σύνδεσμο μεταξύ συγκεκριμένων επιλογών σχεδιασμού της πλατφόρμας, του περιεχομένου που προτάθηκε στον χρήστη και της τελικής βλάβης.
Αλλά εδώ υπάρχει μια σημαντική διαφοροποίηση. Δεν εξετάζεται απλώς εάν ένας αλγόριθμος «έκανε λάθος». Το κρίσιμο ερώτημα είναι εάν μια πλατφόρμα, ενώ είχε ήδη αναγνωρίσει έναν κίνδυνο και είχε αναπτύξει μηχανισμό περιορισμού του, επέλεξε συνειδητά να μην εφαρμόσει τον μηχανισμό σε συγκεκριμένη ομάδα χρηστών προκειμένου να αξιολογήσει την επίδρασή του στο engagement.
Τι θα συνέβαινε στην Ευρωπαϊκή Ένωση;
Στην Ευρώπη ένα αντίστοιχο περιστατικό θα εξεταζόταν πλέον μέσα από ένα πολύ αυστηρότερο κανονιστικό πλέγμα.
Ο Digital Services Act (DSA) επιβάλλει στις πολύ μεγάλες διαδικτυακές πλατφόρμες υποχρεώσεις εντοπισμού, αξιολόγησης και περιορισμού των συστημικών κινδύνων που προκύπτουν και από τη λειτουργία των recommender systems. Στους κινδύνους αυτούς περιλαμβάνονται η προστασία των ανηλίκων, η ψυχική και σωματική ευημερία των χρηστών και οι επιπτώσεις που μπορεί να προκαλέσει η ενίσχυση επιβλαβούς περιεχομένου.
Δεν πρόκειται, μάλιστα, για θεωρητικό ζήτημα. Τον Φεβρουάριο του 2026 η Ευρωπαϊκή Επιτροπή ανακοίνωσε προκαταρκτικά ότι το TikTok παραβιάζει τον DSA ως προς τον εθιστικό σχεδιασμό της υπηρεσίας του, επισημαίνοντας μεταξύ άλλων το infinite scroll, το autoplay και το ιδιαίτερα εξατομικευμένο σύστημα συστάσεων. Η Επιτροπή έκρινε προκαταρκτικά ότι δεν είχαν αξιολογηθεί επαρκώς οι δυνητικές επιπτώσεις στη σωματική και ψυχική ευημερία των χρηστών, ιδίως των ανηλίκων και των ευάλωτων ενηλίκων.
Παράλληλα, τίθενται ζητήματα GDPR, καθώς η εξατομίκευση των προτάσεων προϋποθέτει εκτεταμένη επεξεργασία δεδομένων συμπεριφοράς και δημιουργία προφίλ χρηστών. Όταν δε πρόκειται για παιδιά, οι απαιτήσεις προστασίας γίνονται ακόμη αυστηρότερες.
Από το «algorithmic error» στο «algorithmic liability»
Η συγκεκριμένη υπόθεση δείχνει ίσως τη σημαντικότερη μεταβολή που συντελείται στο δίκαιο των ψηφιακών πλατφορμών.
Το ερώτημα δεν είναι πλέον μόνο εάν η πλατφόρμα γνώριζε ότι φιλοξενούσε επιβλαβές περιεχόμενο. Είναι εάν ο ίδιος ο σχεδιασμός και οι επιχειρηματικές επιλογές του αλγοριθμικού συστήματος δημιούργησαν, ενίσχυσαν ή δεν περιόρισαν έναν προβλέψιμο κίνδυνο.
Και όταν μια εταιρεία έχει ήδη δημιουργήσει έναν μηχανισμό ασφαλείας, αλλά τον απενεργοποιεί σκόπιμα για μέρος των χρηστών ώστε να μετρήσει εάν η προστασία τους μειώνει το engagement, η νομική συζήτηση περνά σε εντελώς διαφορετικό επίπεδο.
Δεν μιλάμε πλέον απλώς για το τι «έδειξε ο αλγόριθμος».
Μιλάμε για ποιος αποφάσισε πώς θα λειτουργήσει ο αλγόριθμος, ποιον κίνδυνο γνώριζε και ποιο επίπεδο κινδύνου επέλεξε να αποδεχθεί.
Και αυτή ακριβώς μπορεί να αποτελέσει μία από τις επόμενες μεγάλες περιοχές ευθύνης των ψηφιακών πλατφορμών.
