Η OpenAI απέλυσε τρεις ερευνητές, υποστηρίζοντας ότι παραβίασαν τις εσωτερικές πολιτικές της για την πρόσβαση και τη διαχείριση ευαίσθητων εταιρικών πληροφοριών. Η εξέλιξη επαναφέρει στο προσκήνιο ένα κρίσιμο ζήτημα για τον κλάδο: πώς μπορεί να συνδυαστεί η προστασία της εμπιστευτικότητας με την ανάγκη ουσιαστικής εποπτείας των συστημάτων τεχνητής νοημοσύνης.
Σύμφωνα με τη θέση της εταιρείας, η εσωτερική έρευνα διαπίστωσε χειρισμό πληροφοριών εκτός των προβλεπόμενων διαδικασιών, με αποτέλεσμα να παραβιαστούν οι κανόνες της και να κλονιστεί η εμπιστοσύνη προς τους συγκεκριμένους εργαζομένους. Η OpenAI δεν ανακοίνωσε τα ονόματά τους ούτε δημοσιοποίησε αναλυτικά το περιεχόμενο των πληροφοριών. Όπως μεταδίδει ο ΣΚΑΪ, επικαλούμενος το BBC, τουλάχιστον δύο από τους απολυμένους συμμετείχαν στην έρευνα για την ασφάλεια της AI.
Η Wall Street Journal, επικαλούμενη πρόσωπα με γνώση της υπόθεσης, αναφέρει ότι η φερόμενη παραβίαση περιλάμβανε κοινοποίηση εμπιστευτικών εταιρικών πληροφοριών σε εξωτερικό οργανισμό που ασχολείται με την ασφάλεια της τεχνητής νοημοσύνης. Η συγκεκριμένη αναφορά αποτελεί δημοσιογραφική πληροφορία και δεν συνοδεύεται από δημόσια παρουσίαση των στοιχείων της εσωτερικής έρευνας.
Αυτή η διάκριση έχει ιδιαίτερη σημασία. Με τα διαθέσιμα στοιχεία δεν μπορεί να εξαχθεί ασφαλές συμπέρασμα για το περιεχόμενο, τον σκοπό ή τις συνέπειες της φερόμενης κοινοποίησης. Το δημοσίευμα του ΣΚΑΪ αναφέρει, επίσης, ότι κατά τις πληροφορίες του BBC οι απολύσεις συνδέονται με τον χειρισμό των πληροφοριών και όχι με την έκφραση ανησυχιών για την ασφάλεια.
Η υπόθεση εκτυλίσσεται ενώ ενισχύεται η πίεση προς τις εταιρείες AI να επιτρέπουν ανεξάρτητες αξιολογήσεις. Η ίδια η OpenAI έχει δηλώσει ότι υποστηρίζει εξωτερικούς ελέγχους με εκτεταμένη πρόσβαση στα στάδια εκπαίδευσης, αξιολόγησης και διάθεσης των συστημάτων της, ώστε οι αξιολογητές να μπορούν να εξετάζουν τις παραδοχές της και να εντοπίζουν κινδύνους που ενδεχομένως έχουν διαφύγει.
Σε επίπεδο εταιρικής διακυβέρνησης, το περιστατικό αναδεικνύει την ανάγκη για σαφείς διαδικασίες: ποιος μπορεί να διαβιβάζει πληροφορίες σε εξωτερικούς ερευνητές, με ποια έγκριση και υπό ποιες εγγυήσεις εμπιστευτικότητας. Παράλληλα, χρειάζονται αξιόπιστοι δίαυλοι μέσω των οποίων οι εργαζόμενοι μπορούν να αναφέρουν προβλήματα ασφάλειας και να γνωρίζουν ότι οι ανησυχίες τους θα εξεταστούν ουσιαστικά.
Η πρόκληση για τις επιχειρήσεις τεχνητής νοημοσύνης είναι να οργανώσουν έναν έλεγχο που να παρέχει επαρκή πρόσβαση στους αξιολογητές και σαφείς κανόνες στους εργαζομένους. Η εμπιστοσύνη του κοινού εξαρτάται τόσο από την προστασία των πληροφοριών όσο και από τη δυνατότητα έγκαιρου εντοπισμού και αντιμετώπισης των κινδύνων.
