Μια σοβαρή καταγγελία φέρνει στο επίκεντρο τη λειτουργία του Grok, καθώς επιζήσασα παιδικής σεξουαλικής κακοποίησης κατέθεσε αγωγή κατά της xAI, υποστηρίζοντας ότι το chatbot χρησιμοποίησε πραγματικό υλικό από την κακοποίησή της για να δημιουργήσει νέες παράνομες εικόνες που την απεικονίζουν.
Τι καταγγέλλεται στην αγωγή
Η ενάγουσα, η οποία αναφέρεται ως Jane Doe για την προστασία της ταυτότητάς της, υποστηρίζει μέσω των δικηγόρων της ότι η xAI όχι μόνο δημιούργησε νέο υλικό σεξουαλικής κακοποίησης ανηλίκων, αλλά είχε ενσωματώσει στα δεδομένα της εικόνες που απεικόνιζαν την ίδια.
Σύμφωνα με την αγωγή, η εταιρεία δεν εφάρμοσε επαρκείς μηχανισμούς προστασίας, με αποτέλεσμα υλικό που δημιουργήθηκε από AI να εμφανιστεί και να διαδοθεί στην πλατφόρμα X.
Η συγκεκριμένη αγωγή παρουσιάζει μια σημαντική ιδιαιτερότητα. Οι δικηγόροι υποστηρίζουν ότι το Grok χρησιμοποίησε προϋπάρχον υλικό παιδικής κακοποίησης για να δημιουργήσει νέες εικόνες, σε αντίθεση με άλλες υποθέσεις όπου καταγγέλλεται ότι χρησιμοποιήθηκαν απλές φωτογραφίες ανηλίκων για την παραγωγή σεξουαλικοποιημένου υλικού.
Η ενάγουσα ήταν σε προσχολική ηλικία όταν, σύμφωνα με την καταγγελία, κακοποιήθηκε επανειλημμένα από ενήλικο. Το συγκεκριμένο υλικό φέρεται να κυκλοφορεί στο διαδίκτυο εδώ και περίπου 20 χρόνια και να είναι γνωστό στις Αρχές και στις οργανώσεις προστασίας παιδιών.
Το ψηφιακό «αποτύπωμα» που οδήγησε στο θύμα
Σύμφωνα με τους δικηγόρους, το Canadian Centre for Child Protection χρησιμοποίησε ψηφιακά αποτυπώματα των εικόνων, γνωστά ως hashes, προκειμένου να εντοπίσει στο X υλικό που είχε δημιουργηθεί με AI και φέρεται να απεικόνιζε την ενάγουσα.
Όπως εξήγησε η δικηγόρος της, Μάργκαρετ Μέιμπι, η συγκεκριμένη υπόθεση είναι διαφορετική επειδή μπορεί να συνδεθεί το υλικό που δημιουργήθηκε από AI με πραγματικό, ήδη καταγεγραμμένο υλικό κακοποίησης και, επομένως, με ένα ταυτοποιήσιμο θύμα που βρίσκεται εν ζωή.
Οι προηγούμενες καταγγελίες κατά του Grok
Η xAI βρίσκεται αντιμέτωπη με αρκετές αγωγές σχετικά με τη δημιουργία και διανομή υλικού σεξουαλικής κακοποίησης ανηλίκων. Πολλές αφορούν την περίοδο στις αρχές του 2026, όταν οι μηχανισμοί ασφαλείας του Grok επέτρεπαν, σύμφωνα με τις καταγγελίες, τη δημιουργία σεξουαλικοποιημένων εικόνων μέσω του X.
Ο Έλον Μασκ είχε δηλώσει τον Ιανουάριο ότι η λειτουργία NSFW του Grok προοριζόταν για γυμνό φανταστικών ενηλίκων. Παράλληλα, ερευνητές του Center for Countering Digital Hate υποστήριξαν ότι το chatbot παρήγαγε εκατομμύρια σεξουαλικοποιημένες εικόνες μέσα σε λίγες εβδομάδες, μεταξύ των οποίων και χιλιάδες που απεικόνιζαν παιδιά.
Η xAI έχει επίσης κινηθεί νομικά εναντίον δύο χρηστών που αντιμετωπίζουν ποινικές κατηγορίες για δημιουργία τέτοιου υλικού.
Οι δικηγόροι της ενάγουσας υποστηρίζουν ότι η δυνατότητα της AI να δημιουργεί συνεχώς νέες εικόνες από πραγματικό υλικό κακοποίησης δημιουργεί ένα νέο και απρόβλεπτο πεδίο κινδύνων για τα θύματα.
Όπως χαρακτηριστικά ανέφερε η Μέιμπι, μέχρι σήμερα το υλικό που απεικόνιζε την πελάτισσά της ήταν περιορισμένο. Με την τεχνητή νοημοσύνη, όμως, υπάρχει πλέον ο φόβος ότι μπορούν να δημιουργούνται διαρκώς νέες εικόνες και νέα σενάρια κακοποίησης, προκαλώντας εκ νέου τραύμα στα θύματα.
