Νέα ερωτήματα γύρω από την αποτελεσματικότητα των συστημάτων ελέγχου της Meta προκαλεί έρευνα του περιοδικού WIRED, η οποία αποκαλύπτει ότι στις πλατφόρμες της εταιρείας προωθήθηκαν διαφημίσεις εφαρμογής τεχνητής νοημοσύνης που παρήγαγε σεξουαλικά deepfakes πραγματικών προσώπων. Πρόκειται για την εφαρμογή Kromix, η οποία διαφημιζόταν ως εργαλείο «AI image styler» «χωρίς περιορισμούς». Σε μία από τις καμπάνιες, η οποία στόχευε αποκλειστικά άνδρες, απεικονιζόταν μια γυναίκα που έμοιαζε με γνωστή Αμερικανίδα πολιτικό μπροστά από αμερικανικές σημαίες, πριν η εικόνα μετατραπεί σε πορνογραφικό βίντεο, προωθώντας τη δυνατότητα τοποθέτησης υπαρκτών προσώπων σε σεξουαλικά σενάρια.
Σύμφωνα με τα στοιχεία της διαφημιστικής βιβλιοθήκης της Meta, ο σχετικός λογαριασμός έτρεξε συνολικά 32 διαφημίσεις σε Facebook και Instagram, οι οποίες παρέμειναν ενεργές από 5 έως 46 ώρες. Οι διαφημιστές χρησιμοποίησαν τεχνικές απόκρυψης, προβάλλοντας ουδέτερες εικόνες προεπισκόπησης (όπως τοπία με βουνά και καταρράκτες) ώστε να παρακάμψουν τους αυτόματους ελέγχους. Το υλικό εντοπίστηκε από το Tech Transparency Project και αφαιρέθηκε μόνο αφότου το WIRED επικοινώνησε με τη Meta, με την Katie Paul, διευθύντρια του οργανισμού, να εκφράζει έντονη ανησυχία για τη στοχευμένη σεξουαλικοποίηση γυναικών πολιτικών μέσω εφαρμογών τύπου «nudify».
Το περιστατικό συνιστά ευθεία παραβίαση των πολιτικών της Meta, οι οποίες απαγορεύουν ρητά το γυμνό, τη σεξουαλική δραστηριότητα και τη μη συναινετική χρήση προσωπικών εικόνων. Η Cindy Southworth, επικεφαλής του τομέα ασφάλειας γυναικών της Meta, ανέφερε ότι η εταιρεία έχει αφαιρέσει πάνω από 340.000 παρόμοιες διαφημίσεις, παραδεχόμενη ωστόσο ότι κανένα σύστημα δεν είναι αλάνθαστο. Παράλληλα, η Apple προχώρησε στην αφαίρεση του Kromix από το App Store, σημειώνοντας ότι η εφαρμογή προσέθεσε απαγορευμένες λειτουργίες μετά τον αρχικό της έλεγχο, ενώ υπενθυμίζεται πως στο παρελθόν το WIRED είχε εντοπίσει ξανά κενά ασφαλείας στη Meta σχετιζόμενα με παράνομο υλικό AI.
Η υπόθεση αναδεικνύει τους ευρύτερους κινδύνους που εγκυμονεί η τεχνολογία deepfake, η οποία καθιστά εξαιρετικά εύκολη τη δημιουργία και διανομή μη συναινετικού πορνογραφικού υλικού. Ερευνητές, όπως ο Benjamin Shultz του American Sunlight Project, επισημαίνουν ότι πλέον ακόμα και αθώες δημόσιες φωτογραφίες —όπως επίσημα πορτρέτα ή στιγμιότυπα από συνεντεύξεις Τύπου— μπορούν να χρησιμοποιηθούν ως πρώτη ύλη από οποιονδήποτε έχει πρόσβαση σε αυτά τα εργαλεία. Το γεγονός αυτό καθιστά τις γυναίκες πολιτικούς και δημόσια πρόσωπα ιδιαίτερα ευάλωτα σε ψηφιακές επιθέσεις και εκστρατείες κηλίδωσης.
