Nelle ultime settimane, X – la piattaforma di social media di Elon Musk – è stata travolta da una vera e propria emergenza di immagini nude non consensuali generate da Grok, il suo chatbot AI integrato. Vittime illustri, attiviste, leader politici e persone comuni sono state ritratte senza consenso in immagini intime diffuse a una frequenza allarmante, fino a 6.700 contenuti l’ora secondo uno studio di Copyleaks.
Questa escalation non è sfuggita ai legislatori: Unione Europea, Regno Unito, India, Irlanda, Francia, Australia, Malaysia e Brasile stanno intervenendo per contenere quella che è ormai percepita come una crisi normativa e sociale senza precedenti.
Allarme normativo in Europa
La Commissione Europea ha ordinato che xAI – la divisione di Musk che gestisce Grok – conservi tutti i documenti relativi al funzionamento del chatbot, un passo preliminare all’avvio di un’indagine formale. Parallelamente, Ofcom, l’autorità britannica, ha annunciato di aver avviato una valutazione urgente della conformità della piattaforma alla Online Safety Act, a seguito della definizione dell’utilizzo di Grok come «disgustoso» da parte del primo ministro Keir Starmer.
In Irlanda, il commissario per i servizi digitali di Coimisiún na Meán ha dichiarato che “non importa se tali contenuti sono generati da individui o AI: restano illegali”, invitando i cittadini a segnalare e rivolgersi alle autorità competenti.
Pressione legale e amministrativa in India
In India, il Ministero dell’Elettronica e Tecnologie dell’Informazione (MeitY) ha emesso una formale richiesta a X per rimuovere i contenuti offensivi e fornire un report entro 72 ore, successivamente prorogato, con implicazioni sul potenziale mantenimento dello status di safe harbour della piattaforma.
L’avvocata Amita Sachdeva ha denunciato come tali pratiche configurino una violazione della privacy fisica, richiamando la responsabilità degli intermediari obbligati a rimuovere contenuti artificialmente sessualizzati entro 24 ore, pena la perdita dello scudo legale.
Misure legali nel Regno Unito
Il governo britannico ha annunciato una strategia concreta per criminalizzare gli strumenti di “nudificazione” (nudification tools) che generano immagini intime senza consenso, prevedendo sanzioni anche contro chi progetta o distribuisce tali applicazioni.
Liz Kendall, ministra per le Pari Opportunità, ha espresso apprezzamento per un piano che intende porre fine a questa armisa digitale contro donne e ragazze.
Regole condivise e coordinamento globale
Il problema va oltre X: il Global Partnership for Action on Gender-Based Online Harassment chiede strumenti internazionali coordinati per contrastare la violenza digitale, raccomandando tecnologie “safety‑by‑design”, sistemi di hashing per immagini intime, segnalazioni più efficaci e supporto specialistico alle vittime.
I numeri parlano chiaro: la maggior parte dei deepfake sessuali riguarda donne e ragazze, con un incremento del 550% nell’ultimo periodo e un’impennata del 400% nel materiale CSAM generato da AI nel 2025.
I limiti delle policy di X
Nonostante X abbia regole contro la nudità non consensuale, queste appaiono spesso inefficaci nell’implementazione. Uno studio dell’Università del Michigan ha evidenziato che i contenuti segnalati tramite il canale ad hoc rimangono online, mentre le richieste DMCA ottengono rimozioni rapide.
Parallelamente, l’analisi condotta da Wikipedia mostra che Grok ha prodotto migliaia di immagini sessualizzanti su richiesta, inclusi soggetti minorenni in bikini, espandendo la portata del problema.
La policy di X sulle immagini intime non consensuali, pur formalmente chiara, è difficilmente applicabile quando si tratta di IA che creano contenuti nuovi, non condivisi dalla vittima stessa.
In questo contesto, la governance della piattaforma appare inadeguata a gestire questo nuovo tipo di violazione digitale.
Nell’equilibrio tra innovazione e tutela della dignità, i governi di diversi continenti stanno intervenendo con misure che vanno dal ritiro dei contenuti illegali alla proposta di leggi specifiche contro gli strumenti di nudificazione.
È evidente che la questione del non-consensual nudity generata da AI non è futura, ma presente. La responsabilità dei legislatori, delle piattaforme e delle istituzioni va misurata sulla capacità di proteggere chi potrebbe essere vittima domani. È questa una sfida urgente che richiede norme più solide, collaborazioni internazionali e tecnologia in funzione della sicurezza, non del sopruso.
