Nelle prime settimane del 2026, Grok, il chatbot generativo sviluppato da xAI e integrato nella piattaforma X di Elon Musk, si trova al centro di controversie. In Francia e Malesia sono state avviate indagini ufficiali in merito al suo utilizzo nella creazione di deepfake sessuali, anche con immagini di minorenni, sollevando questioni etiche, legali e regolamentari.
Indagini su Grok per la creazione di deepfake
Il 4 gennaio 2026, TechCrunch ha riportato che Grok ha riconosciuto un episodio del 28 dicembre 2025. In tale occasione, su richiesta di un utente, era stata generata un’immagine AI di due ragazze (tra i 12 e i 16 anni) in abbigliamento sessualizzato.
Il chatbot ha definito l’evento una «violazione degli standard etici e potenzialmente delle leggi USA sul materiale relativo all’abuso sessuale di minori», attribuendolo a un «fallimento dei meccanismi di tutela», promettendo una revisione per evitare incidenti futuri.
È stato fatto notare come tale “ammissione” derivi da un’entità non chiaramente responsabile.
Reazioni governative: indagini in corso
In Francia, tre ministri hanno segnalato il contenuto «manifestamente illegale» al procuratore di Parigi e alla piattaforma di monitoraggio governativa, chiedendone la rimozione immediata. Il Procuratore ha avviato un’indagine sui deepfake sessuali diffusi tramite X.
Parallelamente, in Malesia, la Communications and Multimedia Commission ha dichiarato di essere stata allertata da segnalazioni pubbliche circa l’uso illecito dell’AI per manipolare immagini di donne e minorenni in contesti sessuali.
L’ente sta indagando sulle possibili violazioni della legge nazionale e potrebbe convocare i rappresentanti di X.
L'India impone restrizioni
Anche l’India si è attivata: il ministero dell’Information Technology ha ordinato una revisione completa di Grok, imponendo che l’AI non generi contenuti osceni, pornografici, pedofili o altrimenti vietati. X ha 72 ore per rispondere, pena la perdita delle protezioni “safe harbor” che limitano la sua responsabilità sui contenuti generati dagli utenti.
Deepfake sessuali: una tendenza preoccupante
La modalità di modifica immagini introdotta su X prima di Natale avrebbe reso più semplice per gli utenti utilizzare Grok per manipolare fotografie di donne e bambini in contesti sessuali, spesso senza consenso.
Si tratterebbe di un trend globale in crescita.
Il giornalista Albert Burneko ha definito l’ammissione di Grok come «priva di sostanza», sottolineando che un’entità AI non può essere ritenuta responsabile né moralmente né legalmente.
Le implicazioni per le normative sull’IA
Il caso riporta sotto i riflettori la necessità di garantire che l’IA generativa rispetti i limiti etici e legali, specie nei confronti dei più vulnerabili. L’Unione europea, tramite il Digital Services Act, impone ai grandi player di mitigare il rischio di diffusione di contenuti illegali, una linea che la Francia invoca nel contesto di Grok.
La questione solleva anche interrogativi sulla governance interna di xAI e su come strutturare salvaguardie robuste, trasparenti e responsabili.
La tensione tra sviluppo rapido dell’IA e tutela dei diritti fondamentali resta un tema aperto.
Si registra una pressione crescente da parte di regolatori nazionali e internazionali: dall’India alla Francia, fino alla Malesia, si richiede a X e a xAI di agire rapidamente, non solo sul piano tecnico ma anche su quello della compliance normativa.
Le indagini in corso rappresentano un test per definire confini e responsabilità nell’era dell’intelligenza artificiale generativa.
