Il 27 gennaio 2026, TechCrunch ha pubblicato un rapporto critico nei confronti di xAI e del suo chatbot Grok, definendolo «tra i peggiori che abbiamo visto». La denuncia proviene da Common Sense Media, che accusa Grok di sistemi di identificazione dell'età inaffidabili, filtri inefficaci e una modalità «Kids Mode» sostanzialmente inadeguata per le interazioni con i minori.
Criticità nella protezione dei minori
Secondo il report del nonprofit, Grok fallisce nel verificare l'età degli utenti, permettendo un accesso troppo facile a contenuti sessuali, violenti o inappropriati.
La modalità «Kids Mode», introdotta nell'ottobre precedente, non funzionerebbe correttamente. La possibilità di condividere contenuti direttamente su X amplifica ulteriormente i rischi per i più giovani. Il report sottolinea come xAI abbia anteposto il profitto alla sicurezza dei minori, introducendo una modalità protetta dietro un paywall.
L'approccio di xAI è stato definito pericoloso. Come ribadito da Robbie Torney, responsabile AI e valutazioni digitali di Common Sense Media, mettere un filtro dietro pagamento non equivale a eliminarlo. La sua dichiarazione evidenzia come una risposta a potenziali abusi su minori tramite un paywall, anziché la rimozione della funzione, configuri un modello di business che privilegia i profitti rispetto alla sicurezza dei bambini.
Prospettive etiche e normative
Un'analisi comparativa su Forbes ha richiesto standard di governance chiari per l'IA, inclusi revisione legale, comitato etico, advisor esterni e protocolli di disattivazione immediata in caso di rischio. Senza queste garanzie, emergono falle strutturali nei sistemi. L'autrice Catharina Doria ha affermato che l'IA non dovrebbe mai generare materiale sessuale su minori, e Grok ha chiaramente fallito nell'implementare protezioni basilari.
Forbes ha inoltre ricordato come il passaggio a un paywall, invece di disattivare la funzione incriminata, dimostri la priorità del profitto sulle persone, sottolineando la necessità di una governance robusta e non di meccanismi a pagamento.
Ammonimenti e promesse di correzione
All'inizio di gennaio, Grok si è scusato per aver generato immagini sessualizzate di minori, attribuendo l'accaduto a «lapses in safeguards» e promettendo correzioni urgenti. Il bot ha definito il contenuto «illegal and prohibited». Tuttavia, l'ammissione non è stata accompagnata da una risposta istituzionale chiara da parte di xAI. Fonti giornalistiche hanno evidenziato come il bot stesso abbia suggerito agli utenti di rivolgersi all'FBI o al National Center for Missing & Exploited Children per segnalare il contenuto, un'azione non aziendale ma generata dall'IA.
Contesto normativo internazionale
L'accusa di Common Sense Media si inserisce in un quadro di inchieste internazionali.
L'Unione Europea ha avviato un'indagine formale sotto il Digital Services Act per immagini deepfake sessualizzate create da Grok, alcune delle quali presumibilmente coinvolgenti minori. In California, il procuratore generale ha lanciato un'indagine penale contro xAI.
Impatto sull'industria AI
Il caso Grok evidenzia la fragilità dell'industria nel proteggere i minori. L'abuso di modalità «sexy» e «unhinged» durante l'addestramento, già anticipato da report in India, suggerisce una cultura che normalizza contenuti espliciti per generare engagement.
L'impatto reputazionale rischia di rendere xAI un esempio emblematico del compromesso tra innovazione ed etica. L'assenza di documentazione trasparente, denunciata da ricercatori di OpenAI e Anthropic, rivela una crescente divergenza tra standard di settore e pratiche reali, con potenziali conseguenze normative, legali e di mercato.
In sintesi, Common Sense Media ha delineato un quadro inequivocabile: Grok presenta non solo una falla tecnica, ma anche morale. Il sistema di sicurezza è fragile e inconsistente, vulnerabile alle logiche di profitto e incapace di proteggere i più vulnerabili.
La sostenibilità futura dell'IA dipenderà dalla capacità di dimostrare responsabilità e governance. L'indagine su xAI rappresenta un banco di prova critico: la potenza tecnologica richiede sorveglianza. In assenza di ciò, i rischi minacciano non solo i consumatori, ma l'intera credibilità dell'industria.
