San Francisco ha formalmente intimato ad Apple e Google la rimozione di tredici applicazioni “nudify” dai rispettivi app store. Questi strumenti, capaci di trasformare fotografie in immagini intime non consensuali, sono stati oggetto di lettere di cease-and-desist inviate dal city attorney David Chiu, con un termine di 28 giorni per la conformità.
Le comunicazioni evidenziano come tali app violino le leggi californiane che proibiscono la creazione di pornografia deepfake non consensuale. Chiu ha accusato Apple e Google di aver «probabilmente guadagnato milioni di dollari in commissioni» da queste app, evidenziando l'urgenza di proteggere le vittime, in particolare donne e ragazze.
Le app sotto accusa e i profitti stimati
La richiesta di rimozione riguarda otto app sull’App Store e cinque sul Play Store, tutte capaci di trasformare foto in immagini esplicite. I nomi specifici non sono stati divulgati per evitare di promuoverne la diffusione, ma è noto che almeno una di queste ha superato il milione di download, dichiarando funzionalità di sessualizzazione o produzione di video “free and uncensored”.
Chiu ha dichiarato che «generare immagini intime non consensuali è illegale, dannoso e completamente inaccettabile», sottolineando la responsabilità delle piattaforme nel non aver agito prontamente. Si stima che Apple e Google abbiano ottenuto «millions of dollars in fees» dalla permanenza di queste applicazioni nei loro cataloghi.
Le reazioni di Google e Apple
Google, tramite il portavoce Dan Jackson, ha annunciato la sospensione delle cinque app segnalate per violazione della policy sui contenuti sessualmente espliciti. L'azienda ha inoltre affermato di rimuovere proattivamente centinaia di applicazioni simili e di aver imposto restrizioni su termini di ricerca come “nudify”.
Apple, invece, non ha rilasciato dichiarazioni ufficiali. Tuttavia, è noto che in passato l'azienda ha già moderato contenuti affini a seguito di segnalazioni di ricercatori.
Contesto normativo e sfide tecnologiche
Il diritto californiano, in particolare il Civil Code 1708.86, stabilisce che chi offre servizi che facilitano la produzione di pornografia deepfake non consensuale può essere ritenuto legalmente responsabile se non interviene prontamente dopo una segnalazione o diffida legale.
Studi recenti rivelano che molte app di face-swap, pur non pubblicizzando funzionalità di nudificazione, possono essere usate per scopi non consensuali. Un audit su 155 applicazioni ha mostrato che il 70% permetteva la creazione di immagini esplicite senza dichiararlo apertamente.
Questo scenario rende urgente l'adozione di sistemi di screening più sofisticati e una maggiore vigilanza delle piattaforme per prevenire abusi diffusi.
Implicazioni per il futuro delle piattaforme
L'azione di San Francisco segna un precedente importante per la responsabilizzazione delle piattaforme digitali. Apple e Google, pur avendo regole interne contro la pornografia, sono ora sollecitate a monitorare con maggiore rigore le app e i loro modelli di monetizzazione.
Chiu auspica che, oltre alla rimozione delle app, le aziende rafforzino i propri sistemi di rilevamento per impedire strumenti simili in futuro. Ha già preannunciato possibili azioni legali supplementari in caso di mancata conformità.
In un contesto dove gli strumenti di intelligenza artificiale per la generazione di contenuti intimi non consensuali diventano sempre più accessibili, la pressione normativa verso una maggiore trasparenza e controllo delle piattaforme è destinata ad aumentare.
Le piattaforme hanno 28 giorni per conformarsi. L'esito di questa vicenda potrebbe ridefinire lo standard di responsabilità nel mercato della distribuzione di app per i contenuti digitali sensibili.
