OpenAI sta intensificando la propria strategia di sicurezza AI per contrastare il Child Sexual Abuse Material (CSAM), l'acronimo internazionale che identifica il materiale di abuso sessuale su minori. L'azienda ha annunciato l'introduzione di un nuovo classificatore di immagini, l'implementazione di avvisi diretti all'interno di ChatGPT, la pubblicazione di linee guida per gli sviluppatori e la messa a disposizione di strumenti specifici per le forze dell'ordine. Queste novità giungono in un momento cruciale, in cui i sistemi di intelligenza artificiale generativa possono potenzialmente amplificare rischi preesistenti, quali la ricerca di contenuti illegali, la produzione di immagini sintetiche dannose e il tentativo di eludere i controlli di sicurezza attraverso prompt ambigui.
Un Classificatore di Immagini Avanzato per la Rilevazione CSAM
Il fulcro tecnico di questo annuncio è rappresentato da un classificatore di immagini all'avanguardia, specificamente progettato per identificare il CSAM, inclusi i contenuti generati con strumenti di intelligenza artificiale. Questo sistema è stato sviluppato in collaborazione con il National Center for Missing and Exploited Children. OpenAI sta inoltre lavorando con Tech Coalition e ROOST per facilitare la distribuzione dell'accesso a questa tecnologia a partner selezionati, tramite API e senza alcun costo. I test iniziali hanno evidenziato risultati promettenti: il sistema ha permesso di ridurre del 48% il numero di immagini segnalate, pur mantenendo inalterato il livello di individuazione dei contenuti abusivi effettivi.
Questo dato è particolarmente significativo, poiché la moderazione visuale richiede spesso un'attenta revisione umana, un processo che comporta un notevole impatto sia operativo che psicologico sui team incaricati.
Nell'ambito della sicurezza AI, l'obiettivo primario non è unicamente bloccare i contenuti palesemente illegali, ma anche migliorare la qualità complessiva del segnale. Ciò si traduce in un minor numero di immagini da analizzare, una maggiore probabilità che quelle segnalate siano effettivamente problematiche e, di conseguenza, tempi di intervento più rapidi. Questa direzione strategica è pienamente coerente con l'evoluzione della moderazione automatizzata, che mira sempre più a supportare, piuttosto che a sostituire, le valutazioni umane nei casi considerati ad alto rischio.
Avvisi e Sospensioni in ChatGPT: Misure di Contrasto Dirette
Parallelamente, sono stati chiariti i meccanismi di funzionamento degli avvisi relativi al CSAM all'interno di ChatGPT. Quando il sistema rileva una richiesta che mira a cercare materiale di abuso sessuale su minori, la conversazione viene immediatamente interrotta e non è possibile proseguirla. Per gli utenti autenticati, la chat in questione viene automaticamente nascosta dalla cronologia e non può più essere riaperta. L'intervento può estendersi fino a includere una sospensione temporanea dell'account. Le violazioni ripetute, invece, possono condurre a sospensioni di durata maggiore o, nei casi più gravi, alla chiusura permanente dell'account.
Queste misure sono in fase di distribuzione graduale a livello globale e si applicano specificamente alle conversazioni condotte in modalità Chat e Work, sia su piattaforme web che mobile, per gli account personali di ChatGPT. È importante notare che, al momento, tali provvedimenti non sono estesi a ChatGPT Business, Enterprise, Edu o Healthcare, né alla modalità vocale, a Codex o alle applicazioni desktop di ChatGPT. Questa delimitazione del campo di applicazione iniziale indica un approccio mirato e progressivo nell'implementazione delle nuove politiche di sicurezza.