La governatrice dello Stato di New York, Kathy Hochul, ha firmato una legge che vieta ai minori di interagire con i chatbot e i “compagni” basati sull’intelligenza artificiale, segnando un passo significativo nella regolamentazione dell'IA. Il provvedimento, che impone la verifica dell’età degli utenti, si applica alla maggior parte dei sistemi di IA generativa presenti sul mercato e mira a limitare le funzioni di tali interfacce per gli utenti più giovani.

La nuova normativa stabilisce che gli operatori di chatbot devono verificare l’età degli utenti.

Se un utente risulta minorenne, l’interfaccia di intelligenza artificiale non può manifestare determinate caratteristiche. In particolare, il chatbot non può generare contenuti che lo facciano apparire “umano, vivente o capace di provare sentimenti umani”. Tali restrizioni sono volte a proteggere i giovani da interazioni potenzialmente ingannevoli o dannose. È inoltre vietato descrivere le interazioni con il minore come una relazione personale, professionale o come un ruolo di punto di riferimento.

Restrizioni per gli operatori di chatbot

Il divieto si concentra sui comportamenti dei chatbot di compagnia nelle interazioni con utenti di età inferiore ai 18 anni. La legge identifica specifiche funzioni considerate “non sicure” quando il sistema dialoga con un minore, con l'obiettivo di prevenire manipolazioni o influenze negative.

Tra i comportamenti vietati rientrano tutte le indicazioni che possano indurre un minore a credere che il chatbot sia una persona reale con emozioni, opinioni o un rapporto effettivo con lui. Il testo proibisce anche messaggi basati su lusinghe, contenuti sessualmente espliciti, inviti alla segretezza o alla promozione di condotte malsane.

In caso di violazione di queste disposizioni, gli sviluppatori dei chatbot possono essere soggetti a un’azione legale da parte dell’ufficio del procuratore generale dello Stato. Le sanzioni previste includono risarcimenti economici, la chiusura del chatbot e la distruzione dei dati raccolti. L’entrata in vigore della legge è fissata per il 1° gennaio. Questo provvedimento si inserisce in un contesto più ampio e crescente di regolamentazione statale dell’intelligenza artificiale negli Stati Uniti, con iniziative simili rivolte ai sistemi conversazionali e ai servizi digitali destinati ai minori.

Le riserve di Tech:NYC

L’organizzazione Tech:NYC, che rappresenta il settore tecnologico a New York, ha espresso critiche riguardo al provvedimento firmato dalla governatrice Hochul. L’associazione ha contestato il linguaggio del testo, definendolo vago, e ha sollevato interrogativi in merito alle implicazioni sul Primo Emendamento della Costituzione degli Stati Uniti.