La discussione sulla sicurezza dell'Intelligenza Artificiale (AI) negli Stati Uniti sta evolvendo verso una fase più concreta, superando i principi volontari per delineare una possibile procedura legale. L'obiettivo è fermare il rilascio di modelli AI ritenuti potenzialmente pericolosi. Una bozza di legge, attribuita ad Anthropic, propone un meccanismo che consentirebbe di bloccare la distribuzione di un sistema di intelligenza artificiale solo in presenza di un rischio imminente e prevedibile di catastrofe. La soglia di intervento è stata fissata in modo significativo: si parla di oltre 50 persone a rischio di morte o di danni materiali superiori a un miliardo di dollari.
I criteri di blocco: la definizione di rischio catastrofico
Il fulcro della proposta di Anthropic risiede nella precisa definizione di rischio catastrofico. Gli scenari contemplati includono la creazione o il rilascio di armi biologiche, l'esecuzione di cyberattacchi abilitati dall'AI e la perdita di controllo da parte dello sviluppatore su modelli o agenti autonomi. È evidente che non si tratta di una regolazione di carattere generalista, focalizzata su aspetti come bias, privacy o trasparenza, bensì di un meccanismo d'emergenza specificamente ideato per affrontare eventi di natura estremamente grave e potenzialmente devastante.
La scelta di introdurre soglie quantitative precise, come quelle menzionate, riflette il linguaggio del dibattito statunitense più recente sulla sicurezza dell'AI.
Questa impostazione ha un chiaro effetto politico: circoscrive l'intervento pubblico ai casi più gravi e conclamati, ma al contempo solleva interrogativi su come gestire i rischi che, pur significativi, si collochino al di sotto di tali parametri.
Valutatori indipendenti e l'iter procedurale
La proposta prevede che la valutazione dei modelli e dei laboratori sia affidata a terze parti indipendenti, le quali dovranno essere regolarmente registrate presso il Dipartimento del Commercio degli Stati Uniti. Questi soggetti avrebbero il compito di analizzare periodicamente i sistemi avanzati di intelligenza artificiale e di segnalare tempestivamente, entro 72 ore, l'eventuale rilevamento di rischi imminenti.
Tuttavia, il passaggio cruciale per l'effettivo blocco di un modello non sarebbe di natura amministrativa, bensì giudiziaria. Il Dipartimento del Commercio, una volta ricevuta la segnalazione, dovrebbe presentare le prove raccolte a un giudice federale del District Court for the District of Columbia. Solo attraverso questo percorso giudiziario si potrebbe ottenere un'ordinanza per fermare il rilascio del modello. La bozza, secondo le informazioni disponibili, escluderebbe esplicitamente la possibilità per altre agenzie federali di ordinare autonomamente un blocco. Questo assetto mira a concentrare il potere decisionale e a limitare l'arbitrarietà, rendendo però la qualità tecnica delle valutazioni un elemento di importanza capitale.
Il nodo dell'indipendenza e i conflitti di interesse
Un aspetto particolarmente delicato della proposta riguarda il finanziamento dei valutatori. La bozza consentirebbe ai laboratori di intelligenza artificiale di remunerare direttamente le terze parti incaricate delle valutazioni. È stata inserita una clausola specifica per tentare di preservare l'indipendenza formale: il compenso non dovrebbe in alcun modo dipendere dall'esito della valutazione stessa. Nonostante questa precauzione, la questione dei conflitti di interesse non viene del tutto eliminata. Nel settore tecnologico, la distanza tra chi sviluppa le innovazioni, chi è chiamato a verificarne la sicurezza e chi trae un beneficio commerciale diretto dal loro lancio sul mercato, rimane una questione strutturale complessa e aperta al dibattito.
