"La decisione finale di impiegare un'arma nucleare non deve mai essere affidata a un sistema automatizzato". È uno dei principi contenuti nella Dichiarazione di Roma per una Pace Disarmata e Disarmante nell'Era dell'Intelligenza Artificiale, delle Armi Nucleari e Autonome, dei Nuovi Protocolli Digitali e dei Modelli Emergenti di Sviluppo Digitale, firmata oggi in Campidoglio al termine della Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War. Tra i firmatari anche il sindaco di Roma, Roberto Gualtieri, e l'attrice Sharon Stone.
Il divieto di sistemi automatizzati nelle decisioni nucleari
Nel documento viene chiesta l'adozione di un accordo internazionale per impedire l'integrazione senza adeguate garanzie dell'intelligenza artificiale nei sistemi militari legati alle armi nucleari.
"Chiediamo l'adozione di un trattato internazionale - si legge - che vieti l'integrazione irresponsabile dell'intelligenza artificiale nei sistemi di comando, controllo e lancio delle armi nucleari, garantendo che rimanga sempre un controllo umano effettivo e significativo".
La dichiarazione sottolinea inoltre la necessità di prevenire utilizzi dannosi dell'IA contro infrastrutture nucleari strategiche.
"Dobbiamo impedire l'uso malevolo dell'intelligenza artificiale nelle operazioni informatiche e negli attacchi contro le infrastrutture nucleari critiche.
Gli Stati dotati di armamenti nucleari devono sottoporre i propri sistemi a verifiche di sicurezza ("fail-safe review") per ridurre la vulnerabilità delle loro forze nucleari rispetto a controlli o manipolazioni non autorizzati tramite IA".
L'uso responsabile dell'intelligenza artificiale
Il documento richiama anche il ruolo positivo che l'intelligenza artificiale può avere nello sviluppo della società.
"Promuoviamo - continua il documento - lo sviluppo e l'impiego responsabile dell'intelligenza artificiale per migliorare il benessere umano, accelerare il progresso scientifico e medico, proteggere l'ambiente, rafforzare la resilienza delle società e promuovere la pace, lo sviluppo sostenibile e il bene comune".
Una governance condivisa
La Dichiarazione di Roma propone infine un modello di governance internazionale sull'evoluzione dell'IA.
"Invitiamo governi, imprese e organizzazioni internazionali a rendere possibile un rallentamento coordinato dello sviluppo delle forme più avanzate di intelligenza artificiale, istituendo meccanismi condivisi di verifica e solidi processi di valutazione, sia interni sia indipendenti".
Il documento sostiene inoltre il Panel Scientifico Internazionale Indipendente delle Nazioni Unite sull'Intelligenza Artificiale e promuove iniziative ispirate allo spirito della "Magnifica Humanitas".
