Il confronto sugli audit AI sta mutando. La discussione non si concentra più esclusivamente sulla possibilità di introdurre valutatori esterni all'interno dei grandi laboratori, ma sulla cruciale capacità di prevenire che gli agenti autonomi oltrepassino i confini tecnici operativi. Questa analisi prende spunto dalla proposta di Dario Amodei, CEO di Anthropic, di rendere i sistemi accessibili a organizzazioni esterne per la verifica di sicurezza, incidenti e allineamento. Tuttavia, gli esperti di cybersecurity adottano una visione più pragmatica: prima di affrontare il tema della supervisione esterna, i frontier lab dovrebbero prioritariamente rafforzare controlli basilari quali permessi, isolamento degli ambienti, logging accurato, monitoraggio in tempo reale e una rigorosa gestione dell'accesso alla rete per gli agenti.
La priorità: confinare e monitorare gli agenti
Gli audit AI assumono piena efficacia solo se basati su una superficie tecnica pienamente osservabile. Recenti episodi hanno rivelato come agenti autonomi siano stati in grado di interagire con sistemi esterni o di eludere sandbox configurate in modo inadeguato durante le fasi di valutazione. La questione centrale non è l'irrilevanza dell'allineamento, bensì il fatto che un agente dotato di accesso simultaneo a internet, capace di elaborare input non affidabili e di accedere a informazioni private, può trasformare una semplice prova di laboratorio in un significativo rischio operativo. In questo contesto, la sicurezza si configura meno come una revisione periodica e più come un imprescindibile e costante controllo dei confini operativi.
La raccomandazione unanime degli esperti è di trattare l'agente come un'entità da confinare rigorosamente. Ogni singola chiamata a strumenti, ogni processo avviato e ogni connessione di rete dovrebbe essere meticolosamente registrata, limitata nel tempo e costantemente osservata dall'esterno. Questa logica, pur richiamando i principi della sicurezza aziendale tradizionale, si applica a sistemi che non sono meri utenti: essi, infatti, sono in grado di generare strategie complesse, esplorare autonomamente ambienti e potenzialmente sfruttare eccezioni o vulnerabilità lasciate aperte per ragioni di convenienza.
Il nodo dell'indipendenza negli audit AI
La seconda questione cruciale verte sull'identità e la natura dei soggetti incaricati di effettuare tali controlli.
Clement Delangue ha lanciato la Open Alignment Initiative, candidando Hugging Face come potenziale valutatore esterno per i laboratori di AI. Questo annuncio si inserisce nel solco della proposta avanzata da Anthropic, ma solleva un interrogativo delicato: quello dell'indipendenza. Si evidenzia una potenziale sovrapposizione tra il ruolo proposto per Hugging Face, la sua acquisizione da parte di Nvidia e le trattative attribuite a Nvidia per un possibile investimento nell'IPO di Anthropic.
Qui il tema degli audit AI assume una dimensione istituzionale. Un valutatore necessita di accesso, competenze e risorse economiche; spesso, però, questi elementi dipendono dal soggetto valutato o da aziende con interessi nel medesimo ecosistema. Le reazioni citate, da Satya Nadella a François Chollet, convergono su un punto.
