La valutazione indipendente dell'intelligenza artificiale entra in una fase più concreta e approfondita. Anthropic ha recentemente concesso a sei ricercatori di METR, un'organizzazione non profit specializzata nel test dei modelli di frontiera, un accesso di livello simile a quello dei dipendenti. Questa iniziativa va oltre una semplice revisione documentale: il team avrà a disposizione laptop aziendali, spazi negli uffici e strumenti interni paragonabili a quelli utilizzati dai team di risk assessment dell'azienda. L'obiettivo primario è ridurre la distanza tra la conoscenza interna di un laboratorio sui propri sistemi e la capacità di verifica di un valutatore esterno.
Un nuovo standard per l'accesso e la trasparenza
L'elemento distintivo di questo accordo risiede nella profondità dell'accesso. METR potrà esaminare direttamente i modelli, le pratiche di sicurezza, i processi di gestione del rischio e gli incidenti, godendo di una libertà di pubblicazione significativamente più ampia rispetto a molte collaborazioni tradizionali tra aziende AI e revisori esterni. Anthropic non avrà la facoltà di bloccare la pubblicazione delle valutazioni, sebbene possa richiedere redazioni in categorie specifiche e limitate, quali i dati dei clienti, le informazioni coperte da privilegio legale e i dettagli sensibili relativi alle architetture dei modelli.
Questo equilibrio delinea una nuova grammatica per la valutazione AI indipendente: un accesso ravvicinato ma non illimitato, un'autonomia editoriale bilanciata da salvaguardie sulla proprietà intellettuale e sulla riservatezza.
La metodologia proposta da Anthropic richiama il modello degli esaminatori residenti nel settore bancario, figure esterne che monitorano dall'interno processi critici senza integrarsi nella governance aziendale ordinaria.
Il contesto più ampio: indipendenza e limiti
La notizia si inserisce in un dibattito più ampio sull'indipendenza delle valutazioni. Le aziende di intelligenza artificiale promuovono l'uso di valutatori esterni come strumento per dimostrare la propria responsabilità senza tuttavia rallentare lo sviluppo tecnologico. Tuttavia, la questione dell'indipendenza effettiva rimane aperta. Un punto critico ricorrente riguarda la definizione di quali informazioni i laboratori considerano proprietà intellettuale e quali, allo stesso tempo, sono essenziali per una valutazione accurata dei rischi di un modello.
L'impegno di Anthropic non si esaurisce con METR. L'azienda collabora anche con SecureBio, specializzata nei rischi chimici e biologici, e con Faculty, una società focalizzata su attività di valutazione, test avversariali e analisi del comportamento dei modelli. L'accesso concesso a METR, tuttavia, rappresenta il livello più elevato all'interno di un sistema a tre fasce: revisioni limitate con approvazione alla pubblicazione, accesso intermedio con pubblicazione soggetta a redazioni contestabili, e infine un accesso quasi interno con diritti di pubblicazione analoghi.
Questa mossa sottolinea l'importanza crescente della sicurezza AI come questione di governance e trasparenza, in un momento di rapida evoluzione degli agenti di intelligenza artificiale e delle loro implicazioni.
