La crescente adozione degli agenti AI nelle imprese sta spostando il fulcro del dibattito dalla mera potenza dei modelli alla loro controllabilità. La questione non è più solo quanto un sistema sia in grado di scrivere codice, assistere un cliente o analizzare documenti; la domanda centrale verte sulla sua capacità di essere verificato, certificato e assicurato. Questa transizione è ben illustrata dalla startup Artificial Intelligence Underwriting Company (AIUC), fondata da Rune Kvist, tra i primi dipendenti di Anthropic, e Rajiv Dattani, ex COO di METR.
L’azienda mira a costruire per l’AI un’infrastruttura di fiducia paragonabile a quella sviluppata negli anni per la cybersicurezza, evidenziando come l’intelligenza artificiale stia integrandosi in processi aziendali sempre più critici.
AIUC-1: lo standard per l'audit degli agenti AI aziendali
AIUC ha sviluppato uno standard proprietario, denominato AIUC-1, e un servizio di test specificamente progettato per valutare gli agenti AI prima della loro implementazione in contesti enterprise. Questo approccio si ispira al modello SOC 2, ampiamente riconosciuto nel settore software per la dimostrazione di controlli su sicurezza, disponibilità e riservatezza. AIUC applica una logica analoga per affrontare i rischi peculiari dell’intelligenza artificiale, quali il jailbreak, le allucinazioni, le fughe di dati e i comportamenti non previsti.
Il processo di valutazione prevede l’esecuzione di circa 5.000 test e la generazione di report dettagliati, la cui verifica finale è affidata a revisori umani. Questo aspetto sottolinea l’importanza di bilanciare l’automazione, necessaria per scalare la valutazione, con la responsabilità del giudizio umano. Tra i clienti che già si affidano ad AIUC figurano Cursor, Lovable, Harvey ed ElevenLabs, nomi che indicano un mercato già maturo e consapevole della necessità di certificazioni indipendenti. Il recente round di finanziamento Series A da 40 milioni di dollari, guidato da Ribbit Capital, che porta la raccolta totale a 55 milioni, conferma inoltre l’interesse crescente di investitori e acquirenti aziendali per queste soluzioni, al di là della sola ricerca sulla sicurezza AI.
Dal rischio tecnico al rischio assicurativo: nuove frontiere per l'AI
Il panorama dei rischi legati all’AI si estende ulteriormente, includendo le implicazioni assicurative. L’articolo analizza la possibilità di assicurare i rischi politici connessi all’AI, prendendo come esempio il caso di modelli Anthropic che sarebbero stati soggetti a controlli all’esportazione imposti dal governo statunitense. In uno scenario simile, sviluppatori, clienti e investitori non si trovano di fronte a un mero problema tecnico, ma possono incorrere nella perdita di accesso a servizi essenziali, nell’incapacità di onorare contratti o nella necessità di reperire soluzioni alternative.
Questo inquadra gli agenti AI all’interno di una più ampia categoria di rischio operativo, geopolitico e finanziario.
Le polizze di political risk e trade disruption potrebbero, in determinate circostanze, offrire copertura per l’impossibilità di esportare o utilizzare servizi digitali a causa di interventi governativi. Tuttavia, viene evidenziata la cautela degli assicuratori nei confronti del frontier AI, considerato un settore strategico e sensibile, la cui modellazione attuariale presenta notevoli complessità.
