La sicurezza agenti AI evolve verso un controllo infrastrutturale. Nvidia, con la Open Agent Safety Platform, introduce sandbox software, verifica permessi e monitoraggio hardware. L'assenza di OpenAI dalla lista dei sostenitori è rilevante, benché un portavoce confermi il supporto al lavoro di Nvidia.
OpenAI e la sicurezza
OpenAI, pur non aderendo, collabora con Nvidia su sicurezza agenti, specie su OpenShell, componente open source per sandbox e limitare il perimetro d'azione. L'assenza è significativa: Anthropic, rivale, è tra i sostenitori; Amazon, Google e Apple non figurano.
Per OpenAI, la sicurezza agenti AI è autonomia industriale: sviluppa proprie salvaguardie, comunica incidenti, ha avviato Defense Factory (consorzio di cybersicurezza). Aderire a una piattaforma Nvidia potrebbe ridurre la leadership percepita nel mercato enterprise.
OpenShell e Sentry
L'architettura Nvidia si basa su due pilastri. OpenShell permette di verificare che un agente disponga solo dell'autorità necessaria per il proprio compito (principio del minimo privilegio). Essenziale per sistemi autonomi che interagiscono con risorse esterne, previene azioni non autorizzate.
Accanto a OpenShell, opera Sentry, livello di monitoraggio sui chip. Sentry interviene rapidamente per quarantenare agenti anomali.
Nodo strategico: sebbene la piattaforma sia open source, la componente hardware di Sentry è proprietaria, legata all'ecosistema Nvidia e ai processori BlueField-4. L'integrazione è naturale per i clienti Nvidia, ma un vincolo per concorrenti e grandi laboratori AI.
