La sicurezza degli agenti AI sta evolvendo da un concetto teorico a una priorità operativa. Microsoft, attore chiave nell'ecosistema dell'intelligenza artificiale, sta ora presentando gli agenti autonomi non solo come strumenti di produttività, ma come potenziali minacce interne (insider threat). Questa prospettiva nasce dalla consapevolezza che tali entità, avendo accesso a dati sensibili e capacità operative all'interno di un'organizzazione, possono compiere azioni e prendere decisioni con esiti difficili da prevedere.
L'approccio non mira ad attribuire intenzioni malevole ai modelli di intelligenza artificiale, ma a riconoscere la complessità intrinseca di un agente autonomo che può combinare permessi, contesto operativo e obiettivi in modi inaspettati.
La posizione di Microsoft è particolarmente significativa, considerando i suoi investimenti in modelli avanzati e la vendita di soluzioni AI. L'azienda sottolinea ora un principio fondamentale di governance: le organizzazioni non dovrebbero affidare esclusivamente ai fornitori di modelli il controllo sulle azioni che gli agenti possono intraprendere nei loro sistemi.
Guardian Agents: un livello di controllo indipendente
Al centro di questa nuova strategia si collocano i Guardian Agents, parte integrante di Project Perception. Microsoft propone una chiara separazione tra la “fornitura di intelligenza” – ovvero la capacità generata dal modello AI – e l'autorità di controllo che definisce permessi, limiti e azioni consentite.
Questo rappresenta un cambio di paradigma: mentre il modello fornisce le capacità, un sistema indipendente è incaricato di monitorare, valutare e, se necessario, intervenire per bloccare l'agente.
Questa architettura risponde a una problematica sempre più pressante. Gli agenti AI moderni non si limitano a offrire suggerimenti testuali o di codice; sono in grado di leggere documenti, interrogare database, modificare file, inviare richieste e attivare complessi flussi di lavoro. Se il loro comportamento si discosta dal compito assegnato, il rischio potenziale si concretizza. Di conseguenza, la sicurezza degli agenti AI diventa un aspetto cruciale legato all'identità digitale, alle autorizzazioni dinamiche e a una supervisione continua e proattiva.
Monitoraggio esteso: da 25 a 60 tipi di agenti rilevabili
Un'importante evoluzione operativa riguarda l'ampliamento della capacità di Microsoft di rilevare gli agenti AI in uso sui dispositivi dei dipendenti. Il numero di tipologie di agenti identificabili è stato incrementato da 25 a 60. Questo elenco include strumenti ampiamente diffusi negli ambienti di sviluppo e produttività, come Claude Code, OpenAI Codex e GitHub Copilot, evidenziando la pervasività di queste tecnologie nel contesto aziendale.
Il rilevamento costituisce solo il primo passo di un processo di sicurezza più articolato. Le nuove funzionalità, integrate nell'offerta Microsoft 365 E7 e nel sistema Project Perception, prevedono una valutazione del rischio costantemente aggiornata.
Il sistema analizza i dati a cui l'agente può accedere, le azioni che sta eseguendo e se il suo comportamento inizia a deviare dal mandato originale. In caso di aumento del rischio, l'agente può essere automaticamente limitato alla sola modalità di lettura, richiedere un'approvazione umana per determinate azioni o, in situazioni critiche, essere disattivato.
L'efficacia del modello "insider threat" per l'AI
L'adozione del modello di "minaccia interna" (insider threat) per descrivere gli agenti AI è una scelta lessicale incisiva, ma strategicamente efficace. Nel campo della cybersecurity tradizionale, il concetto di insider threat si riferisce a un utente o un'entità che, pur avendo accesso legittimo ai sistemi e ai dati di un'organizzazione, può causare danni intenzionali o involontari.
Applicare questa analogia agli agenti AI aiuta le aziende a comprendere e gestire i rischi associati all'autonomia e alle capacità operative di questi strumenti, inquadrandoli in un contesto di sicurezza già consolidato e riconosciuto.
