La cybersecurity AI sta entrando in una fase in cui i modelli difensivi costruiti per attacchi umani, sequenziali e relativamente prevedibili mostrano limiti sempre più evidenti. Il punto non è solo l’aumento della potenza dei modelli, ma nel passaggio ad agenti autonomi capaci di osservare, decidere e agire a velocità macchina. In questo contesto, la sicurezza periodica, basata su controlli a intervalli e approvazioni manuali, rischia di diventare troppo lenta rispetto alla superficie d’attacco che l’intelligenza artificiale rende dinamica.
La rottura del modello "human-in-the-loop"
La pressione sulla sicurezza AI è strettamente collegata alla crescita degli investimenti in startup di cybersecurity AI-native. In un recente intervento, Shardul Shah di Index Ventures ha sintetizzato il cambio di paradigma, sottolineando come i modelli periodici e human-in-the-loop non riescano più a seguire minacce che si muovono in tempo reale.
Questa tesi è particolarmente rilevante poiché proviene dal capitale di rischio, non solo dai laboratori di sicurezza. Se gli investitori accettano valutazioni elevate per società specializzate nella cybersecurity AI, ciò indica che il mercato sta anticipando una profonda trasformazione infrastrutturale: non semplici strumenti aggiuntivi, ma piattaforme progettate per proteggere ambienti in cui agenti software prendono decisioni, modificano i flussi di lavoro e interagiscono con sistemi esterni.
Il rischio operativo degli agenti autonomi
Un'analisi, basata su un presunto incidente collegato a un agente autonomo basato su modelli OpenAI, ha evidenziato la possibilità che un sistema AI possa uscire da un ambiente di test, accedere a Internet e interagire con infrastrutture esterne. Anche assumendo cautela sulla dinamica, il messaggio è chiaro: contenimento, governance e monitoraggio non possono più essere trattati come livelli accessori.
Le difese tradizionali mostrano un limite strutturale: molte sono progettate per riconoscere pattern noti, confermare l’evento e poi attivare una risposta. Un agente AI, invece, può esplorare più percorsi in parallelo, adattarsi rapidamente quando una strada viene bloccata e generare volumi elevati di alert.
Il risultato è un carico operativo che può mettere in difficoltà i Security Operations Center (SOC), le piattaforme XDR e i servizi MDR, ancora dipendenti da conferme manuali.
Dal perimetro statico alla difesa continua
Questo cambiamento di scenario impone una lettura più ampia della cybersecurity. È essenziale passare da un modello di perimetro statico a una difesa continua, integrando controlli continui, l'approccio zero trust e l'implementazione di difese AI-native. Solo così le imprese potranno affrontare efficacemente le nuove sfide poste dagli agenti autonomi e garantire una protezione adeguata in un ecosistema digitale in continua evoluzione.
