OpenAI ha lanciato la Lockdown Mode, una nuova funzionalità pensata per rafforzare la protezione contro gli attacchi di prompt injection. Questi attacchi consistono nell'occultare istruzioni malevole all'interno di pagine web o altri contenuti, con l'obiettivo di manipolare i sistemi di intelligenza artificiale. La modalità è stata ideata per ridurre significativamente il rischio che informazioni sensibili vengano involontariamente condivise durante l'interazione con ChatGPT.
Funzionamento e limitazioni di Lockdown Mode
La Lockdown Mode opera disabilitando la navigazione web in tempo reale, consentendo a ChatGPT di accedere esclusivamente a contenuti memorizzati nella cache.
Questa impostazione limita anche il recupero e la visualizzazione di immagini direttamente da internet, sebbene la generazione di immagini rimanga attiva. Altre funzioni, come la ricerca approfondita e la modalità agente, vengono completamente disattivate.
È importante notare che, nonostante queste restrizioni, ChatGPT potrebbe comunque rimanere vulnerabile a forme di prompt injection che potrebbero annidarsi in contenuti web in cache o in file caricati dagli utenti. L'obiettivo primario della modalità è quindi quello di prevenire l'esfiltrazione di dati sensibili, piuttosto che bloccare ogni singola iniezione.
Scopo e disponibilità
La Lockdown Mode non è concepita per tutti gli utenti, ma è stata sviluppata specificamente per individui e organizzazioni che gestiscono dati sensibili e necessitano di una protezione più stringente contro i rischi di esfiltrazione legati alle prompt injection.
Attualmente, la funzionalità è in fase di rollout per gli account business self-service di ChatGPT e per gli account personali idonei, inclusi quelli che utilizzano la versione gratuita della piattaforma.
Misure di sicurezza e gestione account
Questa nuova modalità si integra con le robuste misure di sicurezza già implementate da OpenAI in ChatGPT e nelle sue altre piattaforme. A complemento, l'azienda ha introdotto un gestore delle sessioni attive, che permette agli utenti di visualizzare tutti i dispositivi e i browser collegati al proprio account. Da qui, è possibile chiudere singole sessioni o disconnettere tutti gli accessi contemporaneamente, offrendo un controllo maggiore sulla sicurezza dell'account.
Per attivare la Lockdown Mode, gli utenti devono accedere alle impostazioni di ChatGPT, navigare nella sezione 'Sicurezza e privacy' e attivare il selettore 'Modalità di blocco'. La disattivazione temporanea della protezione è gestibile direttamente tramite l'avviso di stato che appare nella finestra della chat. La modalità non incide sulla memoria di ChatGPT, sul caricamento dei file, sulla condivisione dei dialoghi o sull'utilizzo delle conversazioni per l'addestramento dei modelli, parametri che gli amministratori possono configurare separatamente.
In caso di sospetta attività non autorizzata sull'account, OpenAI raccomanda di modificare la password e di verificare attentamente i metodi di accesso, rafforzando così la sicurezza complessiva degli utenti.
