Anthropic, l'azienda responsabile del chatbot Claude, ha annunciato l'introduzione di un sistema di watermark nei testi generati dal suo modello. Questa iniziativa mira a conformarsi al Codice di Trasparenza dell'Unione Europea, una normativa entrata in vigore il 2 agosto che impone alle aziende di intelligenza artificiale di identificare chiaramente i contenuti prodotti dai loro sistemi.
Come funziona il watermarking di Claude
Il nuovo sistema di watermark, descritto in un post sul blog di Anthropic, si basa sull'approccio SynthID-Text, originariamente sviluppato dal team di Google DeepMind nel 2024.
Questo metodo crea un pattern specifico nelle risposte di Claude, che risulta impercettibile al lettore comune ma è rilevabile da chi possiede una chiave di decodifica. A differenza di altri approcci di rilevamento dell'AI che si basano sull'analisi di specifici modelli linguistici, il watermark di Claude è integrato nel testo in modo più sottile e intrinseco. Anthropic ha assicurato che questa tecnologia non compromette la qualità dell'output di Claude, rendendo una risposta "watermarkata" indistinguibile da una non "watermarkata" per un utente.
Impatto sulle modifiche e la rilevabilità
L'introduzione del watermark ha suscitato discussioni tra gli utenti, in particolare riguardo alla possibilità di rimuoverlo tramite editing.
L'azienda ha chiarito che una leggera modifica del testo probabilmente non sarà sufficiente a rimuovere completamente il watermark. Solo una riscrittura completa, in cui ogni parola viene sostituita, potrà eliminare l'identificazione. In quest'ultimo caso, Anthropic ha suggerito che il testo difficilmente potrebbe essere ancora definito "AI-generato". Per quanto riguarda i testi solo revisionati o modificati da Claude, la rilevabilità del watermark dipenderà dalla lunghezza del testo e dall'entità delle modifiche apportate. Se l'intervento di Claude è stato minimo, la maggior parte delle parole sarà opera dell'autore umano, lasciando poco spazio all'applicazione del watermark.
Watermark nel codice e adozione del settore
Nel caso del codice generato, il watermark avrà un impatto minore rispetto al testo ordinario. Questo perché il modello deve produrre codice funzionante e ha meno libertà di scelta tra opzioni equivalenti. Tuttavia, il watermark potrà essere applicato in aree dove esistono scelte arbitrarie tra parole o termini, come nei commenti all'interno del codice, pur avendo un effetto trascurabile sul codice effettivo prodotto. Anthropic ha inoltre rivelato che Claude non sarà l'unico chatbot a generare testi con watermark, poiché "altri importanti sviluppatori di modelli hanno firmato lo stesso Codice di Condotta e implementeranno i propri watermark". Tra questi figurano OpenAI, Google, Meta, Microsoft e Mistral, che hanno aderito al Codice di Trasparenza dell'UE.
Al momento, xAI e le aziende cinesi non hanno ancora aderito.
Prospettive future e limiti del sistema
Per facilitare l'identificazione dei contenuti, Anthropic prevede di rilasciare un'API per la rilevazione del watermark. Sebbene la tecnologia sia avanzata, esistono limiti alla sua efficacia: il watermark potrebbe non funzionare correttamente se il testo è stato pesantemente modificato, ritoccato, tradotto o mescolato in un frammento più ampio, se è troppo breve, o se i metadati sono stati rimossi tramite conversione, screenshot o altri metodi. Nonostante queste sfide, la misura adottata da Anthropic e da altri attori del settore rappresenta un passo cruciale verso una maggiore trasparenza e responsabilità nell'ecosistema dell'intelligenza artificiale, promuovendo un futuro in cui l'identificazione dei contenuti generati da AI sarà sempre più integrata nelle interazioni digitali.
