Di notizie del genere se ne sentono ogni giorno. Le vittime sono soprattutto donne, le cui foto intime vengono diffuse sui social network dopo un relazione finita male. E' il terribile fenomeno del revenge porn, ossia l'atto di pubblicare in maniera non consenziente su Facebook, Instagram o su qualsiasi altra piattaforma web, le foto intime dell'ex partner per vendicarsi in qualche squallido modo della recente rottura, di un tradimento o altro. Con conseguenze facilmente immaginabili per la vittima. E poiché in Australia il fenomeno è particolarmente accentuato (circa 1 donna su 5 ne è stata vittima almeno una volta), il colosso Facebook ha proposto un nuovo sistema per arginare il pericolo, all'inizio limitato solo in quella nazione ma che a dispetto delle numerose polemiche è stato già esportato anche in Gran Bretagna, Stati Uniti e Canada per un'ulteriore fase di prova.
Inviare le foto per poterle eliminare
Per evitare la diffusione delle foto intime (NCII, Non-Consensual Intimate Image, immagini intime non consensuali) Facebook si è alleata con le organizzazioni locali che si occupano proprio di questo scottante tema. La vittima, se sospetta una possibile diffusione di materiale indesiderato, dovrà contattare l'organizzazione comunicando tutti i dettagli del caso, e in seguito potrà inviare le foto compromettenti tramite Messenger (a patto che ce le abbia, ovviamente), con un messaggio inviato a se stessi. L'organizzazione provvederà a informare Facebook dell'avvenuto caricamento e una persona autorizzata avrà il compito di analizzare la foto in questione per capire se realmente infrange le norme della piattaforma (questo per evitare che il sistema vada a censurare immagini a caso a discrezione dell'utente).
In seguito dall'immagine viene estrapolata un'impronta digitale numerica basata sulla tecnica dell'hashing. La foto viene quindi completamente eliminata e nel database viene conservato solo questo numero. Da questo momento in poi qualsiasi immagine caricata su Facebook, Instagram o Messenger verrà bloccata se risulterà avere un'impronta digitale già presente nel database.
Per rendere il sistema effettivamente funzionante è necessario che il programma riconosca anche le immagini modificate che in genere, usando una tecnica di hashing standard producono un'impronta digitale completamente diversa anche a seguito di piccolissimi cambiamenti. Per fare ciò i programmatori di Facebook stanno perfezionando un sistema di hashing percettivo basato sul riconoscimento di features e dettagli, garantendo la somiglianza delle impronte digitali se le foto sono simili.
La tecnica dell'hashing inoltre garantisce che una volta generato il codice non vi sia alcun modo per ricostruire l'immagine originaria partendo da esso. Nel momento in cui sulle piattaforme viene caricata un'immagine segnalata, l'utente verrà notificato tramite e-mail e l'immagine verrà bloccata e ne verrà impedita la pubblicazione, non importa quanto modificata. Facebook assicura al momento che il tutto avverrà al massimo entro una settimana.
Determinati nonostante le proteste
Il programma è ancora in fase sperimentale ma è stato già assalito da pesanti proteste dopo il suo annuncio in Australia. In particolare quello che ha sconvolto molti utenti è stata la necessità di inviare i propri nudi a una persona in carne e ossa per poterli far revisionare e bloccare.
Purtroppo, come spiegato su Twitter da Alex Stamos, capo della sicurezza Facebook, al momento è una procedura necessaria per impedire attacchi ad immagini non sensibili. Ad esempio, senza qualcuno che controlli, chiunque potrebbe decidere di far bloccare un'immagine di Trump, pur non essendo collegata al revenge porn. Facebook assicura che l'addetto in questione sarà opportunamente addestrato per il compito e lavorerà in un ambiente sicuro e protetto tale da impedire qualsiasi diffusione di NCII. Certo, in futuro si potrà utilizzare un'intelligenza artificiale per questo, ma una IA ha bisogno di molti dati per essere addestrata senza rischio di errore, dati che al momento non sono ancora in numero sufficiente.
Sempre per evitare attacchi a immagini non sensibili non è possibile eseguire l'hashing in locale dall'utente stesso, poiché una volta prodotto il codice l'immagine non potrà più essere riconosciuta ed analizzata nemmeno da una IA.
Anche se le proteste continuano, Facebook è determinata a portare avanti questo progetto. Seppur rischioso, è pur sempre un pericolo minore rispetto a quello che la diffusione di NCII per vendetta può rappresentare per la vittima. Certo non si vuole che tutti inviino i propri nudi a caso, è solo un mezzo per tutelarsi e cercare di prevenire il peggio nel momento in cui si sospetta possa accadere, o comunque un modo per fornire una soluzione a chi vittima lo è già diventato.
