Reddit ha da poco chiuso il subreddit dedicato ai contenuti generati con FaceApp, gli stessi stanno venendo eliminati su PornHub e su Twitter: questo sta avvenendo perchè tutti i social network hanno tra le loro regole delle clausole specifiche riguardanti il "sesso involontario" e quindi non sono permessi i video in cui ci sono persone che hanno rapporti intimi se queste non hanno dato il consenso volontario alla pubblicazione del contenuto sia esso un video, foto o gif.
Il ban è stato imposto dopo la pubblicazione sul subreddit di due video intitolati “Not Meghan Markle” e “Not Taylor Swift”, probabilmente proprio per evitare di essere bannati, ma che avevano come protagoniste proprio le stesse Meghan Markle e Taylor Swift.
La nascita dei deepfake
Un paio di mesi fa l'utente di Reddit "deepfake" ha creato il suddetto subreddit col proprio nome in cui ha messo a disposizione un software e gli esperimenti da lui fatti nella creazione di fake video, con risultati davvero eccezionali. Naturalmente come spesso accade con le nuove invenzioni specialmente in ambito tecnologico la prima applicazione è stata nel campo della pornografia, con al creazione di video che hanno visto coinvolte tante star: Katy Perry, Scarlett Johansson, Sophie Turner tra le altre. Altre applicazioni molto gettonate sono video di tutti i generi che hanno come protagonista Nicolas Cage o quelli di Angela Merkel con il viso di Trump.
Come funziona
Per produrre un deepfake non basta una foto ed un video e il software messo a disposizione è abbastanza complicato da non permettere a chiunque di riuscire a produrre dei risultati accettabili.
Il subreddit dedicato era infatti pieno di esperimenti il cui risultato era davvero pessimo. Il software si basa sul machine learning e partendo da una clip permette di sostituire il volto di una persona presente in essa con un altro preso da altre clip o da foto. Oltre ad avere a disposizione video e immagini è necessaria una scheda NVIDIA con Cuda e tempo, perchè l'addestramento necessario all'algoritmo di machine learning richiede anche un giorno intero.
Se ben ci pensate non è nulla di nuovo basti pensare all’ultimo Star Wars in cui la faccia di Carrie Fisher (Princess Leia) da giovane è stata attaccata sul corpo di un’attrice per creare un flashback realistico. Ciò che permette di fare questo software è la stessa cosa, solo che invece di spendere milioni in effetti speciali ed usare un team di grafici professionisti, può essere fatto comodamente seduti a casa propria con un pc, un video e qualche immagine recuperata da google.
