Deepfake, una narrazione mistificata della realtà
di Eleonora Converti[*]
Abstract - Cosa sono le deepfakes? Come si realizzano? Possono definirsi il “lato oscuro” delle fakenews? Uno sguardo attento al fenomeno dei video manipolati per creare scene iperrealistiche.
Un anno fa una popolarissima trasmissione di Canale 5, Striscia la Notizia, trasmetteva un fuori onda che mostrava Matteo Renzi criticare in maniera “colorita” alcuni ex colleghi di partito e altri membri del governo Conte. Si trattava di una deepfake realizzata sovrapponendo al corpo di un imitatore il volto di Matteo Renzi e facendo sembrare che fosse davvero lui. Era il settembre del 2019 e solo allora in Italia il dibattito su questa tipologia di fake news diveniva virale, facendo scoprire che già da tempo in tutto il mondo “accadevano” eventi analoghi. Video artificiali manipolati ed alterati per creare delle scene iperrealistiche indistinguibili dalla realtà. Così Putin dichiarava guerra alla Cina, Nancy Pelosi ubriaca pronunciava un discorso in pubblico, Scarlet Johansson era involontaria protagonista di film porno, per non parlare degli innumerevoli falsi con Nicolas Cage e Tom Cruise.
Ma se le vittime destinate sembrerebbero finora essere personaggi noti e pubblici non c’è molto da stare tranquilli. Fa riflettere il tono rassegnato della dichiarazione di Scarlet Johansson : “Combattere contro le deepfake che utilizzano il mio volto è una causa persa. E’ solo questione di tempo, perché il problema riguardi chiunque”.
Ma cosa sono le deepfakes? Il termine coniato nel 2017 da un utente di Reddit, sito internet di social news, è usato per indicare brevi filmati realizzati utilizzando la tecnica del deep learning, quella branca dell’Intelligenza Artificiale che studia e realizza gli algoritmi che simulano il funzionamento del nostro cervello attraverso le reti neuronali artificiali.
Un uso innocuo e, per certi versi, anche simpatico di questi software consiste nell’utilizzo delle reti neuronali per codificare e decodificare un segnale proveniente da un’immagine al fine di migliorarne la qualità.
Figura 1-Immagine dal blog di Alan Zucconi
Nel diagramma di sopra è mostrata la tecnica di compressione e decompressione di un immagine. Prendiamo una faccia, la passiamo in un encoder ottenendo una faccia latente, il vettore di base, che passando attraverso un decoder viene ricostruita in maniera più definita rispetto all’originale. E’ la tecnica su cui si basa FaceApp la nota applicazione per dispositivi iOS e Android creata dalla società Russa Wireless Lab per divertire chi può vedere invecchiare o ringiovanire il proprio volto. Il Codacon, comunque, ha rilevato forti dubbi in merito al trattamento dei dati personali degli utenti avviando un’indagine. La società di Pietroburgo sostiene che i dati vengono conservati in un Cloud solo per 48 ore per poi essere cancellati. Tempo sufficiente per farne entrare in possesso chi non dovrebbe?
Ma torniamo alle Deepfake e vediamo come la cose diventano ancora più serie.
Figura 2-Immagine dal blog di Alan Zucconi
In pratica encoder e decoder vengono disaccoppiati come nella figura di sopra. Da un lato un encoder costruisce la faccia A, dall’altro un encoder costruisce la faccia B. Ma i rispettivi vettori latenti vengono scambiati. Si realizza così il cambiamento delle facce le cui espressioni però rimangono nella faccia latente. Ciò significa generare un volto per il soggetto B con la stessa espressione e orientamento del soggetto A. Ecco come realizzare una simulazione della realtà e rivoluzionare il concetto di “reale”.
Diverte ed affascina la tecnica di far parlare Salvator Dalì, di far sorridere la Gioconda o far fare l’occhiolino a Leonardo, ma quando Nancy Pelosi appare ubriaca o un falso Obama parla di concetti ben lontani dalla sua indole, le cose cambiano. Passano poche ore prima delle smentite, ma quel lasso di tempo è più che sufficiente perché quel video diventi virale e venga distribuito, perché qualcuno accolga favorevolmente quella rappresentazione mistificata della realtà in quanto in linea con le proprie convinzioni che trascendono da qualunque evidenza documentale. Ci sarà sempre chi tende a prendere dalla realtà le parti che più interessano perché piacciono, che si lascerà trasportare in un vortice di allucinazione condivisa che porta a non credere nella scienza ma ai pregiudizi.
Quali le possibili soluzioni per contrastare il potere subdolo delle deepfake di innalzare il livello di rischio e far sembrare realistico qualsiasi messaggio?
Alcuni software sono in grado di analizzare velocità e frequenza con cui vengono chiusi gli occhi in un volto deepfake o riconoscono la mancanza di nitidezza di un’immagine quando gli occhi non fissano bene la telecamera. Tutto inutile. I software delle deepfake non hanno tardato ad adeguarsi e migliorarsi.
Si sta pensando alla sistemazione stringente di una normativa, forse l’unica efficacemente percorribile. ll 2 luglio 2019 lo stato americano della Virginia ha approvato la prima legge americana contro i deepfake ed il revenge porn.
In Italia il Garante per la protezione dei dati personali ha aperto un’istruttoria sul social network Telegram perché rende disponibile un software in grado di “spogliare” virtualmente una persona attraverso l’intelligenza artificiale deepfake. Ma le leggi sono ancora inadeguate a tutelare le vittime. E questo è un problema che riguarda tutti, non solo le vittime.
In attesa di un sempre più stringente perfezionamento delle norme , non ci resta che ricorrere ad un approccio del problema che incentivi la diffusione di un senso etico di produzione del software così come della tecnologia in generale. Paolo Benanti nel riferirsi all’etica della tecnologia conia un nuovo termine, l’algoretica (sintesi tra algoritmo ed etica) e sostiene che “La dimensione etica è quella sfida che vuole prendere sul serio il potere trasformativo dell’Intelligenza Artificiale ed orientare questo progresso nell’ordine dello sviluppo”.
[*] Docente di Sistemi Automatici e Animatore Digitale - ITIS “E.Fermi” Castrovillari