Deepfake, cos’è e perché può essere usato come un’arma nella guerra in Ucraina

La (breve) storia della tecnica del deepfake: dalla nascita allo sviluppo, fino alla sua diffusione. Ecco perché l’utilizzo dell’intelligenza artificiale nel conflitto preoccupa gli esperti

Deepfake
Foto Pexels | Danny Meneses
newsby Alessandro Boldrini25 Marzo 2022


La storia del deepfake è relativamente breve. Tutto ha inizio alla fine 2017, quando gli utenti di Reddit coniano per la prima volta il termine – una crasi fra “deep learning” e “fake” – a cui oggi associamo la tecnica per la sintesi dell’immagine umana basata sull’intelligenza artificiale.

Perché, di fatto, di questo si tratta: combinare e sovrapporre immagini e video esistenti con documenti originali tramite una tecnica di apprendimento automatico, nota come “rete antagonista generativa”. Gli ambiti di sviluppo e di impiego di questa tecnica sono di fatto due: da un lato quello della ricerca nel campo della visione artificiale all’interno delle istituzioni accademiche; dall’altro l’utilizzo amatoriale sul web, che spesso può avere risvolti negativi. Non mancano infatti esempi di deepfake usati per creare falsi video pornografici di celebrità o per compiere crimini informatici. Il loro uso si estende perfino in guerra, come accaduto durante il conflitto in Ucraina.

Deepfake, perché il loro uso in guerra preoccupa gli esperti

I primi esempi di deepfake risalgono al 2016 con il lancio del programma ‘Face2Face’, in grado di modificare il video del volto di una persona raffigurandola mentre imita, in tempo reale, le espressioni di un’altra. Altro esempio, dell’anno successivo, è il progetto ‘Synthesizing Obama’, che invece altera filmati dell’ex presidente americano Barack Obama facendogli pronunciare parole di una traccia audio separata. E arriviamo al 2022, dove il protagonista di un esperimento di questo genere è diventato (suo malgrado) un altro presidente, l’ucraino Volodymyr Zelensky.

È infatti notizia di pochi giorni fa che Meta, la casa madre di Facebook, e YouTube hanno rimosso dalle loro piattaforme un video falso di Zelensky che invita le truppe del suo Paese ad arrendersi ai russi. Si tratta del primo esempio documentato di deepfake nella guerra in Ucraina. Nel filmato (visibile qui sopra), il falso Zelensky parla su un podio presidenziale ed esorta il popolo a deporre le armi. Lo stesso presidente ucraino ha bollato il documento come fasullo su Telegram.

LEGGI ANCHE: Attacco informatico dalla Russia? | Europa e Usa tremano: ecco i rischi reali

Su questa vicenda è intervenuto anche il capo della politica di sicurezza di Meta, Nathaniel Gleicheril, che su Twitter ha scritto:“Abbiamo rapidamente esaminato e rimosso questo video per aver violato la nostra politica contro i media manipolati fuorvianti e abbiamo informato i nostri colleghi di altre piattaforme”. Mentre il portavoce di YouTube, Ivy Choi, ha spiegato che l’azienda consente “questi video solo se forniscono un contesto educativo, documentaristico, scientifico o artistico”.

LEGGI ANCHE: Su TikTok è fin troppo facile imbattersi in fake news sulla guerra in Ucraina

Non come nel caso del deepfake di Zelensky, dunque. Vedendo il filmato, peraltro, è chiaro che si tratti di un “fake”. Ne è una prova l’assenza di movimenti del corpo, ad eccezione della testa. Ma se sottoposto a uno sguardo superficiale, disattento o di una persona poco esperta, potrebbe comunque creare confusione. E i risvolti dell’utilizzo di questa tecnica potrebbero essere molto gravi in determinati contesti. Un pericolo che negli anni è stato spesso al centro delle preoccupazioni degli esperti in disinformazione.

Intelligenza artificiale deepfake
Foto Pixabay | geralt

“In situazioni critiche, durante una guerra o una catastrofe nazionale, quando le persone non riescono ad essere razionali e hanno solo brevi momenti di attenzione, se vedono come queste, allora diventa un problema”, spiega alla Cnn Siwei Lyu, direttore del laboratorio di machine learning all’Università di Albany. “Una volta che viene superata questa linea, la verità stessa non esiste più – dice invece Wael Abd-Almageed, ricercatore alla University of Southern California –. Se vedi qualcosa e non riesci più a crederci, allora tutto diventa falso” perché non abbiamo più fiducia di tutto e di niente”.


Tag: DeepfakeUcrainaVolodymyr Zelensky