Il deepfake è la nuova tecnica che sfrutta l’intelligenza artificiale per sovrapporre in un video il volto di una persona a un altra, e può essere usato per scopi criminali gravi, sia nel mondo politico che in quello finanziario.
Grazie al deep learning, i volti di due persone vengono sostituiti con il face swapping manipolando i video per far dire a chiunque tutto quello che si vuole, riproducendo la voce e sincronizzando il labiale.
In questo modo un video fake viene reso indistinguibile da uno autentico: di solito si tratta di celebrità o politici, manipolati in modo tale che i nuovi video fake sembrino reali, finendo così per alterare l’informazione e inquinare il dibattito politico
Un pericolo contro il quale ha messo in guardia anche Nunzia Ciardi, direttrice del Servizio Polizia Postale e delle comunicazioni italiane, spiegando che il deepfake “può essere usato per tanti scopi criminali gravissimi, nel mondo politico ma anche finanziario”.
Le aziende, ha spiegato Ciardi, “negli ultimi anni sono preda di truffe informatiche sempre più sofisticate e in alcuni casi milionarie, portate avanti usando il social engineering, ad esempio con mail che sembrano inviate dall’amministratore delegato dell’impresa. Con il deepfake si potrebbe arrivare a simulare una videoconferenza dall’AD”.
Giorgia Meloni e la politica italiana tutta diventano personaggi di Barbie con il deepfake
La premier Giorgia Meloni canta su una decappottabile rosa confetto con un enorme fiocco tra i capelli, Matteo Salvini con una tuta oro e chioma platino si scatena in pista illuminato dalle luci stroposcopiche.
È tutto falso eppure sembra vero, ma non è così strano ora che la realtà sintetica sta creando un universo parallelo dove ogni cosa è possibile con un click.
È uscito un nuovo trailer del film diretto da Greta Gerwig che, al posto degli attori sono però apparsi i volti del governo italiano. Meloni diventa Barbie, Salvini Ken, Ignazio La Russa è l’altro Ken, il rivale, Daniela Santanchè, le altre Barbie, Giuseppe Conte veste i panni di Allan e Maurizio Gasparri è il Ceo di Mattel.
Appare anche Elly Schlein al posto di America Ferrara. Alla fine con il font bombato rosa shocking appare il titolo: Georgie. La parodia è stata realizzata dall’IA con ausilio di un umano, si legge nei titoli di coda e l’autore della clip è l’account Ceci n’est pas une AI, attivo da aprile 2023.
Matteo Salvini ha condiviso sui social la parodia Georgie in cui compare scrivendo: “Mamma mia questa intelligenza artificiale che cosa riesce a fare. Non so chi l’ha fatto, ma l’ha fatto davvero bene”, aggiungendo la citazione “Chi ha il coraggio di ridere (anche di sé stesso) è padrone del mondo. Giacomo Leopardi”.
L’autore del trailer ha utilizzato la tecnologia deepfake per realizzare il video, alcune clip restituiscono immagini altamente realistiche, altre invece denunciano lo zampino della macchina.
Il risultato è comunque notevole considerando che l’IA fatica sui filmati lunghi. Stefano Zanero, professore di Sistemi Di Elaborazione Delle Informazioni al Politecnico di Milano, ed esperto in cybersecurity, aveva spiegato a Fanpage.it che “l’intelligenza artificiale generativa funziona per giustapposizioni, più allunghi un video più è alto il rischio che commetta errori logici, e che quindi si capisca che non c’è dietro una mente umana.”
Ma come è stato realizzato il trailer? Le foto e i video deepfake sono prodotti da reti neurali profonde che funzionano in modo simile ai nostri neuroni, vengono addestrate con un processo di deep learning, che insegna alle reti come produrre video o immagini false che sembrano vere.
Può per esempio mostrare qualcuno durante un’azione che non ha mai compiuto, creare persone che non sono mai esistite, o sovrapporre volti su corpi diversi mantenendo la proporzioni e i movimenti, come nel caso del trailer di “Barbie with Italian government face swap”. Grazie all’intelligenza artificiale ormai è semplice realizzare un contenuto deepfake. Basta scegliere l’app giusta e far svolgere quasi tutto il lavoro alle macchine.