Staipa’s Blog

Il Blog di Stefano Giolo

Cos’è il Deepfake?

Tempo di lettura 4 minuti

Quella che chiamiamo Intelligenza Artificiale, non è affatto quello che pensa la gente comune. Non ancora almeno. Tuttavia, un’intelligenza artificiale in genere è un sistema in grado di prendere decisioni in maniera autonoma e senza intervento esterno e possibilmente di apprendere e crescere. Questo tipo di tecnologie, se ben usate, saranno in grado presto di migliorare il nostro mondo prendendo decisioni in frazioni di secondo dove noi non siamo in grado di prenderle. Salvarci da un incidente automobilistico, controllare un aeroplano quando il pilota avesse dei problemi, correggere i movimenti di un chirurgo in caso di errore, far muovere una persona tetraplegica interpretandone i segnali del cervello…

Come prevedibile però esistono anche dei pericoli.

Un esempio di intelligenza artificiale è anche quella in grado di prendere un’immagine e modificarla in autonomia ottenendo risultati buoni senza intervento umano. Ma cosa accadrebbe se fosse in grado di mentire e impersonare persone reali o non per convincerci di qualcosa di non reale? Sarebbe un deciso salto di qualità per quanto riguarda la generazione di Fake News.

Sta già accadendo.

Siamo abituati da anni a giochi per il computer o cartoni incredibilmente dettagliati, apprezziamo la realisticità di determinati volti ma crediamo in genere di essere perfettamente in grado di riconoscere un volto reale da uno falso.

Eppure, questo bambino non esiste.

Con tutti i suoi piccoli difetti della pelle, piccoli brufoli, forse una lieve irritazione al bordo della bocca, questo bambino non esiste. E l’immagine non è stata generata da un bravissimo artista, ma dall’intelligenza artificiale del sito This Person Does Not Exist (https://thispersondoesnotexist.com/). Un sito creato appositamente per dimostrare quanto sia facile generare un volto perfettamente credibile in maniera del tutto automatica. Il sistema ha “visto” milioni di foto di esseri umani, ne ha vagliato le caratteristiche e le possibilità e ha imparato a generare immagini perfettamente credibili.

Cosa potrebbe accadere applicando la stessa tecnologia a dei video?

Cos’è il Deepfake

Il Deepfake, falso profondo, è una tecnica per sintetizzare immagini e video non reali, lavorando su video già esistenti o realizzandoli da zero. Sono stati già usati per creare falsi video pornografici ritraenti celebrità, per il Revenge Porn (https://wp.me/pQMJM-2hM), per realizzare video in cui celebrità o politici facevano dichiarazioni che non avrebbero mai fatto, per cyberbullismo, o semplicemente per satira.

Ovviamente il video presente su questo articolo è essenzialmente uno scherzo e la qualità è quella con cui chiunque può creare un deep fake con una normale app disponibile per smartphone in pochi secondi e facilmente riconoscibile come falso

ma il fatto che sia realizzabile da chiunque in pochi secondi fa comprendere già cosa sia possibile fare con sistemi più avanzati e potenti.

Nel 2018, quindi già parecchio tempo fa in termini di tecnologia, BuzzFeed, con la collaborazione di Jordan Peele, ha realizzato questo video in cui l’ex Presidente Obama spiega letteralmente che “stiamo entrando in un’era in cui i nostri nemici possono far dire qualsiasi cosa a chiunque in qualsiasi momento“, dicendo parecchie altre cose.

La cosa interessante è che non è stato lui a dire questa frase, proseguendo fino alla fine del video ci viene mostrato come questo sia stato realizzato e a tutti gli effetti abbiano fatto dire a Obama… quello che volevano che dicesse. Un esperimento interessante e al contempo inquietante.

Se sono bastate normali Fake News per scatenare momenti di panico, tentati omicidi, e peggio, cosa potrebbero fare dei video di questo genere?

Dove è già stato usato il Deepfake

I casi famosi in cui il Deepfake è stato usato non sono pochi. Ne sono state vittima tra le prime Gal Gadot, Jessica Alba, Taylor Swift, Daisy Ridley e ovviamente si trattava di falsi video pornografici che erano stati pubblicati su Reddit.

Altre vittime illustri sono stati Donald Trump e Valdimir Putin (https://www.youtube.com/watch?v=Ws5O9WASoHg).

Nancy Pelosi sulla quale è stato realizzato un video per farla sembrare ubriaca a un convegno (https://tinyurl.com/5bwa6hzf).

Su Mark Zuckerbrg è stato creato un video in cui dice “Immaginate questo per un secondo: un solo uomo, con totale controllo sui dati di miliardi di persone, i loro segreti, le loro vite, il loro futuro. Devo tutto alla Spectre. La Spectre mi ha mostrato che chiunque controlla i dati, controlla il futuro” (https://www.youtube.com/watch?v=yV7sR5jpQNs)

Su Matteo Renzi uno (ormai cancellato) in cui afferma che “Conte c’ha la faccia da cretino e Zingaretti ha il carisma di Bombolo” (questo sembra tra l’altro molto credibile anche solo a leggerlo).

Un finto Tom Cruise è sbarcato su TikTok (https://tinyurl.com/tpmdxams).

Ma anche senza enormi capacità tecniche negli Stati Uniti recentemente una donna è stata arrestata per aver creato deepfake delle cheerleader rivali della figlia (https://www.wired.it/internet/web/2021/03/16/deepfake-madre-ricatto-adolescenti/)

Come proteggersi dal Deepfake

Attualmente non c’è modo di difendersi se non con il ragionamento, un po’ le stesse regole di cui ho già parlato nei miei articoli sulle Fake News, tuttavia per ovvi motivi diventerà sempre più difficile da gestire. L’unione Europea al momento si è espressa dicendo che non bloccherà l’uso e la produzione di DeepFake se verrà indicato che sono video artefatti (https://tinyurl.com/5dxt89ma) ma come sempre il problema è più ampio e la realtà è che non esiste un metodo affidabile per valutare se un video sia un falso, per tanto esprimersi dicendo che si impegnerà a rimuoverli sarebbe comunque una promessa non mantenibile. Esistono attualmente diverse società importanti che si sono impegnate nello studiare sistemi in grado di rilevare video contraffatti ma il percorso è ancora lungo e sicuramente in futuro questa sarà una delle più importanti battaglie per il mondo dell’informatica e delle tecnologie.

Leggendo questo articolo ti sono venute delle domande a cui potrei rispondere nei prossimi articoli?

Qui puoi trovare tutte le domande semplici: https://short.staipa.it/ledomandesemplici


Conferenze

Sono disponibile per l'organizzazione di conferenze su Uso consapevole delle tecnologie, e su Come riconoscere le Fake News, o altri temi analoghi. Potete contattarmi attraverso i miei contatti su questo sito. Le conferenze possono essere declinate per formazione per adolescenti, formazione per genitori o formazione per insegnanti. Potete visitare l'apposita pagina Conferenze e Corsi per maggiori informazioni.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Questo sito usa cookies per fornirti la migliore esperienza. Se sei d'accordo clicca sul tasto 'Accetta cookies', altrimenti controlla la privacy cookies policy e scegli nel dettaglio.

WeePie Cookie Allow cookie category settings icon

Impostazioni Cookie

Di seguito puoi scegliere quale tipo di cookie consentire su questo sito Web. Fai clic sul pulsante "Salva impostazioni cookie" per applicare la tua scelta.

FunzionaliQuesto sito utilizza cookie funzionali. Questi cookie sono necessari per farlo funzionare.

AnaliticiQuesto sito utilizza cookie analitici per consentire di analizzarne l'uso e le visite alle pagine allo scopo di migliorare l'esperienza utente.

Social mediaQuesto sito web inserisce cookie di social media per mostrarti contenuti di terze parti come YouTube e Twitter. Questi cookie possono tracciare i tuoi dati personali.

AltriQuesto sito inserisce cookie di terze parti da altri servizi di terze parti che non sono analitici, social media o pubblicitari.

WeePie Cookie Allow close popup modal icon