Staipa’s Blog

Il Blog di Stefano Giolo, divulgazione informatica, uso consapevole tecnologia, e fatti miei

Come riconoscere le immagini create con l’intelligenza artificiale

Tempo di lettura 6 minuti

Nell’era digitale in cui viviamo, l’Intelligenza Artificiale (IA) ha compiuto passi da gigante nel campo della creazione di contenuti visivi. Immagini straordinarie, video mozzafiato e grafica sorprendente sono diventati parte integrante del nostro panorama mediatico. Tuttavia, con la proliferazione di queste nuove forme di media, sorge una domanda cruciale: come possiamo distinguere tra contenuti creati dall’IA e quelli catturati con una normale fotocamera?

Purtroppo, non è semplice, e ogni regola che si scriva oggi domani potrebbe non valere più nulla. Si tratta dello stesso principio del fare un elenco di modi per nascondere le chiavi di riserva fuori casa. I metodi funzionano, ma una volta dichiarati in pubblico sarà i primi luoghi dove un ladro andrà a mettere le mani, così per quanto riguarda la contraffazione di immagini se oggi diamo un metodo per scoprirle, domani chi sviluppa le intelligenze artificiali cercherà di migliorare il più possibile per non lasciare quel segnale di allarme così in vista.

Come Riconoscere Immagini Generata dall’IA

Le immagini generate dall’IA possono essere sorprendentemente realistiche, molto più dei video, e se corredate da un testo che ci fa arrabbiare o emozionare è facile distrarsi e non fermarsi a ragionare, ne parlo nei miei articoli sulle Fake News (https://www.staipa.it/blog/fakenews). Però ci sono alcuni elementi che ci dovremmo abituare ad osservare, quantomeno per aiutarci a sollevare il dubbio.

  • Dettagli Perfetti: Uno dei segnali più evidenti è la perfezione dei dettagli. Le immagini generate dall’IA possono sembrare troppo perfette per essere vere. Cerca di individuare la mancanza di piccole imperfezioni o dettagli realistici che spesso sono presenti nelle foto reali: graffi, polvere, nei, peli o imperfezioni sulla superficie degli oggetti e della pelle di persone e animali.
  • Simmetria e Coerenza Eccessive: Le IA tendono a cercare la simmetria e la coerenza visiva. Pertanto, se noti una simmetria eccessiva o una coerenza troppo precisa nell’immagine, potrebbe essere un segno di generazione da parte dell’IA. Le foto reali spesso presentano piccole asimmetrie e variazioni casuali, soprattutto se magari sono immagini che nel racconto sono state prese in una situazione particolare come un’emergenza o da fotografi non professionisti.
  • Errori o Incoerenze Inaspettate: Le IA possono commettere errori o creare incoerenze inaspettate. Ad esempio, potresti notare oggetti che sembrano “galleggiare” in aria senza un supporto visibile o oggetti che sembrano essere fusi in modo strano insieme, persone con un numero scorretto di dita o dettagli strani, soprattutto sullo sfondo. Questi errori sono dovuti alla natura dell’apprendimento automatico e possono essere un segno di immagini generate.
  • Esame dei Dettagli: Dedica del tempo a esaminare attentamente i dettagli dell’immagine. Ingrandisci l’immagine e osserva gli oggetti in primo piano e sullo sfondo. Cerca dettagli che sembrano fuori posto o che non si integrano perfettamente nell’immagine.
  • Sfondo Irreale: Presta attenzione anche allo sfondo dell’immagine. Se lo sfondo sembra troppo perfetto o irreale, potrebbe essere un indicatore di generazione da parte dell’IA. Gli algoritmi possono avere difficoltà a generare sfondi complessi e dettagliati in modo realistico.
  • Riflessi e ombre: presta attenzione alla luminosità e ai riflessi. Le IA potrebbero avere difficoltà a simulare correttamente la posizione delle ombre rispetto a eventuali punti luce presenti come lampioni o fari e nella gestione dei riflessi su vetri o pozze di acqua, vale soprattutto nei riflessi su oggetti come occhiali, oggetti lucidi o specchi.
  • Contesto Inconsueto: Se l’immagine sembra mostrare oggetti o situazioni insolite o improbabili, potrebbe essere un segno di generazione da parte dell’IA. Ad esempio, un animale esotico fuori dal suo habitat naturale potrebbe sollevare dei dubbi.
  • Confronta con Immagini Reali: Quando hai dei dubbi sull’autenticità di un’immagine, confrontala con immagini reali simili. Cerca fotografie di oggetti, luoghi o situazioni simili per verificare se ci sono differenze evidenti.
  • Utilizza Strumenti di Analisi: Esistono strumenti online e plugin per browser che possono aiutarti a identificare immagini generate dall’IA. Alcuni di questi strumenti utilizzano l’analisi delle caratteristiche delle immagini per rilevare segni di generazione automatica.
  • Verifica la Fonte: Cerca informazioni sulla fonte dell’immagine. Ad esempio, se il video proviene da una fonte dubbia o poco conosciuta, potrebbe essere più probabile che sia stato generato artificialmente. Usa gli strumenti di ricerca per le immagini che ho spiegato nell’apposito articolo sulle Fake News (https://wp.me/pQMJM-1Ub).

Riconoscere Video Generati dall’IA

Identificare video generati dall’IA spesso è più semplice, se ci si ferma a guardare i singoli fotogrammi, in fondo si tratta di migliaia di foto generate e i problemi che valgono per le foto qui possono moltiplicarsi.

  1. Fluido e Senza Interruzioni: I video generati dall’IA tendono a essere molto fluidi e privi di interruzioni o scatti tipici nei video reali. I movimenti degli oggetti e delle persone possono sembrare troppo perfetti e uniformi quando nella realtà spesso i movimenti sono meno precisi, soprattutto nel caso si tratti di video registrati in momenti concitati.
  2. Comportamenti Insoliti: Un segno distintivo dei video generati dall’IA è la presenza di comportamenti insoliti o impossibili. Ad esempio, potresti vedere oggetti o persone che si muovono in modi non naturali o che eseguono azioni fisicamente improbabili.
  3. Prospettiva e Luminosità Inconsuete: Presta attenzione alla prospettiva e alla luminosità inusuali nei video. Le IA potrebbero avere difficoltà a simulare la prospettiva realistica o a gestire la luce in modo coerente. Questo può manifestarsi come ombre irrealistiche o effetti di luce strani. Soprattutto nei riflessi, specchi o pozze di acqua, o nel movimento delle ombre rispetto ai punti luce.
  4. Audio Inconsistente: Non dimenticare l’audio. Se il suono in un video sembra strano o poco naturale, potrebbe essere un segno di generazione da parte dell’IA. Ad esempio, voci che suonano sintetiche, effetti sonori fuori posto, o parole non perfettamente sincronizzate con le labbra di chi parla.
  5. Movimenti Ripetitivi: Alcuni video generati dall’IA potrebbero presentare movimenti o azioni che sembrano ripetersi in modo identico. Questo è dovuto al fatto che l’IA può imparare dai dati di addestramento e ripetere schemi. Un po’ come i deja voo in matrix.
  6. Qualità Troppo Alta o Troppo Bassa: Presta attenzione alla qualità del video. Se sembra troppo perfetta o, al contrario, troppo scadente, potrebbe essere un segno di generazione da parte dell’IA. Le IA cercano spesso di massimizzare l’aspetto estetico, il che può portare a una qualità visiva innaturale. Pensa sempre alla fonte da cui proviene il video: un filmato fatto al cellulare da un passante può essere perfettamente stabile e con una luminosità perfetta anche di notte? O al contrario un filmato eccessivamente caotico alla The Blair Witch Project è credibile in ogni situazione?
  7. Confronta con Video Reali: Se hai dubbi sulla natura di un video, cerca video reali simili per confrontarli. Gli elementi visivi e comportamentali sospetti saranno più evidenti quando vengono messi a confronto con video autentici.
  8. Utilizza Strumenti di Analisi: Esistono strumenti e software che possono aiutarti a riconoscere video generati dall’IA. Alcuni di questi strumenti utilizzano l’analisi dei movimenti e delle caratteristiche visive per individuare anomalie.
  9. Verifica la Fonte: Cerca informazioni sulla fonte del video. Ad esempio, se il video proviene da una fonte dubbia o poco conosciuta, potrebbe essere più probabile che sia stato generato artificialmente.
  10. Educarsi Continuamente: Poiché l’IA sta evolvendo costantemente, è importante educarsi in modo continuo sull’argomento. Segui gli sviluppi nell’IA e impara a riconoscere nuovi segnali di generazione.

Alcuni strumenti di analisi utili

  • InVID Verification Plugin: Questo è un plugin per il browser che aiuta a verificare la provenienza e l’autenticità dei video online. È utile per identificare video manipolati o generati artificialmente. Può rilevare cambiamenti di pixel e altre anomalie. (https://tinyurl.com/mr35fhn6)
  • Forensically: Questo è un sito web che fornisce una suite di strumenti per analizzare immagini e video. Puoi utilizzarlo per rilevare modifiche e manipolazioni nelle immagini, tra cui la generazione da parte dell’IA. (https://tinyurl.com/yck2xpbc)
  • TinEye Reverse Image Search: Questo strumento consente di effettuare una ricerca inversa delle immagini, il che significa che puoi caricare un’immagine e vedere se esiste su Internet in altre forme o contesti. Se l’immagine è stata generata dall’IA, potrebbe essere difficile trovare corrispondenze in altri contesti. (https://tineye.com/)
  • Video Analyzers: Esistono strumenti di analisi video specializzati che possono individuare anomalie nei video, come movimenti irrealistici o modifiche pixel. Alcuni di questi strumenti possono essere utilizzati per l’analisi forense.
  • Software di fotoritocco: Un software di fotoritocco come Photoshop (a pagamento) o Gimp (Gratuito) può essere utilizzato per esaminare dettagli avanzati nelle immagini, come livelli, canali e modifiche. Tuttavia, richiede una certa competenza nell’uso del software.
  • Software di Analisi Audio: Per analizzare l’audio nei video, puoi utilizzare software di analisi audio come Audacity per individuare anomalie nelle registrazioni audio, come artefatti di sintesi vocale. (https://www.audacityteam.org/)
  • Algoritmi di Identificazione di Deepfake: Ci sono anche algoritmi e tool specializzati progettati per rilevare deepfake nei video. Alcuni di questi strumenti sono sviluppati da aziende di sicurezza informatica e università.

Ovviamente nessuno di questi strumenti è infallibile, e la loro efficacia dipenderà dalla complessità della generazione dell’IA e dalla qualità dell’analisi. Spesso avviene anche il contrario, una foto scattata con un moderno smartphone spesso viene manipolata in maniera automatica per correggere dettagli come occhi rossi, luminosità scadente o altro, in questo caso un software potrebbe rilevare l’immagine come falsa o manipolata anche se è stata realizzata in presa diretta nel mondo reale.

La combinazione di più strumenti e l’uso del buon senso nella verifica delle fonti sono le migliori strategie per identificare contenuti generati dall’IA.

Conferenze

Sono disponibile per l'organizzazione di conferenze su Uso consapevole delle tecnologie, e su Come riconoscere le Fake News, o altri temi analoghi. Potete contattarmi attraverso i miei contatti su questo sito. Le conferenze possono essere declinate per formazione per adolescenti, formazione per genitori o formazione per insegnanti. Potete visitare l'apposita pagina Conferenze e Corsi per maggiori informazioni.

Iscriviti al blog tramite email

Inserisci il tuo indirizzo e-mail per essere avvisato quando verranno create nuove pagine o eventi su staipa.it

Unisciti a 710 altri iscritti

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *