Sempre più difficile scovare i deepfake AI: anche gli stessi software sono in difficoltà

iStock

Web e social network sono sempre più saturi di immagini generate con intelligenza artificiale che ritraggono persone reali, i cosiddetti deepfake. E nonostante i progressi nello sviluppo di strumenti pensati per individuare e contrastare questi contenuti, secondo una ricerca di NewsGuard la situazione generale non è migliorata affatto.

Anzi, sembra proprio non ci sia nulla da fare.

• I software contro i deepfake AI non riescono a riconoscerli
• Perché è così difficile scovare le immagini fake
• Il rischio di confondere la realtà con la finzione

I software contro i deepfake AI non riescono a riconoscerli

Nel suo report, il portale noto per le sue analisi sui contenuti fake ha messo a confronto cinque tra i più diffusi strumenti di rilevamento: Hive, AI or Not, ZeroGPT, Sightengine e ScamAI.

Il risultato non è molto gratificante: nella maggior parte dei test, nessuno dei cinque garantisce un livello di sicurezza che raggiunga il 100%.

NewsGuard ha sottoposto ai sistemi un insieme di 15 fotografie autentiche e verificabili. I risultati hanno mostrato un’affidabilità altalenante: solo Hive e Sightengine hanno identificato correttamente tutte le immagini reali, mentre gli altri strumenti hanno scambiato alcune foto autentiche per contenuti falsi. Tra i peggiori risulta ScamAI, che ha raggiunto un picco di falsi positivi pari al 40%.

Non va meglio per quanto riguarda il riconoscimento di immagini generate o manipolate totalmente con l’intelligenza artificiale: i cinque strumenti non risultano quasi mai concordi nelle valutazioni, evidenziando un’assenza di uniformità nei criteri di analisi.

Nel caso però di immagini sottoposte a lievi ritocchi, ScamAI ha classificato come generate dall’IA il 93% delle immagini, AI or Not l’87% e ZeroGPT l’80%. Diversamente, Hive e Sightengine hanno mostrato un approccio più prudente, segnalando come generate dall’intelligenza artificiale solo il 27% delle immagini modificate in modo leggero.

Perché è così difficile scovare le immagini fake

Il problema principale, secondo la ricerca, risiede nel fatto che l’intelligenza artificiale viene spesso utilizzata anche per modifiche considerate “innocue”.

In molti casi, infatti, gli utenti ricorrono a questi strumenti per miglioramenti estetici come filtri, regolazioni di contrasto o luminosità, senza alterare in modo sostanziale il contenuto originale.

Qui la presenza di watermark (come quelli di Synth ID) o segnali tecnici può però portare alcuni sistemi a classificare erroneamente come fake le immagini semplicemente ritoccate in modo marginale.

Al contrario, quando le modifiche riguardano solo piccole porzioni dell’immagine (ma arrivano a stravolgere il contesto), altri strumenti potrebbero non considerarle rilevanti.

Il rischio di confondere la realtà con la finzione

Nel complesso, NewsGuard conferma le difficoltà ancora aperte nei sistemi di rilevamento dei contenuti generati dall’intelligenza artificiale.

Parliamo di tecnologie ancora un po’ immature, che non garantiscono un’affidabilità costante nel distinguere tra immagini reali e contenuti sintetici, il che rende sempre più complessa la lettura del materiale che circola online.

Un esempio significativo è il video di Benjamin Netanyahu, riapparso dopo alcuni giorni di silenzio mediatico mentre prendeva un caffè in un bar. Un video totalmente autentico (ci teniamo a sottolineare), eppure sui social è stato additato come deepfake, con il risultato di aver alimentato (forse tuttora) teorie complottiste secondo cui il premier israeliano sarebbe in realtà morto.

E a contribuire a quest’idea sono stati i suddetti sistemi, in particolare Hive, che nel caso specifico ha classificato il video come generato dall’intelligenza artificiale con una probabilità del 96,9%.