YouTube introduce un sistema per rilevare i contenuti fake generati dall'AI

miss.cabul / Shutterstock.com

In sintesi

• YouTube introduce “likeness detection”, un sistema di rilevazione basato su intelligenza artificiale che consente di individuare e segnalare video che riproducono volti senza consenso o che violano il copyright.
• Il sistema è in fase beta e richiede la verifica dell’identità tramite documento e video del volto; in futuro potrebbe diventare più preciso nel contrastare i “doppioni digitali” e l’uso improprio dell’AI.

Anche YouTube deve fare i conti con le problematiche legate alla diffusione degli strumenti di intelligenza artificiale generativa che possono creare non pochi problemi in tema di diffusione di contenuti fake ma anche per quanto riguarda la violazione del copyright.

Si tratta di un tema molto attuale e su cui la piattaforma non può più sorvolare. La semplicità con cui è possibile creare video con l’AI oppure modificare contenuti già esistenti rende tutto più complicato.

Per questo motivo, YouTube ha iniziato a distribuire il nuovo sistema likeness detection che permette di segnalare i doppioni digitali ovvero contenuti creati con l’AI a partire da video già online. In questo modo è possibile contrastare le violazioni di copyright. Andiamo a scoprire tutte le caratteristiche di questa nuova tecnologia.

Come funziona likeness detection

Il nuovo sistema di YouTube consente ai creator e, più in generale, agli utenti della piattaforma di utilizzare un’apposita tecnologia che consente di individuare video in cui è stato riprodotto il proprio volto, senza alcun consenso. Per sfruttare questo sistema è necessario fornire alcuni dati personali oltre a un documento di identità e a un video del proprio volto.

Queste informazioni serviranno ad accertare l’identità dell’utente e permetteranno all’algoritmo di avere a disposizione i dati necessari per individuare possibili violazioni. Il sistema è ancora in beta e potrebbe generare falsi positivi relativi ai contenuti generati dall’AI.

Nel corso del tempo, però, il sistema di rilevazione di “doppioni” digitali potrebbe diventare sempre più preciso. Gli utenti possono utilizzare un apposito tool per inviare una segnalazione alla piattaforma e far analizzare un determinato contenuto. Le segnalazioni saranno poi analizzate nel dettaglio da un apposito team che valuterà vari fattori prima di stabilire se rimuovere o meno un contenuto.

Uno strumento in più contro l’uso improprio dell’AI

Il nuovo sistema sviluppato dalla piattaforma di Google rappresenta un elemento importante per contrastare la diffusione di contenuti realizzati con un uso improprio dell’intelligenza artificiale, in violazione del copyright e delle normative sulla privacy. Soluzioni di questo tipo, con la crescente diffusione dei contenuti generati dall’AI, diventeranno sempre più importanti per proteggere gli utenti e garantire che piattaforme social, come la stessa YouTube, continuino a garantire la diffusione di contenuti legali. Staremo a vedere se e come questa nuova tecnologia riuscirà ad affermarsi.