Quando le foto scattate sul telefonino "modificano" i ricordi: ecco cos'è la fotografia computazionale
Uno studio ha fatto chiarezza sui rischi e sui benefici legati alla presenza di falsi ricordi indotti dai contenuti generati dall'IA tra gli utenti:
L’intelligenza artificiale sta giocando un ruolo sempre più da protagonista nella creazione di contenuti multimediali, con foto e video che, sempre più spesso, vengono generati oppure vengono (ampiamente) modificati con il ricorso a strumenti AI.
La possibilità di modificare foto, trasformandole con aggiunte e personalizzazioni, può avere un impatto anche sulla memoria degli utenti, andando a “modificare” i ricordi passati.
Uno studio pubblicato dalla Cornell University, firmato da Pat Pataranutaporn, Chayapatr Archiwaranguprok, Samantha WT Chan, Elizabeth Loftus e Pattie Maes, ha analizzato l’impatto della fotografia computazionale sui ricordi.
Cos’è la fotografia computazionale
Con “fotografia computazionale” si intende una serie di tecniche che permettono di abbinare la fotografia tradizionale e l’elaborazione digitale con l’obiettivo di ottenere un prodotto finale di qualità superiore o anche di creare un nuovo contenuto. Molto spesso, soprattutto negli ultimi anni, è l’intelligenza artificiale a intervenire come protagonista nelle attività di fotografia computazionale.
I risultati dello studio
Lo studio ha esaminato l’impatto delle immagini modificate dall’IA sui falsi ricordi, andando a verificare in che modo la fotografia computazionale può “generare” ricordi di eventi che non si sono verificati o che si discostano in modo significativo dalla realtà.
L’indagine ha preso in considerazione 200 partecipanti, suddivisi in quattro gruppi da 50 unità e a cui sono state sottoposte immagini non modificate, immagini modificate dall’IA, video generati dall’IA o video generati dall’IA a partire da immagini modificate dall’IA.
La presenza di falsi ricordi è aumentata in modo significativo in caso di presenza di immagini modificate dall’IA. L’effetto maggiore è stato ottenuto da video generati dall’IA a partire da immagini modificate dall’IA che ha portato a una frequenza di falsi ricordi 2,05 volte superiore.
In questo caso, anche la fiducia nei falsi ricordi è stata la più alta (1,19 volte superiore rispetto al gruppo di controllo a cui sono state sottoposte immagini non modificate). Quest’aspetto viene giudicato come “ancora più preoccupante” dagli autori dello studio. L’impatto legato alla presenza di contenuti generati dall’IA è, quindi, evidente.
Lo studio ha poi analizzato le possibili applicazioni, anche per quanto riguarda la “ristrutturazione” della memoria. Nelle conclusioni di legge: “Questi risultati hanno implicazioni di vasta portata in diversi ambiti, tra cui i procedimenti legali, il dibattito politico e la diffusione della disinformazione. Tuttavia, lo studio evidenzia anche possibili applicazioni positive di questa tecnologia, soprattutto in contesti terapeutici.”
Gli autori suggeriscono, infatti, che questi sistemi potrebbero essere utilizzati per “rielaborare ricordi traumatici o per migliorare l’autostima” sempre sotto una supervisione professionale. L’utilizzo dell’AI, quindi, potrebbe ottenere una serie di benefici da non trascurare. In futuro, però, bisognerebbe valutare sistemi più efficaci per “mitigare il rischio di falsi ricordi indotti dall’AI“.
La fotografia computazionale, in relazione alla memoria delle persone, può avere diversi impatti, sia positivi che negativi. Si tratta di un aspetto che richiederà ulteriori approfondimenti, soprattutto considerando i margini di crescita che i sistemi generativi possono avere nel corso dei prossimi anni.
Per ulteriori dettagli in merito allo studio è possibile consultare il documento completo, dal titolo Synthetic Human Memories: AI-Edited Images and Videos Can Implant False Memories and Distort Recollection, tramite il sito arxiv.org.
