Perché le persone si fidano ciecamente dell'AI e cosa si rischia?

Il fatto che l’intelligenza artificiale non sia ancora uno strumento affidabile al 100% è un’indicazione che sono gli stessi produttori a fornire ogni volta che si accede a un tool del genere.

Allucinazioni, informazioni inesatte o parzialmente errate sono all’ordine del giorno per i modelli linguistici di grandi dimensioni (LLM) eppure, secondo un rapporto condiviso da Exploding Topics, sono pochissimi gli utenti che verificano le informazioni fornite da questa tecnologia. E le conseguenze di questa “fiducia” potrebbero essere disastrose.

L’AI non è ancora attendibile ma gli utenti già si fidano

Secondo Exploding Topics, solo l’8% degli utenti verifica effettivamente le risposte ricevute dall’IA e questo, a fronte di numerosi episodi di disinformazione generata da questi strumenti, è davvero preoccupante.

A giustificare questa “pigrizia intellettuale” c’è sicuramente un contesto digitale che ha bisogno di velocità sempre maggiori, eppure di fronte ad alcuni errori clamorosi dell’AI, come il suggerimento di condire la pizza con la colla, tutti dovrebbero fare più attenzione.

Sempre nel sondaggio di Exploding Topics (condotto su 1.000 utenti in rete) si nota che quasi il 75% degli intervistati ha riscontrato problemi significativi con l’intelligenza artificiale, con le Panoramiche AI di Google, ad esempio.

Secondo questi dati il 42,1% ha riscontrato “contenuti imprecisi o fuorvianti“, il 35,82% ha notato che le panoramiche basate sull’IA “mancano di contesto importante“, Il 31,5% ha indicato “risposte parziali” mentre il 16,78% ha addirittura ricevuto “consigli pericolosi o dannosi“.

Nonostante questi dati, sono pochissimi gli utenti controllano i risultati prodotti e che scelgono di approfondire l’argomento seguendo i link delle fonti allegati alle risposte, mettendo a rischio la credibilità dle proprio lavoro e anche la qualità delle informazioni che ricevono.

Cosa devono fare utenti e aziende

Affidarsi ciecamente alle risposte dell’AI può sembrare un modo per risparmiare tempo ma, anche se per la maggior parte delle persone è praticamente la normalità, la necessità di verificare le informazioni fornite rimane l’unico modo (soprattutto in ambito lavorativo) per combattere inesattezze e disinformazione.

È chiaro che tool del genere sono qui per restare e se sono diventati un elemento fondamentale nella vita (lavorativa e non) degli utenti è perché, davvero, possono essere di grande aiuto nel gestire le operazioni più semplici. Tuttavia, questa eccessiva fiducia, potrebbe facilmente portare a situazioni imbarazzanti o a problemi ben più seri in ambito aziendale.

Secondo gli esperti “l’intelligenza artificiale è per sua natura disinteressata alla verità” e ha come unico scopo quello di soddisfare la curiosità degli utenti e i loro bisogni, e questo a prescindere dalla qualità di ciò che produce. A fronte di ciò, almeno per il prossimo futuro, deve essere l’uomo ad avere l’ultima parola, impegnandosi di più a verificare tutto ciò che dice l’intelligenza artificiale e, se servisse, correggendola in modo da renderla più attendibile ed evitare errori grossolani che, alla fine, ricadono principalmente sulla credibilità della persona o dell’azienda stessa.