Le allucinazioni dell'AI sono un rischio e anche viaggiare diventa pericoloso

In Sintesi

• L’AI può offrire spunti utili per organizzare un viaggio, ma le allucinazioni rischiano di generare itinerari inesistenti o errati che possono diventare pericolosi.
• Per questo, i suggerimenti dei chatbot devono essere sempre verificati tramite fonti ufficiali, evitando di affidare acriticamente all’IA la piena gestione del viaggio.

L’intelligenza artificiale viene ormai utilizzata nei contesti più disparati, dall’intrattenimento alla produttività a tutti i livelli, con sempre più utenti che si affidano a questa tecnologia.

Non bisogna dimenticare, però, che questi strumenti possono sbagliare e in certe situazioni, un errore può costare molto caro. È il caso di chi usa l’AI per organizzare un viaggio e si ritrova di colpo indirizzato verso itinerari inesistenti, luoghi immaginari o posizionati ben lontano da dove dovrebbero essere realmente.

Perché usare l’AI per viaggiare può essere pericoloso

Per capire la portata della cosa è bene prendere in considerazione l’esempio raccontato da Miguel Angel Gongora Meza, fondatore di Evolution Treks Peru. L’uomo ha raccontato che durante un trekking sulle Ande, ha incontrato due turisti convinti di raggiungere il “Sacro Canyon di Humantay”, un luogo che, in realtà, non esiste e che è stato creato ad hoc dall’AI combinando riferimenti reali con dettagli inventati.

Questo racconto, per quanto estremo, mostra chiaramente che affidarsi all’AI può diventare pericoloso, soprattutto perché in questo caso, trovarsi su una strada rurale nelle Ande (dove l’altitudine può superare anche i 4.000 m) senza guida, senza meta e spesso senza connessione telefonica può diventare un rischio mortale.

Alla base di tutto c’è il problema delle allucinazioni digitali, un comportamento che porta i tool basati sull’intelligenza artificiale a creare informazioni false presentate con sicurezza assoluta. In questo caso, spiegare l’accaduto è relativamente semplice: a differenza delle guide di viaggio, l’AI non ha una reale comprensione del territorio e si limita a generare testi plausibili basandosi su correlazioni statistiche tra parole, senza alcuna garanzia di veridicità.

Secondo recenti sondaggi, oltre un terzo degli utenti che hanno utilizzato l’AI per pianificare viaggi dichiara di aver ricevuto informazioni incomplete o false e ciò è dovuto essenzialmente al fatto che questi sistemi non conoscono la verità ma si limitano a produrre sequenze di parole coerenti, che possono risultare tanto accurate quanto fuorvianti. E quando ci si trova a chilometri da casa, magari in posti sperduti e senza una conoscenza approfondita del luogo e della lingua, questa inaccuratezza può diventare pericolosa.

Come si può rendere l’AI più affidabile?

Alcuni governi stanno elaborando dei propri sistemi normativi che vogliono rendere più trasparente la distinzione tra contenuti autentici e contenuti generati artificialmente. L’Unione Europea e gli Stati Uniti, ad esempio, stanno valutando strumenti come filigrane digitali e sistemi di tracciamento che permettano agli utenti di riconoscere testi o immagini manipolati dall’AI.

Tuttavia, quando l’errore nasce da una conversazione con un chatbot, la responsabilità di ciò che può accadere resta ancora in gran parte all’utente. La cosa da fare, in attesa che questi tool diventino geograficamente più affidabili, è utilizzare la massima prudenza e, dopo aver consultato l’intelligenza artificiale è sempre bene consultare anche fonti e siti ufficiali.

In sintesi possiamo dire che l’uso di questi strumenti può fornire ispirazioni, spunti e stimolare nuove idee, ma non può e non deve sostituire la pianificazione basata su dati accurati e verificabili.