Gli hacker hanno imparato a manippolare l'AI di Google, che succede adesso?

In Sintesi

• Gli hacker sono riusciti a “manipolare” gli algoritmi AI di Goole per usare le panoramiche AI per mettere in scena una truffa.
• Ciò dimostra l’interesse del crimine informatico verso l’AI che, vista la fiducia degli utenti, può diventare un rischio per privacy e portafogli.

Gli hacker si stanno avvicinando pericolosamente all’intelligenza artificiale e alcuni recenti avvenimenti hanno confermato questa tesi.

A finire nel mirino dei malintenzionati digitali, infatti, è stato AI Overview di Google, il nuovo tool del colosso di Mountain View che è in grado di usare l’AI per generare dei brevi testi in risposta alle domande delle persone.

Gli hacker, hanno capito come sfruttare a loro vantaggio questo strumento e a farne le spese è stato un utente che ha subito un furto di denaro.

Come funziona la truffa di AI Overview

La truffa in questione ha riguardato un utente negli Stati Uniti che stava cercando in rete il numero di assistenza di compagnia di crociere. La ricerca lo ha portato a imbattersi in AI Overview, con il classico box che ha fornito un numero di telefono per mettersi in contatto con l’azienda.

Tuttavia, questo si è rivelato un numero falso che ha messo in contatto il malcapitato con una rete di truffatori. Rispondendo alla chiamata, una persona che si è spacciata per un dipendente dell’azienda che ha dimostrato anche una conoscenza dei servizi offerti dalla compagnia di crociere, convincendo l’utente a fidarsi e a fornire al telefono i dati della carta di credito.

Il giorno dopo, però, ha notato diversi addebiti sospetti sul suo conto e ha realizzato di essere stato vittima di una frode.

Questo caso rivela un metodo molto sofisticato con i criminali che sono stati in grado di infiltrarsi negli algoritmi di Google. Per farlo hanno inserito ripetutamente numeri di telefono falsi su siti web, forum e portali di recensioni, sfruttando questo meccanismo noto come data poisoning; questa ripetizione così massiccia ha reso il dato plausibile agli occhi degli algoritmi di Google, tanto da farlo emergere nelle risposte generate dall’AI.

Come difendersi da queste truffe

Google ha dichiarato di essere al lavoro per affrontare questi problemi e rimuovere i contenuti dannosi, tuttavia questo specifico caso solleva seri interrogativi sulla rapidità e l’efficacia delle loro contromisure.

Secondo gli esperti di sicurezza informatica, le aziende non fanno abbastanza per proteggere gli utenti dai pericoli che derivano dai sistemi AI che stanno diventando estremamente insidiosi. Dall’altra parte è anche vero che non è possibile controllare l’attendibilità di tutte le informazioni date in pasto all’intelligenza artificiale e questa truffa, sicuramente, non è l’unica in corso.

Del resto, vista una diffusione ormai così capillare, tutti tendono a fidarsi dell’AI (forse anche troppo) è chiaro che questa tipologia di truffa possa diventare rapidamente uno dei trend più pericoli del web che potrebbe ingannare anche gli utenti più accorti.

Per difendersi, dunque, l’unica cosa da fare è porsi sempre delle domande e non credere ciecamente all’AI, perciò nel caso specifico delle panoramiche AI, è consigliabile cercare riscontro su altre fonti e sui siti ufficiali, in modo da non incappare in informazioni false e in truffe online che potrebbero avere conseguenze gravissime per la privacy e il portafogli, come in questo caso.