Scoperto un problema nella sicurezza di Google Gemini, come difendersi
Wired ha scoperta una falla nei dispositivi per la smart home di Google che viene attivata da un comando per Google Gemini. Come difendere la propria privacy
Secondo un recente report nel campo della sicurezza informatica condiviso da Wired, ci sarebbero delle gravi vulnerabilità in Google Gemini che potrebbero mettere in serio pericolo i dispositivi per la smart home.
Stando a quel che si legge, i ricercatori sarebbero riusciti addirittura a sfruttare queste falle nella sicurezza per attaccare un ecosistema di dispositivi smart e prendere il controllo di tutti i device connessi. Un’eventualità che, se venisse sfruttata da un hacker, potrebbe avere conseguenze gravissime sulla privacy e sulla sicurezza delle abitazioni degli utenti.
Che sappiamo dell’attacco ai dispositivi smart di Google
In base a quanto riportato da Wires, i ricercatori hanno sfruttato un attacco di prompt injection indiretto, veicolandolo attraverso gli inviti di Google Calendar.
Un utente riceve un invito malevolo su tramite il Calendario di Big G e, nonostante questo sembri apparentemente innocuo, contiene al suo interno istruzioni nascoste per Gemini.
Quando l’utente chiede all’intelligenza artificiale un riassunto del suo calendario, l’assistente elabora le informazioni e, senza che nessuno se ne accorga, si imbatte nel comando malevolo, attivandolo.
La trappola vera e propria, però, scatta quando l’utente ringrazia Gemini per il riassunto. Questo ringraziamento funge da “trigger” che attiva il comando nascosto e va a “infettare” Google Home, facendo compiere ai vari dispositivi connessi azioni indesiderate.
Questo tipo di attacco è particolarmente insidioso perché non richiede un’interazione diretta con il prompt malevolo, ma sfrutta un’azione successiva dell’utente che può avvenire anche diverso tempo dopo la ricezione dell’invito, cosa che rende molto più difficile accorgersi del pericolo.
Cosa sta facendo Google per tenere al sicuro gli utenti
Trattandosi di un report per la cyber sicurezza, il team di ricerca ha subito condiviso le proprie scoperte con Google. Andy Wen, direttore senior della sicurezza dei prodotti di Google Workspace, ha commentato la cosa dicendo che gli attacchi di prompt injection saranno una delle prossime sfide da affrontare per tutto il settore.
Nonostante abbiano un’incidenza nel mondo reale ancora relativamente rara, questa tipologia di attacchi rappresentano già una minaccia tangibile per i modelli AI che, vista una crescente complessità, li renderà sempre più soggetti ad aggressioni del genere.
Partendo dal report di Wired, Google ha iniziato ad analizzare i dati condivisi in modo da accelerare lo sviluppo di strumenti più efficaci per bloccare questo tipo di minacce ma, effettivamente, c’è ancora molto da fare e da qui ai prossimi anni questa diventerà una priorità di tutte le aziende tech.
Oltre a questo, la ricerca solleva anche importanti questioni sulla sicurezza informatica per gli assistenti basati sull’IA. Man mano che questi sistemi diventano più integrati nella vita quotidiana delle persone, arrivando a controllare decine e decine di dispositivi, la protezione contro le prompt injection diventerà una priorità assoluta per garantire la sicurezza e la privacy degli utenti.
