Chrome diventa sempre più autonomo e Google pensa a nuovi sistemi di sicurezza

gioele piccinini / Shutterstock.com

In Sintesi

• Google ha introdotto nuove difese per proteggere gli utenti dalle minacce inedite come la prompt injection, dove istruzioni malevole nascoste nel contenuto web potrebbero manipolare l’agente AI a compiere azioni non autorizzate.
• Visto l’elevato grado di autonomia dell’AI agentica, Google sta rivedendo le funzioni della gestione delle attività del browser, con strumenti che impediscono al browser di compiere azioni indesiderate.

L’arrivo delle funzionalità agentiche basate su Gemini sta gradualmente ridefinendo l’identità di Google Chrome, che da semplice browser sta diventando un vero e proprio assistente digitale capace di agire autonomamente sul web.

Non si tratta più “solamente” di suggerimenti o testi generati dall’AI, ma di operazioni compiute direttamente online a nome dell’utente. Un salto tecnologico che apre diversi scenari, dall’automazione di compiti ripetitivi alla gestione intelligente delle attività, ma che dall’altra parte mette l’utente davanti a nuovi rischi. Per questo motivo Google ha illustrato nel dettaglio la sua strategia di sicurezza.

Perché servono nuove difese per Chrome

L’arrivo dell’AI all’interno di Chrome introduce minacce inedite. Tra le più insidiose c’è la prompt injection, cioè la possibilità che contenuti apparentemente innocui contengano istruzioni malevole nascoste capaci di manipolare l’agente AI. Un attacco del genere potrebbe, ad esempio, indurre il sistema a compiere azioni non autorizzate, come inviare dati sensibili o perfezionare acquisti indesiderati.

Le nuove misure di sicurezza progettate da Google

Secondo l’azienda, la protezione della navigazione agentica si basa su un insieme di barriere progettate per rendere gli attacchi più difficili e costosi da realizzare. L’obiettivo è evitare che l’automazione diventi un punto debole nella gestione dei dati personali.

La prima novità introdotta da Google per controllare le azioni dell’agente, è l’User Alignment Critic, un secondo modello che opera come revisore indipendente in grado di analizzare le azioni pianificate dall’agente AI, verificare che siano coerenti con l’intento espresso dall’utente e rimandare indietro o bloccare le istruzioni sospette. Il sistema lavora in isolamento, senza esaminare direttamente contenuti provenienti dal web, così da evitare contaminazioni e tentativi di manipolazione.

Un’altra novità interessante sono gli Agent Origin Sets, un sistema che definisce quali siti l’agente può consultare o modificare.Chrome assegna ogni pagina a un insieme di origini “permesse” in relazione al compito da eseguire. Così facendo l’agente può leggere informazioni solo da fonti pertinenti e compiere azioni attive (clic, compilazione di campi, invio di moduli) solo su domini autorizzati.

La sicurezza di Chrome passa, naturalmente, anche per l’intervento umano con il browser che richiede una conferma esplicita prima che l’agente AI possa eseguire azioni considerate ad alto rischio, come accedere a conti bancari, effettuare pagamenti e usare password salvate. In tal senso, anche il Password Manager resta completamente isolato e non è accessibile dall’agente, mentre tutte le attività vengono registrate in un log consultabile in tempo reale, consentendo all’utente di interrompere o modificare le operazioni in corso.

L’ultima novità per individuare tentativi di manipolazione è un sistema di analisi automatica dei contenuti, capace di riconoscere testi ideati per manipolare l’agente. Il modello lavora parallelamente all’AI principale e blocca tutte le azioni basate su istruzioni sospette.

La piattaforma viene inoltre testata attraverso sessioni continue di red-teaming, che simulano attacchi reali utilizzando anche modelli di AI per generare minacce sofisticate. Le simulazioni si concentrano sui contesti più delicati (social network, advertising, piattaforme aperte) e permettono a Google di individuare e correggere vulnerabilità tramite aggiornamenti automatici.