Google, la provocazione: l'AI dovrebbe difendersi da sola dagli hacker
Google spiega come l'intelligenza artificiale stia rendendo gli attacchi informatici più sofisticati. Dal primo zero-day creato con AI ai malware autonomi, cosa emerge dal report
- Google avverte che l'intelligenza artificiale è diventata infrastruttura operativa anche per i criminali informatici.
- Il rapporto AI Threat Tracker documenta exploit sviluppati con AI, malware polimorfico e strumenti autonomi come PROMPTSPY.
- La difesa richiede AI difensiva e cooperazione tra governi e industria per proteggere le fondamenta del mondo connesso.
Il fatto che con il progredire delle risorse tecnologiche aumenti anche la “ferocia” di chi ha intenzioni malevole, non dovrebbe stupirci. A stupire, invece, è il fatto che sia proprio Google, una delle figure più significative nel panorama dell’innovazione AI, a lanciare un nuovo allarme.
Ebbene sì: per mezzo di uno dei suoi più importanti dipendenti, il colosso di Mountain View ha spiegato come gli attacchi degli hacker siano più forti e sofisticati per via dell’AI ma anche, contestualmente, come l’AI stessa possa… difendersi. Un paradosso? Probabilmente sì.
Le parole di Royal Hansen
Più precisamente, a restituire un quadro completo della situazione, è Royal Hansen, VP of Engineering di Google, alla guida del team Privacy, Safety and Security, la funzione ingegneristica che sviluppa le tecnologie fondamentali per la sicurezza online di miliardi di utenti.
Intervistato da Il Corriere della Sera, Hansen ha parlato di due “curve parallele” che si stanno sviluppando in questo momento storico: quella dei cybercriminali e quella dei difensori. Entrambe crescono, entrambe si alimentano delle stesse tecnologie.
Il problema diventa così estremamente complesso, perché andando di pari passo, le due curve generano un circolo vizioso che si alimenta di vulnerabilità online (molte delle quali, chiaramente, coinvolgono gli utenti) e che richiedono tempo prima di essere corrette, lasciando troppo spazio a truffe.
Ed ecco la soluzione (che fa discutere) che immagina Hansen: una sicurezza costruita per sottosistemi, capaci di difendersi autonomamente, dove l’intelligenza artificiale non aspetta l’intervento umano per reagire a un attacco.
Le evoluzioni del codice malevolo
Ma su quali basi si fonda il discorso di Hansen? È presto detto: sul rapporto AI Threat Tracker realizzato dal Google Threat Intelligence Group, l’unità di analisi delle minacce di Google che integra le competenze di Mandiant, società specializzata in incident response, con la ricerca interna e i dati provenienti da Gemini.
Il report fotografa una transizione ormai avvenuta: dall’uso sperimentale dell’AI da parte dei criminali informatici alla sua applicazione su scala industriale. Il dato più significativo riguarda una prima assoluta: per la prima volta, il GTIG ha identificato un threat actor che ha sviluppato uno zero-day exploit, ovvero una vulnerabilità software sfruttata prima che gli sviluppatori ne siano a conoscenza, usando l’AI.
La vulnerabilità, un sistema per aggirare l’autenticazione a due fattori in una piattaforma open source, era stata progettata per un attacco di massa. La scoperta proattiva di Google avrebbe impedito che venisse effettivamente utilizzata, ma il rapporto descrive anche un’evoluzione preoccupante sul fronte del malware.
L’AI, infatti, sta accelerando lo sviluppo di codice malevolo polimorfico (capace cioè di modificarsi continuamente per sfuggire ai sistemi di rilevamento) e di infrastrutture di offuscamento sofisticate. Tra i casi documentati c’è PROMPTSPY, un malware autonomo in grado di interpretare lo stato del sistema colpito e generare comandi dinamicamente, senza intervento umano.
La cybersicurezza nel futuro
A fronte, dunque, di codici e programmi con intenti negativi che si modificano da soli, è ovvio che Google proponga che l’AI usata quotidianamente (e non solo) sia in grado di fare lo stesso. Succederà? Questo è ancora tutto da stabilire. Di certo, il quadro che emerge dai dati di Google e dalle parole di Hansen è quello di un settore in profonda trasformazione, in cui le categorie tradizionali (attacco e difesa, umano e automatizzato) perdono i contorni a cui eravamo abituati.
Resta il fatto che l’AI non sceglie da che parte stare: amplifica chi la usa meglio. A essere fondamentale è sicuramente la cooperazione tra governi e industria per rendere più sicura, in generare, la vita digitale, che ormai fa parte integrante della vita umana, quotidiana. Sostanzialmente, ora, la sfida è questa: convincere istituzioni, aziende e cittadini che il problema non riguarda un settore tecnico di nicchia, ma le fondamenta stesse del mondo connesso.
FAQ
L'AI automatizza e potenzia tecniche d'attacco, permettendo exploit su scala industriale e malware polimorfici più difficili da rilevare.
Sì: il rapporto GTIG documenta un threat actor che ha usato AI per sviluppare uno zero-day exploit e attacchi di massa.
È un malware autonomo che interpreta lo stato del sistema e genera comandi dinamici senza intervento umano.
L'AI può essere usata per rilevare, reagire e difendere sistemi autonomamente, creando sottosistemi capaci di risposta automatica.
Cooperazione tra governi e industria per proteggere le infrastrutture digitali e rendere sicuro l'uso diffuso dell'AI.
