AI e sicurezza informatica, gli strumenti di Google contro il cyber crimine

In Sintesi

• Google ha lanciato nuove iniziative che sfruttano l’intelligenza artificiale per migliorare la sicurezza informatica.
• CodeMender è un agente IA che trova e corregge automaticamente le vulnerabilità del codice.
• L’AI Vulnerability Reward Program vuole incentivare la segnalazione di vulnerabilità legate all’IA.
• L’aggiornamento del framework di sicurezza a Secure AI Framework 2.0 con nuove linee guida per gli agenti IA autonomi.

L’intelligenza artificiale è una delle tecnologie più rivoluzionarie del nostro tempo, ma anche una delle più complesse da gestire. Se da un lato ha portato una ventata di innovazione in settori come la sanità, la ricerca e la produttività, dall’altro è diventata un’arma a disposizione dei criminali informatici portando ad attacchi sempre più sofisticati e difficili da contrastare.

Per questo motivo, Google ha annunciato una serie di iniziative che puntano a sfruttare l’AI come uno strumento cruciale per la sicurezza informatica e, tra le novità annunciate dal colosso u Mountain View, ci sono CodeMender, un agente AI per la sicurezza del codice, il Programma AI VRP per la segnalazione di vulnerabilità legate all’intelligenza artificiale e la nuova versione del Secure AI Framework, aggiornato a SAIF 2.0.

Tutte le novità di Google per la sicurezza informatica

CodeMender è un agente AI che utilizza le capacità di ragionamento avanzato di Gemini per individuare e correggere automaticamente vulnerabilità nel codice, riducendo drasticamente i tempi necessari per la creazione e l’applicazione delle patch di sicurezza.

Non si limita a identificare i punti deboli, ma è in grado di comprendere la causa di un errore grazie a un approccio diagnostico evoluto, applicando patch “auto-convalidate”. Tali correzioni vengono poi sottoposte a una verifica umana finale, garantendo un equilibrio tra efficienza automatica e controllo di qualità.

L’AI Vulnerability Reward Program (AI VRP), un’iniziativa che mira a coinvolgere la comunità internazionale di ricercatori e specialisti nella scoperta di vulnerabilità legate all’uso dell’IA.

Il programma si occupa sia di rischi di sicurezza informatica sia di quelli di abuso algoritmico, stabilendo un sistema di incentivi economici proporzionato alla gravità e all’impatto delle segnalazioni. L’obiettivo finale è creare una rete di collaborazione globale in cui il contributo dei singoli utenti diventa un elemento centrale per la sicurezza collettiva.

Infine Google ha aggiornato il proprio Secure AI Framework (SAIF) alla versione 2.0, con l’obiettivo di affrontare i rischi emergenti legati agli agenti AI autonomi. Questa evoluzione introduce nuove linee guida per la progettazione sicura dei sistemi intelligenti, concentrandosi su tre elementi principali:

• Agent Risk Map, una mappa interattiva per identificare e analizzare le minacce provenienti da agenti IA autonomi
• Capacità di Sicurezza degli Agenti, un insieme di principi per garantire che i modelli siano sicuri limitando le loro azioni e integrando un controllo umano
• Collaborazione con CoSAI, la condivisione dei dati della Agent Risk Map con la Coalition for Secure AI Risk Map Initiative, per favorire la cooperazione tra istituzioni, aziende e centri di ricerca.

L’AI è già il futuro della sicurezza informatica

Le novità introdotte da Google rappresentano la naturale evoluzione della sicurezza informatica, dove l’intelligenza artificiale sarò protagonista assoluta dei sistemi di difesa del futuro.

Big G sta collaborando con enti come la DARPA e altre aziende del settore per definire un modello di sicurezza basato su IA proattive, in grado di anticipare gli attacchi e di reagire in tempo reale alle minacce emergenti.

Come ha sottolineato dal colosso della tecnologia, l’obiettivo è “ribaltare radicalmente l’equilibrio della sicurezza informatica a favore dei difensori”, costruendo un ecosistema in cui innovazione e protezione procedano di pari passo.