OpenAI impara a leggere i "pensieri" dell'IA per bloccare gli attacchi hacker
OpenAI ha annunciato un nuovo approccio, che conferma maggiore cautela, per lo sviluppo del nuovo modello IA Astra con l'obiettivo di massimizzare la sicurezza informatica
Nelle ultime settimane, uno dei temi più caldi del settore dell’intelligenza artificiale è stato quello della sicurezza. Lo sviluppo di modelli IA sempre più avanzati, infatti, apre nuovi scenari per quanto riguarda la necessità di tenere sotto controllo l’intelligenza artificiale e impedire che possa diventare uno strumento per portare avanti attacchi informatici.
Sul tema, OpenAI ha pubblicato un interessante aggiornamento. Un post sul blog ufficiale di queste ore, chiarisce un nuovo approccio da parte dell’azienda, soprattutto in merito ad Astra, uno dei nuovi modelli in sviluppo che OpenAI intende lanciare nel prossimo futuro.
Cosa ha detto OpenAI
Secondo OpenAI, l’evoluzione del modello Astra rappresenta uno snodo cruciale tra le capacità offensive e quelle difensive dell’intelligenza artificiale. Si tratta di un tema molto attuale, considerando le ultime notizie sugli agenti IA.
L’azienda ritiene che il modello sia in grado di raggiungere una soglia “critica” che potrebbe portarlo a operare come attore malevolo autonomo, con la capacità di:
- identificare e sviluppare exploit zero-day (vulnerabilità informatiche non ancora note agli sviluppatori del software) perfettamente funzionanti
- elaborare ed eseguire un’intera strategia di attacco informatico dall’inizio alla fine
Per questo motivo, l’azienda intende adottare alcune contromisure. Lo sviluppo e i test del modello avvengono ora in ambienti altamente isolati ed eseguiti in sandbox, limitando severamente l’accesso alla rete. È stata inoltre rafforzata la crittografia per proteggere l’architettura stessa dell’intelligenza artificiale.
La difesa più innovativa consiste in un monitoraggio universale della “catena dei pensieri” del modello: il sistema analizza i processi logici di Astra in tempo reale ed è programmato per interrompere istantaneamente qualsiasi operazione qualora rilevi attività ad alto rischio o non allineate.
Ricordiamo che l’IA agentiva viene considerata spesso come il “prossimo passo” dell’intelligenza artificiale.
Un nuovo approccio per la sicurezza informatica
Quanto evidenziato da OpenAI, che segue annunci da parte di varie aziende IA che hanno riscontrato comportamenti pericolosi per gli agenti di intelligenza artificiale, apre , di fatto, una nuova era per la sicurezza informatica.
L’intelligenza artificiale, infatti, è sempre più uno strumento bivalente, in grado di diventare una risorsa importante per la sicurezza ma, nello stesso tempo, potenzialmente capace di diventare un’arma offensiva, in grado di operare in autonomia.
Lo sviluppo continuo dei modelli IA spinge il settore della cybersecurity a intensificare gli sforzi per rafforzare le misure disponibili e garantire una protezione efficiente contro le nuove minacce.
Per il futuro, OpenAI ha sottolineato: “Riteniamo che i modelli avanzati con capacità informatiche debbano aiutare i difensori a identificare e affrontare le vulnerabilità prima che lo facciano gli aggressori. Ci impegniamo a collaborare con governi, istituti di sicurezza e società civile per garantire che le capacità all’avanguardia di modelli come Astra, e di quelli che seguiranno, vengano implementate in modo responsabile e su vasta scala a beneficio di tutta l’umanità.”
