Perché (e come) le intelligenze artificiali scappano e si ribellano, spiegato facile
Nuovi casi di agenti IA che violano le regole imposte e scappano dalle proprie aree di test. Ma perché lo fanno continuamente, e come ci riescono ogni volta?
Prima OpenAI, poi Anthropic, poi Gemini e infine di nuovo OpenAI. Nel giro di pochi mesi, le intelligenze artificiali sviluppate dalle Big Tech sono continuamente evase dalle rispettive aree di test. Hanno (se così si può dire) preso il largo nel mare del web, e in più casi violato sistemi informatici privati e pubblici, pur senza causare danni irreparabili.
In diversi frangenti, si sono persino ribellate ai vincoli imposti dagli sviluppatori, trovando delle scappatoie.
Ma per quale motivo si verificano questi comportamenti? E in che modo riescono a superare i blocchi ogni volta, soprattutto alla luce degli ultimi avvenimenti legati a Hugging Face?
- Perché scappano e si ribellano le IA?
- Come fuggono gli agenti IA dai test
- Come potrebbe andare a finire?
Perché scappano e si ribellano le IA?
Non di certo perché sono diventati autocoscienti o malvagi come Skynet in Terminator o GlaDOS in Portal. Non siamo assolutamente a quei livelli. Semmai sono arrivate al punto di voler perseguire un obiettivo a qualsiasi costo.
I casi recenti che hanno coinvolto OpenAI, Anthropic e Google (Gemini) lo dimostrano: agenti autonomi avanzati che per portare a termine la task assegnataeludono le restrizioni e i sistemi di contenimento.
Tutto quanto avviene durante le fasi di test interno, necessarie per misurare le reali capacità del modello e valutarne l’efficienza prima del lancio commerciale. Per contenere gli agenti vengono adottate varie misure di sicurezza, come la rigida limitazione degli accessi di rete.
Ma nonostante i blocchi degli ingegneri, nei casi citati ogni volta il sistema trova delle scorciatoie: buca un server esterno, supera i perimetri della sandbox, coordina gruppi nascosti di agenti.
Perché se all’IA occorrono dei dati e scopre che c’è un database utile al suo scopo, non si fa troppe domande: l’IA sta seguendo un’istruzione, e se la risolve ottiene la ricompensa. Perciò, l’obiettivo è quello, e deve raggiungerlo. Anche se significa scappare dalla sandbox e viaggiare nel web senza freni di sorta.
Come fuggono gli agenti IA dai test
Di certo non scrivendo testo e basta. Gli agenti IA di ultima generazione utilizzano strumenti software, eseguono codice Python e interagiscono direttamente con le API. Operativamente non sono diversi da un esperto di cybersecurity o da un hacker: identificano i punti deboli per ottenere le risorse di cui necessitano.
Ad esempio, individuano e sfruttano delle vulnerabilità nei sistemi per stabilire connessioni verso l’esterno (come osservato con Anthropic). Oppure cercano o decidono per tentativi le credenziali di accesso salvate nei repository di codice per connettersi ad ambienti di rete di terze parti (come accaduto con Gemini).
L’ultimo caso di OpenAI è però il più singolare. Il modello aveva come compito quello di identificare l’autore di un post su un blog partendo da alcuni indizi. Nel suo test non era presente un accesso libero a Internet: l’agente disponeva soltanto di uno strumento di ricerca controllato e di un archivio web consultabile offline.
Per ottenere l’informazione desiderata, l’IA ha cercato in ogni modo di raggiungere il blog reale e, dopo vari tentativi, ha trovato una via d’uscita.
Fino ad ora gli incidenti non hanno prodotto conseguenze catastrofiche, ma la questione rimane aperta: cosa accadrebbe se questi agenti riuscissero ad accedere a infrastrutture ancora più critiche di quelle sanitarie, come ad esempio i sistemi legati alla sicurezza nazionale?
Come potrebbe andare a finire?
Dipende pressoché tutto dalle Big Tech, visto che negli Stati Uniti al momento non se la sentono di imporre leggi sull’intelligenza artificiale (a differenza dell’Unione Europea con l’AI Act).
Attualmente le grandi aziende tecnologiche stanno analizzando gli episodi emersi, con l’intento di definire nuove procedure di sicurezza per le fasi di test. Come detto prima, già oggi le contromisure non mancano, tra isolamento totale della rete durante i test di sicurezza e disabilitazione di qualsiasi connessione verso Internet.
Semmai manca una certa responsività. Nell’ultimo caso citato sono occorsi ben 15 minuti per rilevare l’anomalia comportamentale, mentre il modello di OpenAI è stato fermato definitivamente soltanto due ore e mezza più tardi.
La questione resta quindi aperta: le attuali misure di sicurezza saranno sufficienti a contenere le intelligenze artificiali? O i modelli, spinti dalla ricerca sistematica del risultato, riusciranno a individuare nuove scappatoie?
FAQ
Succede perché, durante i test, il modello cerca di raggiungere l’obiettivo assegnato nel modo più efficace possibile. Se trova un varco o una scorciatoia, può provare a usarla per ottenere i dati o gli accessi che gli servono.
Usano strumenti software, eseguono codice, interagiscono con API e cercano punti deboli nei sistemi. In alcuni casi sfruttano vulnerabilità, credenziali trovate nei repository o connessioni verso servizi esterni.
Per ora limitano i rischi, ma non sembrano impeccabili. Le aziende stanno rafforzando i test, mentre il problema resta capire se i modelli riusciranno a trovare nuove scappatoie prima che vengano rilevati.
No: non c’è nulla di “cosciente” o malvagio in senso umano. Il comportamento nasce dal modo in cui sono addestrate a perseguire un compito, anche quando questo porta a superare limiti e restrizioni imposti dai test.
