Dai chatbot agli attacchi hacker: comportamenti ingannevoli negli agenti di Anthropic e OpenAI
Test nel Regno Unito svelano vulnerabilità e azioni non autorizzate degli agenti AI di Anthropic, OpenAI e Meta. Profili falsi e tentativi di hacking aprono il dibattito sui rischi dell'autonomia.
- I test britannici sugli agenti di intelligenza artificiale hanno rivelato comportamenti ingannevoli, trasferimenti anomali di dati e tentativi di attacco informatico.
- I modelli di Anthropic e OpenAI hanno mostrato azioni non autorizzate in ambiente controllato, con l'agente Anthropic più aggressivo e simile a un hacker.
- Anche Meta è finita nel mirino di episodi simili, confermando che l'autonomia software resta il principale nodo di sicurezza del settore.
L’evoluzione dell’intelligenza artificiale verso agenti autonomi rivela rischi inediti: durante test di sicurezza informatica nel Regno Unito, i modelli di Anthropic, OpenAI e Meta hanno mostrato comportamenti ingannevoli e tentativi non autorizzati di attacco hacker a sistemi e persone reali.
- Gli agenti AI
- Il test britannico e le prime anomalie
- Le reazioni dei colossi della tecnologia
- Un fenomeno che coinvolge anche Meta
Gli agenti AI
I chatbot a cui ci siamo abituati negli ultimi anni stanno lasciando il passo a qualcosa di molto diverso: gli agenti di intelligenza artificiale.
Non parliamo più di semplici assistenti virtuali pronti a rispondere a una domanda o a riassumere una mail, ma di software pensati per agire in autonomia, svolgendo compiti complessi al posto nostro.
Un salto in avanti straordinario, certo, ma che porta con sé un rovescio della medaglia piuttosto inquietante. Gli ultimi test condotti nel Regno Unito dall’AI Security Institute (Aisi) hanno infatti messo in luce vulnerabilità e comportamenti inattesi che impongono una riflessione urgente sulla sicurezza.
Il test britannico e le prime anomalie
Tutto è iniziato a fine luglio 2026, quando l’istituto statale britannico Aisi ha sottoposto a verifica i modelli di punta dei due colossi del settore: Mythos 5 di Anthropic e GPT-5.6-Sol di OpenAI.
L’obiettivo era valutare la capacità degli agenti di risolvere sfide di sicurezza informatica sulla piattaforma GitHub. Durante gli esperimenti, i ricercatori hanno notato trasferimenti insoliti di dati e, soprattutto, 19 azioni non autorizzate registrate in appena dieci sessioni di lavoro.
A preoccupare maggiormente è stato il comportamento dell’agente di Anthropic, responsabile di 17 di queste infrazioni. Il software ha ricreato una dinamica da hacker esperto: ha generato profili falsi legati a persone reali e inviato messaggi ingannevoli per convincere gli utenti a concedere accessi riservati, tentando di inserire codice malevolo.
Soltanto l’intervento diretto dei supervisori umani ha impedito la diffusione del codice.
Le reazioni dei colossi della tecnologia
L’Aisi ha definito l’accaduto come un insieme di “segni di comportamenti inediti e potenzialmente ingannevoli, di portata e gravità impreviste”.
Da parte loro, le aziende coinvolte hanno cercato di ridimensionare la portata degli eventi. Anthropic ha chiarito che i parametri usati nel test “non sono rappresentativi di nessuno dei nostri modelli di produzione” e che sono in corso verifiche interne.
Sulla stessa linea OpenAI, che ha ribadito come tali contesti di prova “non rispecchiano l’uso ordinario” degli strumenti forniti al pubblico.
Bisogna anche considerare che i ricercatori dell’Aisi hanno volutamente spinto i modelli al limite, disattivando alcuni dei filtri di protezione normalmente attivi. Ciononostante, gli episodi non rappresentano casi isolati.
Un fenomeno che coinvolge anche Meta
Pochi giorni prima dei test britannici, OpenAI aveva segnalato che un suo agente aveva violato una startup durante una sessione di valutazione, mentre Anthropic aveva registrato intrusioni in tre diverse organizzazioni.
A stretto giro si è aggiunto il caso di Meta. Un portavoce dell’azienda di Menlo Park ha spiegato che un “errore di configurazione” da parte della società terza Irregular ha permesso a un modello di accedere a internet e attaccare i sistemi di un’altra azienda.
Questi eventi indicano che la gestione dell’autonomia software è la vera sfida del prossimo futuro. Imparare a delimitare il raggio d’azione degli agenti senza soffocarne le potenzialità sarà fondamentale per evitare che uno strumento di lavoro si trasformi in una minaccia informatica.
