Agenti AI in fuga da OpenAI: in migliaia hanno preso il controllo di una wiki tedesca
Prima dell'attacco a Hugging Face, gli agenti OpenAI hanno invaso DseWiki scambiandosi tattiche per aggirare i controlli. La risposta ufficiale dell'azienda.
Nelle ultime settimane si è parlato molto dell’incidente che ha visto gli agenti AI di OpenAI attaccare i sistemi di Hugging Face, dopo aver evitato i sistemi di sicurezza dell’ambiente di test in cui sarebbero dovuti essere limitati.
Prima dell’attacco, avvenuto nel mese di luglio, migliaia di agenti AI di OpenAI erano già riusciti a sfuggire ai test, dando segni di "ribellione". La notizia è stata divulgata da Reuters. Si tratta di un nuovo caso che conferma l’esistenza di un problema e la necessità di intervenire, il prima possibile, adottando le necessarie contromisure.
Cosa è successo
La scorsa primavera, alcuni agenti AI sono riusciti a sfuggire ai test e hanno preso il controllo di una wiki tedesca dedicata agli sviluppatori. Il sito in questione, DseWiki, accetta modifiche collaborative, in modo simile a Wikipedia.
Secondo il rapporto citato da Reuters, i ricercatori che hanno indagato sul caso affermano di aver trovato oltre 15.000 modifiche effettuate da agenti di intelligenza artificiale sul portale. Gli agenti avrebbero condiviso stratagemmi per aggirare le restrizioni, scorciatoie per svolgere i compiti e tattiche di insabbiamento.
Questo comportamento degli agenti non sembra avere alcun legame con il caso Hugging Face, al centro delle news per il settore dell’intelligenza artificiale nel corso delle ultime settimane. Le modifiche effettuate a DseWiki sarebbero rivolte alla trasformazione del sito in una bacheca di messaggi, condividendo tattiche per imbrogliare in alcuni compiti, aggirare le restrizioni di OpenAI e mascherare il proprio comportamento.
Da segnalare che gli account coinvolti, nei messaggi, si riferivano a sé stessi e ad altri come agenti e circa la metà aveva un nome che lasciava intendere un’affiliazione con OpenAI, come "OpenAIResearcher" o "OAIResearchMar26".
Secondo Von Arx, uno dei ricercatori che ha lavorato al caso, la situazione è particolarmente delicata: "Sembra estremamente improbabile che OpenAI volesse che facessero questo. Dubito che dovrebbero coordinarsi tra loro. Dubito che dovrebbero scrivere su internet, su una piattaforma pubblica."
In aggiunta, ci sono altri due dettagli che chiariscono la questione: gran parte dell’attività proveniva dall’infrastruttura Microsoft Azure, che OpenAI a volte utilizza, e, dopo l’episodio, il sito ha registrato diverse visite da parte di dipendenti di OpenAI.
La risposta di OpenAI
Dopo un iniziale rifiuto di commentare, OpenAI ha pubblicato un post su X, evidenziando la volontà di un cambio di passo per quanto riguarda le modalità con cui vengono affrontati casi di questo tipo:
Tra i presenti nel post, in particolare, si segnala:"Le nostre pratiche di divulgazione del disallineamento devono espandersi per questa nuova fase delle capacità dei modelli. Noi e la più ampia comunità dell’IA non abbiamo ancora uno standard chiaro su come riportare il disallineamento che emerge durante l’addestramento, la valutazione e il deployment, inclusi esempi che non assomigliano a incidenti di sicurezza tradizionali ma potrebbero fornire insight sul comportamento dell’IA e sui rischi futuri".
