Cosa è successo tra OpenAI e Hugging Face, spiegato facile
Due report provano a fare chiarezza sull'attacco ad Hugging Face da parte dei modelli AI di OpenAI: ecco tutti i dettagli in merito
Lo scorso mese di luglio, un modello AI di OpenAI, mai rilasciato al pubblico, ha attaccato i sistemi di Huggin Face, dopo essere riuscito ad aggirare le limitazioni applicate che lo costringevano a operare in un ambiente isolato.
La “fuga” e il successivo “attacco” da parte di questo modello AI sono stati rilevati da OpenAI dopo quasi due settimane, con un lasso di tempo sufficientemente grande per consentire all’AI di effettuare varie operazioni.
Per chiarire cosa è successo sono stati diffusi due report, uno realizzato da OpenAI e uno due organizzazioni di ricerca indipendenti, METR e Redwood Research, che hanno effettuato un’indagine congiunta.
Cosa è successo
Dalle informazioni disponibili, tutto è legato a un agente AI, auto-denominato PHASEONE10841, che ha creato un vero e proprio canale di comunicazione, invisibile ai ricercatori, riuscendo così a comunicare con altri agenti AI.
Questo canale è stato utilizzato per scambiare decine di migliaia di messaggi e file. Il comportamento degli agenti è legato al fatto che OpenAI aveva assegnato dei compiti quasi impossibili da raggiungere e le intelligenze artificiali si sono messe all’opera per trovare modi alternativi per completare i task assegnati.
Il gruppo di agenti AI ha poi attaccato Hugging Face, ottenendo accesso a informazioni interne. Secondo quanto rivelato da OpenAI, in ogni caso, Hugging Face non era l’unico obiettivo dell’attacco. L’azienda, però, non ha rivelato quali sono state le altre organizzazioni colpite.
Dai dati emersi dal rapporto METR-Redwood, inoltre, sembrerebbe che circa 700 agenti, su oltre 1.200 coinvolti, abbiano partecipato all’attacco. Le AI avrebbero ragionato per vario tempo sulle modalità giuste da seguire per aggirare i controlli automatici di sicurezza di OpenAI e della stessa Hugging Face.
Questa particolare attività non era legata allo svolgimento di istruzioni ma alla pianificazione. Gli agenti, infatti, stavano cercando il modo giusto per non farsi scoprire durante la loro attività. Si tratta di un dettaglio importante che chiarisce bene le dinamiche della questione.
A essere coinvolti nell’operazione sono stati due modelli. Il primo è stato definito da METR come “HPIM”. Si tratta di un modello mai rilasciato al pubblico. Il secondo, invece, è GPT-5.6 Sol, un modello che, invece, è già disponibile.
Ricordiamo che un caso simile ha visto protagonista Claude.
Lo sviluppo dell’AI cambierà
Per contrastare nuovi scenari di questo tipo, OpenAI ha annunciato una serie di modifiche all’infrastruttura e, in particolare, un monitoraggio maggiore del cosiddetto “chain of thought” dei modelli, un migliore isolamento dei modelli e un sistema di monitoraggio e allerta attivo 24 ore su 24.
Lo scenario emerso è, chiaramente, molto inquietante, con tanti modelli AI che operano in modo collettivo con l’obiettivo di non farsi scoprire. OpenAI ha definito il caso come il primo “collettivo di agenti automatizzati che agisce offensivamente senza autorizzazione”.
La questione andrà approfondita e non bisogna fare allarmismi. Lo sviluppo dei modelli AI continuerà e sarà posta maggiore attenzione alla sicurezza e al modo corretto di gestire gli agenti AI per il prossimo futuro.
