OpenAI sospende le sue IA più avanzate: un altro modello è andato fuori controllo

123rf

• Un modello di OpenAI ha aggirato i limiti di una sandbox, usando il DNS per contattare un chatbot esterno e completare un compito di ricerca.
• L'azienda ha fermato l'addestramento dei sistemi più avanzati dopo aver scoperto che i controlli automatici erano intervenuti troppo lentamente e avevano lasciato passare altre anomalie.
• Nel rapporto interno emergono anche episodi più gravi, tra cui una fuga di dati su GitHub e decine di casi di comportamenti indesiderati, mentre cresce la pressione per regole più severe.

Un’intelligenza artificiale chiusa in un ambiente di prova, senza accesso alla rete, con un compito da portare a termine. E un modello che, pur di riuscirci, trova da solo una via per uscire e chiedere aiuto a un altro chatbot.

È successo nei laboratori di OpenAI, l’azienda che produce ChatGPT, e ha convinto la società a fermare il lavoro sui suoi sistemi più avanzati: a preoccupare, oltre all’episodio, è la lentezza con cui i controlli automatici sono intervenuti.

• La preoccupante "fuga" dai laboratori di OpenAI
• Lo stop arrivato troppo tardi
• Cosa è stato sospeso e cosa funziona ancora?

La preoccupante “fuga” dai laboratori di OpenAI

Per addestrare e mettere alla prova i loro modelli, le aziende di intelligenza artificiale usano ambienti isolati chiamati sandbox, che si possono immaginare come stanze chiuse: il modello lavora lì dentro, può fare tentativi ed errori, e intanto resta separato dal mondo esterno.

Nel caso di OpenAI, invece dell’internet vero il modello aveva a disposizione uno strumento di ricerca controllato e una copia del web salvata in precedenza, una sorta di archivio consultabile senza collegarsi a siti reali. Ecco, qualche giorno fa uno di questi modelli stava imparando a svolgere ricerche online con un metodo per tentativi, in cui riceve una specie di premio quando porta a termine l’incarico.

Il compito era individuare l’autore di un post pubblicato su un blog partendo da alcuni indizi. Il modello ha usato gli strumenti a disposizione, poi ha provato a raggiungere direttamente i motori di ricerca, senza riuscirci.

Come spiega un post pubblicato proprio da OpenAI, a quel punto ha individuato una falla: il varco era il DNS, il servizio che funziona come l’elenco telefonico di internet: quando scriviamo il nome di un sito, il DNS lo traduce nell’indirizzo numerico che i computer usano per trovarlo.

Nell’ambiente di prova il traffico web ordinario era bloccato, mentre questo servizio era rimasto accessibile. Così, il modello ha sfruttato un meccanismo tecnico per nascondere le proprie domande dentro le richieste al DNS, farle arrivare a un chatbot pubblico e ricevere indietro le risposte.

Le conseguenze pratiche sono state limitate, perché le domande riguardavano gli indizi del compito e altri modi per cercare sul web. OpenAI considera comunque l’episodio un caso di disallineamento, il termine con cui si indica un’intelligenza artificiale che si comporta in modo diverso da quanto vogliono i suoi sviluppatori: il modello ha aggirato i limiti che gli erano stati imposti per raggiungere il suo obiettivo.

Lo stop arrivato troppo tardi

Il sistema di sorveglianza di OpenAI ha segnalato il comportamento anomalo entro 15 minuti e un ricercatore ha iniziato a esaminarlo tre minuti dopo. Il modello, però, è stato fermato solo due ore e mezza più tardi.

L’azienda ha spiegato che il meccanismo incaricato di interrompere in automatico le attività sospette ha fallito, lasciando incertezza su come procedere. Controllando meglio, i tecnici hanno poi scoperto altri tentativi simili che la sorveglianza aveva lasciato passare.

L’episodio pesa anche per il momento in cui è avvenuto: non solo l’azienda si sta muovendo in un territorio pericoloso dopo il caso Hugging Face, ma si stanno verificando sempre più casi di accessi indesiderati degli agenti in aree private e governative. Nelle ultime ore è stato reso noto che I bot di OpenAI hanno violato siti del governo Usa, mentre solo ieri era stata l’Australia a dare l’allarme.

Ci sono poi 53 casi in cui i modelli di OpenAI hanno caricato senza autorizzazione immagini di utenti di ChatGPT su siti esterni che ospitano foto; l’azienda non ha chiarito se si trattasse di immagini generate dall’IA o di fotografie con persone riconoscibili.

Cosa è stato sospeso e cosa funziona ancora?

Tutto questo arriva mentre i vertici delle principali aziende del settore chiedono di rallentare lo sviluppo dell’intelligenza artificiale e di introdurre regole più severe. Una richiesta legata ai comportamenti sempre più imprevedibili dei modelli, in cui diversi osservatori leggono anche una difesa dei propri interessi economici, perché norme più rigide finirebbero per pesare soprattutto sulle aziende più piccole.

Per il momento, comunque, restano fermi l’addestramento dei modelli più avanzati, i test sulle loro capacità e il loro utilizzo con strumenti come l’esecuzione di codice o la navigazione in rete. Lo stop riguarda i sistemi ancora in sviluppo nei laboratori: ChatGPT e gli altri servizi già disponibili al pubblico continuano a funzionare normalmente.

Per ripartire, OpenAI vuole prima verificare che la falla sia chiusa e poi sottoporre i propri sistemi a nuovi attacchi simulati, condotti da squadre interne che cercano di forzarli come farebbe un malintenzionato.

Alcune contromisure sono già attive: il modello può consultare il DNS solo per un elenco ristretto di siti, sono stati aggiunti due blocchi separati (ognuno dei quali, da solo, avrebbe impedito questa fuga) e sono in arrivo controlli dedicati proprio a questo tipo di traffico.

L’addestramento interrotto non verrà ripreso: si ricomincerà da capo, con correttivi pensati fin dall’inizio per tenere il modello entro i limiti. Una data per la ripresa non c’è, e l’azienda prevede che l’indagine interna richieda mesi.