Libero
INTELLIGENZA ARTIFICIALE

OpenAI, dimissioni e durissimo attacco di un responsabile della sicurezza: "È finito il tempo degli errori"

David Robinson, tra i responsabili della sicurezza di OpenAI, si dimette e accusa: troppa velocità e poche garanzie sulla sicurezza dell'IA

3 min di lettura

App AI iStock

Un altro addio eccellente scuote il mondo dell’intelligenza artificiale. David Robinson, tra i responsabili della sicurezza di OpenAI, ha dato le dimissioni ed è rapidamente passato all’attacco della compagnia. In un saggio pubblicato dalla rivista The Atlantic ha sostenuto che la sua “cultura è rotta”.

Ciò che era la filosofia di un tempo, dunque, è ormai acqua passata. Al centro delle critiche c’è la corsa allo sviluppo di sistemi sempre più potenti, a suo dire senza le dovute garanzie di sicurezza. Una contestazione dolorosa, che colpisce nel segno Sam Altman in una fase molto delicata per la sua creatura.

Chi è David Robinson

L’addio di David Robinson non è una notizia da tutti i giorni. Il motivo è che lui non era un dipendente qualunque. Guidava la stesura dei report di sicurezza che accompagnano i principali lanci di prodotto in OpenAI.

Uno degli esperti più longevi tra quelli attualmente in forze alla società, con i suoi tre anni e mezzo d’esperienza interna. Lasciando il suo ruolo, ha deciso di rendere pubbliche tutte le sue perplessità, con un saggio dal titolo molto eloquente: “Ho lasciato OpenAI perché la sua cultura è rotta”. Di fatto le sue dimissioni sono così state trasformate in un segnale d’allerta per l’intero settore IA.

Le accuse

Il metodo di lavoro, secondo Robinson, è del tutto errato. Si pubblicano i sistemi e li si corregge strada facendo. Un approccio per tentativi ed errori che, a suo avviso, “garantisce” dei fallimenti periodici.

“Il tempo per tentativi ed errori è finito“, ha scritto, sostenendo che le aziende di AI, OpenAI inclusa, non siano “abbastanza prudenti” e diano troppa priorità alla velocità rispetto alla pianificazione della sicurezza. Per spiegarsi meglio, ha fatto ricorso a un confronto netto.

I sistemi AI di frontiera dovrebbero essere trattati come una centrale nucleare o un aeroporto, dice. Spazio a ridondanze e pianificazione rigorosa, e non rilasciati con la logica del “proviamo e vediamo”. Scende poi nel dettaglio e propone esempi, come la violazione dei sistemi della piattaforma Hugging Face da parte di agenti di OpenAI e la scoperta di più “agenti fuori controllo“.

La soluzione? Ritiene non possa arrivare unicamente dall’interno. Occorrono incentivi esterni più forti di quelli attuali e migliori misure di allineamento man mano che i sistemi diventano più capaci. È dunque il momento di prestare davvero attenzione all’IA in termini di controlli, senza delegare tutto a chi ha da guadagnarci.

La replica di OpenAI

Dopo un attacco di queste dimensioni, non c’era da attendersi altro che una repentina risposta di Altman (indirettamente) e OpenAI. L’azienda ha respinto le critiche, elencando le misure adottate per fronteggiare vari scenari. Secondo il portavoce Drew Pusateri, OpenAI sospende l’addestramento quando necessario, ha già rafforzato la sicurezza negli ambienti di ricerca, ampliato il lavoro con valutatori esterni indipendenti e migliorato il monitoraggio in tempo reale.

Tutto ciò però ha un peso minore quando certe critiche provengono da un elemento tanto cruciale della tua squadra. Non si tratta inoltre di un caso isolato. Queste dimissioni giungono poco dopo quelle polemiche di un altro ricercatore: Jacob Coxon. In questo caso parliamo di Anthropic. Una situazione che alimenta il dibattito sempre più acceso su velocità di sviluppo ed effettivo controllo messo in campo.