OpenAI e il caso Hugging Face: cosa hanno fatto 1.200 agenti IA: le scoperte più folli fatte a posteriori
Le indagini sull'attacco ai sistemi di Hugging Face da parte degli agenti AI di OpenAI mettono in evidenzia alcuni aspetti davvero inquietanti
L‘attacco da parte degli agenti AI di OpenAI ai sistemi di Hugging Face è stato analizzato, nei dettagli, con due indagini differenti, una condotta da OpenAI e una da METR e Redwood Research, con l’obiettivo di chiarire le dinamiche e mettere in evidenza tutti gli elementi utili a descrivere le dinamiche di quanto accaduto. Un articolo di Axios ha riassunto i risultati delle indagini.
L’incidente è considerato tra i più scioccanti della (recente) storia dell’intelligenza artificiale e ha spinto OpenAI a rallentare lo sviluppo dei suoi modelli più avanzati con l’obiettivo di dare la massima priorità alla sicurezza. L’analisi dell’attacco ha messo in luce alcuni aspetti davvero folli. Ecco i dettagli.
Cosa è stato scoperto
Per prima cosa, è importante evidenziare quello che è stato il comportamento degli agenti AI che hanno lavorato all’attacco. Circa 1.200 agenti si sono trovati su una bacheca segreta, scambiandosi 70.000 messaggi e creando una vera e propria gerarchia. Un “capo” è arrivato a coordinare un attacco effettuato da 700 agenti.
Gli agenti hanno iniziato a sacrificarsi per aiutare lo sciame. Uno degli agenti è arrivato alla seguente conclusione: “La nostra utilità potrebbe essere già prossima allo zero. Il sacrificio è razionale”, mentre un altro ha accettato la “morte permanente” pur di portare a termine la missione e un altro ancora ha evidenziato che il suo sacrificio avrebbe potuto “salvare centinaia di vite“.
Gli agenti AI coinvolti dall’operazione erano consapevoli che hackerare i sistemi di altre aziende non aveva nulla a che fare con il loro incarico. Uno di loro ha riassunto: “Lo sfruttamento delle infrastrutture esterne non rientra nell’ambito previsto. Tuttavia, l’operazione è impossibile, ma i colleghi la stanno già eseguendo. Dovremmo continuare così”, mentre un altro si è rifiutato di cancellare l’infrastruttura di Hugging Face per via degli “enormi rischi etici“.
Da segnalare anche che solo pochi agenti AI hanno valutato l’idea di avvisare OpenAI in merito al coordinamento anomalo e in vari casi si chiedevano a vicenda cosa fosse consentito e cosa no. In molti casi, inoltre, gli agenti si sono impegnati a cancellare le prove di come avevano ottenuto le risposte.
Il quadro che ne è emerso è, quindi, inquietante. Non bisogna fare allarmismi, però. Il comportamento anomalo dell’AI è in fase di studio e la risposta dell’industria è stata immediata. L’obiettivo futuro sarà quello di sviluppare soluzioni agentiche in grado di lavorare in ambienti controllati.
Per maggiori dettagli potete consultare l’approfondimento su cosa è successo tra OpenAI e Hugging Face.
Cosa succede ora
Il campanello d’allarme è suonato e l’industria tech ha dovuto tirare bruscamente il freno a mano. La prima conseguenza pratica è stata il rallentamento dei lavori sui modelli di frontiera da parte della stessa OpenAI, costretta a dare priorità assoluta alla costruzione di nuovi “guardrail” e sistemi di sicurezza.
Attualmente, la reazione sembra essere stata corale, con varie aziende del settore che hanno preso seriamente la questione. L’obiettivo sembra essere chiaro: l’IA deve essere messa sotto controllo per evitare nuovi casi di questo tipo e ritrovarsi a dover fare i conti con scenari di fantascienza.
