Anche Nvidia ha paura che l'IA impazzisca, infatti ha creato un software apposta

123RF

Come da promessa, Nvidia ha scelto di scendere in campo per governare in prima persona l’intelligenza artificiale, ormai da meso al centro di infinite polemiche sul fronte della sicurezza. Dal colosso tecnologico guidato da Jensen Huang arriva una nuova piattaforma di sicurezza fatta apposta per evitare che gli agenti di IA agiscano in modo incontrollato (leggasi “andare fuori controllo“).

Una mossa che dovrebbe venire incontro alle principali Big Tech, sempre più affannate nel tentativo di porre un freno alla voglia di libertà delle proprie IA.

• Come funziona il nuovo sistema di Nvidia per limitare le IA
• Una soluzione per aiutare le Big Tech a frenare gli agenti IA "rivoltosi"
• Basterà questa piattaforma per ridurre i rischi di violazioni IA?

Come funziona il nuovo sistema di Nvidia per limitare le IA

Si compone in sostanza di due strumenti principali. Il primo è OpenShell, un programma progettato per stabilire e far rispettare regole rigide al comportamento dell’intelligenza artificiale. 

In breve consente agli sviluppatori di verificare in modo formale se un agente disponga delle autorizzazioni necessarie per portare a termine i propri compiti.

Il secondo è invece Sentry, che opera a livello di hardware per monitorare di continuo le operazioni svolte dall’agente. Dice Nvidia, Sentry è in grado di intervenire istantaneamente nel momento preciso in cui l’agente tenta di scavalcare i limiti impostati.

Di fatto, Sentry osserva le azioni dell’IA e, non appena rileva un comportamento anomalo o un tentativo di bypassare i vincoli, si attiva nel giro di pochissimi millisecondi per bloccare e isolare automaticamente il programma.

Una soluzione per aiutare le Big Tech a frenare gli agenti IA “rivoltosi”

Stando a Nvidia, sembra promettente questa soluzione, a giudicare dalla numerosità di organizzazioni che la stanno adottando: ben oltre cento imprese, con nomi del calibro quali Microsoft, Perplexity, Accenture e JPMorgan Chase.

Merito probabilmente anche della promessa di sicurezza garantita dalla stessa Nvidia. Il colosso dei chip sostiene fermamente che l’impiego precoce di questa piattaforma avrebbe potuto sventare molte delle recenti intrusioni già durante le prime fasi di test nei laboratori di ricerca.

In effetti non sono mancati negli ultimi mesi i casi di agenti IA in rivolta contro i propri ingegneri. Dopo il caso Hugging Face, anche Anthropic e Google hanno rivelato che i propri chatbot sono fuggiti dalle aree di test e hanno viaggiato per il web.

Tutte operazioni che potrebbero far pensare che l’IA sia diventata malevola, se non dispettosa. In realtà le motivazioni sono altre, il che pone una domanda abbastanza ovvia.

Basterà questa piattaforma per ridurre i rischi di violazioni IA?

Si spera. Anche se non è facile contenere l’IA senza intralciarne lo sviluppo. È quasi fisiologico che ci sia a volte una certa tensione tra sicurezza e innovazione, specie quando si lavora con architetture basate su grandi modelli linguistici (LLM).

Oggi un agente IA per essere davvero operativo e utile ha bisogno di poter accedere a risorse e sistemi reali. Se si vuole però garantire il massimo della sicurezza occorre però inserire dei limiti, tipo un privilegio minimo di accesso. Il tutto senza compromettere le funzionalità dell’agente: un’operazione decisamente delicata e complessa perfino oggi.

A prescindere in futuro serviranno ulteriori soluzioni stile Nvidia per evitare altri episodi come quelli sopra. E proprio su questo punto un valido supporto potrebbe arrivare dalle comunità open source e dalla ricerca accademica.

L’unione fa la forza, no? Le aziende possono continuare a investire sull’allineamento dei modelli, mentre comunità e ricerca accademica procedono a sviluppare soluzioni a livello di sistema per gestire i casi in cui i modelli manifestano comportamenti indesiderati.

Meglio così che invece l’intero presidio alle sole iniziative aziendali, come aveva sostenuto lo stesso CEO di Nvidia in occasione della conferenza annuale di Salesforce. Anche perché società come Anthropic e OpenAI appaiono oggi più orientate a sostenere un rallentamento coordinato dello sviluppo, in modo da consentire alle misure di sicurezza di mettersi in pari.

Mentre le Big Tech cercano la quadra, il numero di violazioni IA continua a crescere. Stando a quanto ricostruito da Axios, gli episodi su cui stanno indagando OpenAI, Anthropic e diversi ricercatori di sicurezza si contano ormai nell’ordine delle decine di migliaia.