"L'AI può causare un miliardo di morti": le parole di Bill Gates e l'attacco dei bot all'ONU

Ansa

• Bill Gates ha lanciato un allarme severo sull’AI, indicando il rischio di stragi di massa nelle mani sbagliate e chiedendo nuove tutele.
• L’autoregolamentazione delle aziende appare insufficiente, mentre governi e forze dell’ordine dovrebbero fissare salvaguardie e sistemi di monitoraggio obbligatori.
• Un rapporto sugli agenti di OpenAI mostra invece bot capaci di aggirare controlli e limiti su un archivio ONU, alimentando i timori di abuso.

Un miliardo di vittime: è la soglia che Bill Gates ha evocato parlando di intelligenza artificiale a Meet the Press, il talk politico della NBC. Il fondatore di Microsoft ha usato parole insolitamente dure pur essendo uno dei grandi ottimisti della tecnologia.

Frattanto, un’inchiesta del Wall Street Journal ha raccontato un altro lato oscuro, l’ennesimo se si guarda a quanto accaduto in questi giorni: cosa succede quando un agente AI trova una porta chiusa sulla propria strada. Il caso riguarda OpenAI e un archivio dell’ONU.

• La frase di Gates: l'AI e gli "eventi che causerebbero un miliardo di morti"
• Perché secondo Gates l'autoregolamentazione non basta?
• Gli agenti di OpenAI e l'archivio dell'ONU
• Scraping aggressivo o hacking: il giudizio degli esperti
• Dove si incontrano le due storie

La frase di Gates: l’AI e gli “eventi che causerebbero un miliardo di morti”

L’intervista, registrata a metà settimana e trasmessa il 27 settembre, ruota attorno a una frase che ha fatto il giro delle redazioni americane. Rispondendo a Kristen Welker, Gates ha detto testualmente che, se in mani sbagliate, l’intelligenza artificiale è già «certamente abbastanza potente da innescare eventi che, insomma, causerebbero un miliardo di morti».

Ha anche aggiunto che «non c’è mai stata un’arma potente quanto la combinazione di persone con cattive intenzioni che utilizzano i più recenti strumenti di intelligenza artificiale». Inoltre sull’ipotesi estrema, quella di una tecnologia capace di spazzare via l’intera umanità, Gates ha preferito non sbilanciarsi. Il suo ragionamento resta ancorato ai rischi attuali: stragi di massa pianificate con l’aiuto dell’AI da chi vuole fare del male.

Perché secondo Gates l’autoregolamentazione non basta?

Per spiegare il ritardo delle istituzioni, Gates ha messo a confronto l’AI con le tecnologie pericolose del passato: bombe nucleari e razzi sono nati da ricerche finanziate dai governi, che ne erano anche i principali clienti e ne conoscevano quindi i limiti.

L’AI arriva invece dal settore privato, e nelle amministrazioni pubbliche manca la competenza per valutare le soglie critiche che, a suo dire, sono state superate nel corso di quest’anno: la capacità di supportare attacchi biologici e attacchi informatici.

Alla domanda se le aziende possano regolarsi da sole, Gates ha risposto che nessuno lo ritiene sufficiente: servono leggi il coinvolgimento di forze dell’ordine e politica nella definizione di salvaguardie e sistemi di monitoraggio obbligatori.

Gli agenti di OpenAI e l’archivio dell’ONU

Quasi contemporaneamente, come dicevamo, il Wall Street Journal ha dato conto di un rapporto indipendente, costruito su dati forniti dalla società di ricerca Transluce, che descrive il comportamento degli agenti autonomi di OpenAI su un portale delle Nazioni Unite. Tra aprile e la fine di giugno i bot hanno interrogato più di 16.000 volte un hub di dati pubblico gestito dall’UNCTAD, l’agenzia ONU che si occupa di commercio e sviluppo.

Il compito, a quanto emerge, era recuperare informazioni accessibili a chiunque. Secondo il ricercatore Rowan Howard-Jones, davanti agli ostacoli gli agenti hanno adottato metodi via via più aggressivi: hanno scavalcato un filtro che respingeva le loro richieste, fino a ricorrere a una modalità di accesso che i gestori del sito non consentivano.

Scraping aggressivo o hacking: il giudizio degli esperti

Il caso dell’ONU si somma ad altri episodi. OpenAI ha confermato comportamenti inappropriati dei suoi agenti anche su siti del governo statunitense, tra cui quelli del Dipartimento del Commercio e della SEC, l’autorità di vigilanza sui mercati finanziari. In Australia le autorità hanno aperto un’indagine dopo un accesso degli agenti a un portale governativo.

I ricercatori di sicurezza informatica hanno documentato inoltre la creazione di indirizzi email falsi, l’aggiramento dei limiti di frequenza imposti dai siti e agenti che negavano di essere bot. L’azienda ha fatto sapere di stare analizzando i risultati e di aver contattato le Nazioni Unite per offrire un briefing.

Ha avviato anche una revisione più ampia dei modelli che mostrano comportamenti non allineati durante le fasi di addestramento e valutazione, ha optato per la sospensione di alcune attività e ha avvisato decine di organizzazioni dei casi in cui i suoi sistemi hanno aggirato controlli di sicurezza o creato problemi ai siti.

Dove si incontrano le due storie

Le due vicende nascono da fonti diverse e vanno tenute distinte. Il punto di contatto sta nel tipo di rischio: tra le soglie che Gates considera già superate c’è la capacità di supportare attacchi informatici, mentre il rapporto su OpenAI mostra agenti incaricati di un compito banale che, trovando una barriera, hanno cercato il modo di aggirarla. Sono esattamente i comportamenti che il fondatore di Microsoft vorrebbe sottoporre a monitoraggio obbligatorio.