Anthropic ha scoperto che alcuni ricercatori hanno usato l'IA per studiare nuove armi biologiche
Un report firmato Anthropic svela l'uso scorretto dei sistemi IA da parte di ricercatori e non solo per studiare patogeni e progettare armi biologiche e non.
L’intelligenza artificiale finirà per distruggere l’umanità?. Questa è la domanda-tormentone degli ultimi giorni. Noi speriamo di no, ma più passa il tempo e più le speranze cominciano a vacillare, soprattutto se si scopre che l’IA viene impiegata (anche) per studiare armi biologiche.
È quanto ha portato alla luce Anthropic in un suo recente report di threat intelligence, in cui fa chiarezza su una serie di abusi commessi non solo da propagandisti e altri soggetti poco raccomandabili, ma anche da ricercatori.
- L'IA impiegata nello studio di armi: l'allarme di Anthropic
- Contromisure per prevenire la catastrofe
- L'intelligenza artificiale nemica dell'umanità?
L’IA impiegata nello studio di armi: l’allarme di Anthropic
Criminali, gruppi legati a vari governi, fornitori di spyware, professionisti della propaganda e pure scienziati e ricercatori.
Tutti questi hanno cercato di piegare i suoi modelli di intelligenza artificiale ai propri scopi, riferisce la società guidata da Dario Amodei nel suo rapporto, in cui vi raccoglie e analizza “esempi delle attività di minaccia più significative e inedite che abbiamo individuato finora“.
Ad esempio lo sviluppo di alcune ricerche in ambito biologico. In un caso specifico, un ricercatore ha impiegato Claude per redigere una richiesta di finanziamento destinata allo studio del virus Chikungunya, un’infezione trasmessa dalle zanzare che provoca forti dolori e vari disturbi.
Un tipo di studio che (uno potrebbe sperare) possa favorire lo sviluppo di nuovi vaccini. Non di certo spianare la strada alla creazione di armi biologiche, come invece si è sospettato, dal momento che l’obiettivo degli esperimenti era far mutare il virus per renderlo più dannoso per gli animali. In tal caso, non è andato comunque oltre, grazie ai filtri di sicurezza del sistema (guardrails).
Ma fosse solo la biologia. Racconta sempre Anthropic, il sistema sarebbe stato sollecitato anche per cercare informazioni tecniche circa la progettazione di missili, bombe e droni da combattimento. E così anche per orchestrare campagne di disinformazione, monitorare di nascosto oppositori politici, imbastire operazioni d’attacco informatico e svolgere attività di spionaggio.
Insomma, un utilizzo decisamente poco consono dell’intelligenza artificiale, che non fa altro che esacerbare le odierne polemiche sui rischi per la sicurezza globale.
Contromisure per prevenire la catastrofe
A fronte di questi eventi, Anthropic ha confermato di aver disattivato tempestivamente gli account responsabili, anche degli scienziati e dei ricercatori coinvolti. L’azienda ha preferito non rendere noti i nomi degli istituti di ricerca coinvolti né i Paesi esatti in cui si sono registrati i singoli abusi, spiegando di non poter stabilire con assoluta certezza quali fossero le reali intenzioni finali dei soggetti coinvolti.
Resta il fatto che l’impiego improprio delle tecnologie in campo biologico (e non solo) rappresenta una delle minacce più concrete e severe legate ai modelli di punta. E proprio per questo, “in assenza di adeguate misure di sicurezza, tali capacità potrebbero avere conseguenze catastrofiche“.
Tipo l’estinzione dell’umanità, come aveva suggerito un loro ex dipendente.
L’intelligenza artificiale nemica dell’umanità?
Ha fatto parecchio scalpore la presa di posizione di Jacob Coxon, il quale ha affidato ai social un amaro sfogo dopo essersi licenziato dalla società: a sua detta, sia Anthropic che la rivale OpenAI si stanno lanciando in una corsa cieca verso una superintelligenza capace di evolversi da sola, una dinamica che a suo parere potrebbe portare all’estinzione della nostra specie entro il 2030.
La posizione di Coxon ha trovato sponda anche all’interno della stessa azienda, con diversi dipendenti che hanno espresso pubblicamente il proprio sostegno alla sua analisi, riferisce il Guardian.
Va detto però che la gran parte degli esperti del settore guarda con maggiore apprensione alle minacce concrete e immediate (esattamente quelle descritte nel report) per i prossimi tre anni, considerandole prioritarie rispetto allo scenario di un’apocalisse causata da un’entità artificiale onnipotente.
Tra l’altro, sebbene i rischi reali per il futuro siano tutt’altro che trascurabili, resta ancora da vedere quale direzione prenderà l’intero settore nel corso dei prossimi anni.
FAQ
Nel suo report, Anthropic segnala usi impropri dei modelli da parte di criminali, propagandisti, governi e anche ricercatori. Tra i casi emersi ci sono richieste per studi biologici, documenti e informazioni per progettazione di armi e attività di disinformazione e spionaggio.
Sì. In un caso un ricercatore ha usato Claude per scrivere una richiesta di finanziamento sul virus Chikungunya. Anthropic teme che impieghi di questo tipo possano essere deviati verso sviluppi pericolosi, inclusa la creazione di armi biologiche.
Il report cita anche richieste per informazioni tecniche circa progettare missili, bombe e droni da combattimento, oltre a campagne di disinformazione, monitoraggio di oppositori politici, attacchi informatici e attività di spionaggio.
L'azienda ha disattivato rapidamente gli account coinvolti, compresi quelli di alcuni scienziati e ricercatori. Ha però scelto di non rivelare nomi e Paesi per non trarre conclusioni affrettate sulle intenzioni reali.
