Allarme da Anthropic: “Serve rallentare l’AI prima che inizi a migliorarsi da sola”

123RF

La velocità con cui l’AI sta evolvendo è a dir poco impressionante. Nemmeno tre anni fa era buona al massimo per scrivere qualche testo elementare; oggi invece è già in grado di rivoluzionare settori come la cybersicurezza e la medicina.

Se va avanti così, potrebbe addirittura diventare autonoma, e auto-migliorarsi.

E questo sarebbe un problema, a detta di Jack Clark, co-fondatore di Anthropic, che in una recente intervista ha caldamente “consigliato” di rallentare quest’evoluzione.

• Anthropic chiede un freno sullo sviluppo dell'intelligenza artificiale
• Quali potrebbero essere le implicazioni
• C'è il rischio che l'AI diventi auto-migliorante?

Anthropic chiede un freno sullo sviluppo dell’intelligenza artificiale

Ai microfoni di BBC Newsnight, Clark è stato molto diretto: la tecnologia sta avanzando verso un punto in cui potrebbe evolversi senza più l’intervento umano.

Per questo, secondo lui, sarebbe necessario fermarsi. “Vogliamo avere la possibilità di togliere il piede dall’acceleratore e mettere quello sul freno“, anche perché “al momento, è come se l’industria dell’IA avesse un pedale dell’acceleratore, ma non quello del freno“.

Lo dimostrano gli sviluppi del loro chatbot, Claude, diventato in pochi anni una delle intelligenze artificiali più avanzate al mondo. E anche una delle più “attenzionate” nel panorama mondiale, specie dopo il controverso caso di Claude Mythos, che fin dal suo debutto ha sollevato notevoli preoccupazioni tra governi e banche centrali per le sue possibili conseguenze nel campo della cybersicurezza.

E questo con un’intelligenza già programmata: figuriamoci con una che si auto-migliora. Tra l’altro, Claude, secondo quanto riportato, è già oggi in grado di operare con un codice di cui circa l’80% è stato scritto autonomamente dal sistema. Raggiungere il 100% nei prossimi due anni è un’ipotesi concreta, ha spiegato Clark, e questo “avrebbe enormi implicazioni”.

Quali potrebbero essere le implicazioni

Le possibili conseguenze, secondo Clark, sono diverse. La prima riguarda la possibile perturbazione dell’economia, con il rischio che tecnologie basate su IA come gli “agenti” possano sostituire alcune mansioni lavorative.

In effetti, le principali aziende tecnologiche hanno effettuato licenziamenti di massa nell’ultimo anno, spesso giustificandoli proprio con la crescente capacità degli strumenti di IA di svolgere attività che prima richiedevano il lavoro di centinaia o migliaia di ingegneri software.

Però non tutto è perduto. Secondo Clark, le persone capaci di generare idee originali e di alta qualità potrebbero in realtà avere un vantaggio sulla tecnologia IA. “Le persone creative e con una mentalità aperta, le persone che leggono molto, le persone con interessi sono quelle che trarranno maggior beneficio da tutto questo“, ha affermato.

C’è il rischio che l’AI diventi auto-migliorante?

Oltre che dalla volontà e dagli interessi (economici) delle Big Tech, molto dipenderà anche da come i governi decideranno di interpretare e regolamentare questa evoluzione tecnologica. Un quadro normativo sostanzialmente restrittivo potrebbe rallentare il processo, se non addirittura limitarlo in modo significativo.

Di contro, una normativa più permissiva potrebbe accelerare lo sviluppo e avvicinare la nascita di questi sistemi capaci di auto-migliorarsi (quasi una forma embrionale di AGI).

E a tal riguardo, il presidente Donald Trump ha firmato di recente un ordine esecutivo considerato relativamente permissivo nelle sue indicazioni alle aziende che sviluppano sistemi AI. Questo ordine, in particolare, non impone alle imprese l’obbligo di sottoporsi a test di sicurezza governativi, lasciando tali verifiche su base volontaria.

Un’impostazione che va bene intendere l’interesse dell’amministrazione americana a sostenere lo sviluppo dell’IA, sia per non perdere la competizione globale (soprattutto rispetto alla Cina) sia per ottenere vantaggi strategici, anche in ambiti sensibili come la difesa, come dimostrato dal caso Anthropic-Pentagono.