L’IA potrebbe uccidere l’umanità entro 10 anni: «Il rischio è superiore al 10%»
Un ex manager di Anthropic lancia l'allarme: l'IA potrebbe uccidere l'umanità entro i prossimi 10 anni, per via dei suoi continui miglioramenti incontrollati
L’intelligenza artificiale è un argomento sempre di grandissima attualità anche se, negli ultimi mesi, si è parlato più dei rischi dell’IA che delle sue reali potenzialità. I casi che hanno visto agenti AI operare in autonomia, per effettuare attacchi informatici, disobbedendo alle direttive, sono diventati virali in poche ore.
Sui rischi legati all’utilizzo dell’intelligenza artificiale e, soprattutto, al suo sviluppo accelerato è arrivato, in queste ore, il parere di Evan Hubinger. Il manager alla guida del team di Alignment Stress-Testing di Anthropic ritiene che ci sia più del 10% di possibilità che l’IA uccida l’umanità nel corso dei prossimi dieci anni.
Una dichiarazione di questo tipo non può che preoccupare, anche se è importante non fare dello sterile allarmismo, andando ad analizzare nel dettaglio la questione e il pensiero di Hubinger sull’attuale stato dell’intelligenza artificiale.
Un rischio concreto?
Hubinger si è affidato al suo account X per rendere pubblico il suo punto di vista sulla questione, sottolineando: "Personalmente penso che ci sia più del 10% di probabilità entro il prossimo decennio."
Anthropic, evidenzia il manager, sta lavorando sul problema dell’allineamento dell’intelligenza artificiale ma, per ora, Hubinger ritiene che "non siamo sulla strada giusta per farlo".
Sul tema della sicurezza dell’intelligenza artificiale, ricordiamo che, proprio nei giorni scorsi, è emersa un’altra notizia legata alla "fuga" di migliaia di agenti di OpenAI che hanno preso il controllo di un sito tedesco. Tale notizia è arrivata dopo il caso Hugging Face.
I prossimi modelli IA saranno un problema?
Per il momento, i modelli IA attuali non destano una particolare preoccupazione. Il problema riguarda, però, gli sviluppi futuri e, in particolare, le nuove soluzioni che le aziende impegnate nel settore tech presenteranno nei prossimi anni.
Uno sviluppo rapido e continuo dell’IA, infatti, potrebbe avere risvolti imprevedibili e potrebbe incrementare i rischi in modo significativo. Si tratta di una questione molto delicata, che andrebbe affrontata con grande attenzione.
L’intervento di Hubinger è legato alle recenti dimissioni di Jacob Coxon, ricercatore che si occupava di pretraining, prima in OpenAI e poi in Anthropic, azienda che ha deciso di abbandonare a causa dello scarso impegno nella sicurezza.
Il post su X di Coxon descrive bene la situazione:
La situazione è delicata e andrà monitorata con attenzione. La capacità dell’IA di automigliorarsi, senza paletti per la sicurezza, può rappresentare un problema nel lungo periodo, soprattutto in assenza di regolamentazioni precise in merito.
Al momento, non risultano ulteriori commenti da parte di Anthropic, azienda che oggi ricopre un ruolo da leader del settore dell’intelligenza artificiale con Claude. Nel corso delle prossime settimane, però, il tema della sicurezza continuerà a essere centrale.
Si tratta, infatti, di un delicato equilibrio. Da una parte, le aziende spingono per migliorare i propri modelli, ottenendo salti generazionali a distanza di pochi mesi, spesso con il supporto dei Governi. Dall’altra, invece, ci sono questioni etiche e di sicurezza che andrebbero approfondite o quanto meno rese sempre più prioritarie.
