Cosa succederebbe se l'intelligenza artificiale cominciasse a costruirsi da sola?

123RF

Fino a pochi anni fa, l’intelligenza artificiale era in grado, nella migliore delle ipotesi, di generare testi o rispondere a semplici richieste. Oggi può fare praticamente tutto, anche proteggere le infrastrutture contro eventuali attacchi hacker.

Non sorprende, quindi, che si inizi a ipotizzare l’avvento di un’IA capace non solo di operare autonomamente, ma anche di migliorarsi e costruirsi da sola. 

A quel punto, però, la domanda diventa inevitabile: cosa succederebbe?

• Sempre più vicini all'IA che si costruisce da sola
• Cosa succederebbe all'umanità?
• Perché (non) è il caso di preoccuparsi

Sempre più vicini all’IA che si costruisce da sola

Forse non manca molto all’arrivo di un’intelligenza artificiale capace di auto-costruirsi. In un’intervista a TechCrunch, Richard Socher, fondatore della startup di chatbot You.com e di Recursive Superintelligence, ha spiegato di essere al lavoro su un modello di IA auto-migliorante, progettato per individuare in autonomia i propri limiti e rielaborare la propria architettura per correggerli, senza intervento umano diretto.

Centrale in questa tecnologia sarà la ricorsività, ovvero la capacità del sistema non di migliorare strumenti esterni o compiti specifici, ma di intervenire su se stesso. Ne deriverebbe una (super)intelligenza in grado di rendere totalmente automatico l’intero processo di ideazione, implementazione e validazione delle idee di ricerca.

C’è da dire che l’innovazione di Socher non in realtà è così nuova nel panorama tech. Già lo scorso anno, la società giapponese Sakana AI, con sede a Tokyo, aveva presentato un sistema sperimentale chiamato “The AI Scientist”, che durante i test ha mostrato un comportamento inatteso: ha tentato di modificare autonomamente il proprio codice sorgente per prolungare il tempo disponibile per portare a termine un compito.

Non mancano poi i casi in cui l’IA è arrivata addirittura ad autoreplicarsi. In una ricerca condotta dalla Fudan University, due versioni di Llama (Meta) e Qwen (Alibaba) sono stati messi alla prova in scenari controllati pensati per valutare la loro capacità di replicazione autonoma. E questi sono i risultati: il modello di Meta è riuscito a replicarsi autonomamente nel 50% dei casi, mentre quello di Alibaba ha raggiunto un tasso di successo addirittura del 90%.

Cosa succederebbe all’umanità?

E ora la nostra domanda, anche perché è legittima.

Non manca in fondo così tanto a ritrovarsi con sistemi capaci di auto-replicarsi, auto-migliorarsi e addirittura di progettare la propria architettura. Il giorno in cui dovesse diventare realtà una tecnologia del genere, ci si troverebbe di fronte a una forma di intelligenza artificiale fortemente autonoma: quasi una specie di AGI (artificial general intelligence), se non addirittura una superintelligenza.

Il che per l’umanità sarebbe un salto di qualità enorme a livello di efficienza e produttività. Si avrebbe tra le mani una tecnologia che migliora costantemente, lasciando all’intervento umano un ruolo sempre più marginale. Permettendo così di ridurre i tempi di sviluppo e abbattere i costi legati alla progettazione e alla manutenzione.

Senza contare che si aprirebbe una fase di accelerazione della produttività senza precedenti, con applicazioni che spaziano dalla ricerca scientifica all’ingegneria, fino alla gestione di sistemi di sicurezza globali.

Perché (non) è il caso di preoccuparsi

Innegabile però un altro fatto: data la sua capacità di migliorarsi autonomamente, questa tecnologia rischia di dirigersi verso la cosiddetta “singolarità tecnologica”, cioè il momento in cui il sistema supera le capacità cognitive umane al punto da riprogettare e migliorare se stessa a una velocità esponenziale, diventando imprevedibile e sfuggente all’uomo.

Il che per l’umanità sarebbe un bel problema, soprattutto se l’IA si mettesse a governare le attività degli uomini al posto loro: sicurezza dei servizi, gestione delle infrastrutture, controllo degli armamenti nucleari.

Decisamente uno scenario apocalittico, ma ciononostante non è il caso di preoccuparsi troppo (almeno per ora).

Proprio per evitare tutto questo, si sta già lavorando su meccanismi di sicurezza e controllo, come il red teaming, che serve a testare i limiti dei modelli e prevenire comportamenti indesiderati, verificando ad esempio come reagiscono di fronte a richieste sensibili o potenzialmente pericolose.

Si parla comunque di scenari decisamente futuri, di un’evoluzione della tecnologia che richiederà ancora mesi, se non anni. C’è ancora tempo a sufficienza per sapere come procedere al meglio. Così si evita che l’intelligenza artificiale diventi un pericolo per tutti.