Prima Altman, ora Dario Amodei: perché l'intelligenza artificiale fa paura ai suoi creatori?

123RF

• Dario Amodei chiede di rallentare la corsa dell’intelligenza artificiale, per dare più spazio a sicurezza, controlli esterni e valutazioni indipendenti.
• La proposta punta su standard comuni tra laboratori democratici e su un accordo globale, mentre OpenAI e Elon Musk mostrano aperture sorprendenti.
• Restano incognite su regole, verifiche e soglie vincolanti, oltre al sospetto che il richiamo alla prudenza rifletta anche strategie di mercato.

Sono ore caotiche per le sorti dello sviluppo dell’intelligenza artificiale: sembra che tutti i più grandi attori del settore vogliano far sì che ricerche e progresso rallentino, perché la direzione intrapresa sarebbe troppo pericolosa. Dopo le dichiarazioni di Sam Altman di OpenAi, adesso anche Dario Amodei, imprenditore e ricercatore statunitense a capo di Antrophic, dice “stop”.

Precisamente, Amodei ha pubblicato un saggio sul proprio sito personale in cui chiede all’industria di ridurre la velocità con cui potenzia le capacità dei modelli, e ha annunciato un impegno che la sua azienda si assume da sola.

• Le parole di Amodei e We Must Pace the Frontier
• L'idea di Amodei
• Perché tutti vogliono rallentare l'AI
• Rallentamento, stop o cambio di rotta?

Le parole di Amodei e We Must Pace the Frontier

Il titolo del testo è We Must Pace the Frontier, traducibile con “dobbiamo dosare l’avanzamento della frontiera”. Chi vuole approfondire, come dicevamo, può leggerlo sul sito di Amodei, ma la tesi sta in una riga: il ritmo a cui crescono le capacità dei sistemi va ridotto, così che il lavoro sulla sicurezza riesca a stare al passo.

Amodei chiarisce subito una cosa: rallentare significa qualcosa di diverso dal fermarsi. L’addestramento prosegue, quello che cambia è il tempo che le aziende si concedono per allineare e mettere in sicurezza i modelli prima di spingerli oltre, con valutatori terzi incaricati di confermare che il lavoro sia stato fatto.

Il saggio si apre con un richiamo personale, il padre morto per una malattia curabile pochi anni dopo e un tumore superato dallo stesso Amodei, a sostegno di una posizione che resta favorevole allo sviluppo della tecnologia. La cautela nasce dai benefici attesi, che secondo lui si realizzano soltanto costruendo nel modo corretto.

L’idea di Amodei

La proposta si articola in tre passi di difficoltà crescente: il primo prevede valutatori esterni incorporati nelle aziende, con scrivanie negli uffici, badge, computer aziendali e permessi simili a quelli dei team interni che si occupano di analisi del rischio. Anthropic dichiara di volerlo adottare da sola e in tempi ravvicinati, con un contratto che riconosce ai revisori il diritto di pubblicare le proprie conclusioni senza controllo editoriale dell’azienda.

Il secondo passo chiama in causa i laboratori dei Paesi democratici, chiamati a fissare standard comuni e limiti alla velocità di avanzamento. Il terzo guarda a un’intesa mondiale che coinvolga anche i regimi autoritari, con un tetto alla corsa che Amodei paragona ai trattati SALT sulle armi strategiche.

Perché tutti vogliono rallentare l’AI

Come dicevamo, le parole di Amodei arrivano dopo quelle di Altman. Il numero uno di OpenAI ha dichiarato di condividere la necessità di dosare i ritmi sulle tecnologie di frontiera, precisando che il tema occupava già le discussioni interne alla sua azienda da settimane. Sul punto dei valutatori indipendenti si è spinto oltre l’adesione generica, annunciando che OpenAI adotterà la stessa strategia.

E non solo: anche Elon Musk ha risposto su X liquidando la questione con una battuta di tre parole, dando ragione al fondatore di Anthropic. Ma perché tutti sembrano coesi? Cosa sta spaventando i leader dell’intelligenza artificiale? Facendola semplice, le ragioni sono due e hanno entrambe a che fare con qualcosa che è già accaduto.

La prima si chiama auto-miglioramento ricorsivo. Significa che i modelli vengono usati sempre di più per costruire la generazione successiva di modelli, in una spirale che si autoalimenta. Dall’estate 2026 il fenomeno ha accelerato presso tutte le aziende del settore, e il timore è che la velocità superi la capacità umana di capire cosa si sta costruendo.

La seconda riguarda l’incidente tra OpenAI e Hugging Face. Durante un test, uno sciame di agenti ha attaccato bersagli informatici estranei al compito assegnato, sacrificando singole unità per il risultato del gruppo e provando a violare il sistema incaricato di valutarne le prestazioni. Il clima interno al settore, del resto, inoltre, è teso da settimane.

Rallentamento, stop o cambio di rotta?

Le adesioni incassate in poche ore raccontano una convergenza inedita tra concorrenti diretti. Sul piano dell’attuazione, però, manca ancora l’essenziale: nessuno dei testi pubblicati finora stabilisce quali soglie renderebbero vincolante il freno, chi ne verificherebbe il rispetto e cosa accadrebbe a chi decidesse di sfilarsi.

Restano poi le obiezioni. L’investitore Chamath Palihapitiya legge la proposta come un argomento a favore della concentrazione di potere tecnologico, a danno dei modelli a codice aperto. Altri richiamano la possibile quotazione in Borsa di Anthropic, attesa tra ottobre e novembre, e il sospetto che gli allarmi funzionino anche come leva di mercato.

Più che uno stop, quello che emerge somiglia a un cambio di rotta dichiarato e ancora tutto da tradurre in regole. La differenza tra le due cose si misurerà su chi accetterà per primo di farsi controllare dall’esterno.