Anthropic lancia la sua AI più avanzata, ma perché il debutto di Claude 5 preoccupa?

123RF

Non c’è due senza tre. Dopo aver lanciato negli ultimi due mesi Claude Mythos e Opus 4.8, Anthropic fa il tris con un nuovo modello: Claude Fable 5.

La sua AI più avanzata, anche più di Mythos, con la differenza di essere già disponibile al pubblico generale, e non limitata a una ristretta cerchia di aziende come nel caso del precedente modello.

Il che potrebbe essere un problema, anzi un rischio per tutti, infatti la società guidata da Dario Amodei non ha nascosto le sue preoccupazioni in merito.

• Come funziona Claude Fable 5, e cosa sa fare
• Perché il suo debutto è preoccupante
• Come Anthropic ha voluto limitare la nuova AI

Come funziona Claude Fable 5, e cosa sa fare

Parliamo prima del modello. Prima versione “pubblica” di Mythos resa disponibile a tutti, Claude Fable 5 è in grado di raggiungere risultati che fino a poco tempo fa richiedevano interi team umani per essere ottenuti.

Lo racconta la stessa Anthropic nel suo comunicato, citando diverse aziende che hanno avuto accesso anticipato al modello.

Tra queste Stripe, che riferisce di aver compresso mesi di lavoro in pochi giorni: su una base di codice Ruby da cinquanta milioni di righe, il sistema “ha completato in una sola giornata una migrazione che manualmente avrebbe impegnato una squadra per oltre due mesi“.

Ma non solo l’ambito informatico: sono diversi i settori in cui il modello si è dimostrato davvero all’avanguardia. Ad esempio, in campo scientifico, Fable ha dimostrato un notevole supporto sul design dei farmaci, con un’accelerazione di alcune fasi fino a dieci volte.

A sua volta, in biologia molecolare, alcune ipotesi generate dal modello sono state preferite dagli scienziati circa otto volte su dieci. In genomica, invece, è stato in grado di assemblare dati relativi a milioni di cellule provenienti da 138 specie animali.

Sempre Anthropic conferma che Claude Fable 5 si posiziona ai vertici di quasi tutti i benchmark di capacità, dall’ingegneria del software al lavoro di conoscenza fino alla ricerca scientifica.

Non c’è dunque limite alle potenzialità di questo modello, e infatti la stessa azienda è preoccupata per questo.

Perché il suo debutto è preoccupante

La società di Amodei è sostanzialmente onesta nella nota di lancio: “Rilasciare un modello così potente comporta dei rischi. Senza misure di salvaguardia, le capacità di Fable 5 in aree come la sicurezza informatica potrebbero essere utilizzate in modo improprio e causare gravi danni”.

In pratica lo stesso dilemma emerso al lancio di Mythos, ossia ritrovarsi con un modello che potrebbe diventare uno strumento utile non solo per la difesa delle infrastrutture strategiche, ma anche per l’attacco.

Una possibilità (purtroppo) sempre più concreta: stando al Financial Times, persino la NSA avrebbe iniziato a usare Mythos per operazioni cyber offensive. E questo nonostante il Dipartimento della Difesa avesse classificato Anthropic come “rischio per la catena di approvvigionamento”.

Se non altro, la società ha imposto dei freni alla nuova intelligenza artificiale.

Come Anthropic ha voluto limitare la nuova AI

Per ridurre i rischi, Fable 5 è stato rilasciato con una serie di filtri dedicati che intercettano richieste legate a un insieme ristretto di temi considerati ad alto rischio, come cybersecurity offensiva, biologia e chimica. In questi casi, le richieste vengono automaticamente deviate verso Claude Opus 4.8, il modello precedente, e l’utente viene avvisato del passaggio.

A sua volta, Anthropic ha rafforzato le protezioni attraverso attività di red-teaming (ossia, simulazioni di attacco per individuare eventuali vulnerabilità) e con l’avvio di un programma di ricompense per chi fosse riuscito a superare le difese. Alla fine, oltre mille ore di test non hanno prodotto alcun jailbreak universale. Tradotto: nessun metodo è stato in grado di aggirare in modo generalizzato i filtri.

Infine, è stata istituita una nuova policy sulla gestione dei dati. Per Fable 5 e per i futuri modelli della stessa fascia, la società di Amodei prevede la conservazione obbligatoria per trenta giorni del traffico, sia sui propri sistemi sia su quelli di terze parti. E con la promessa di non utilizzare i dati “per addestrare nuovi modelli Claude, o per scopi non legati alla sicurezza”.

Anthropic, dunque, non è rimasta a guardare, ma il problema rimane: più questi modelli diventano potenti, più aumenta il rischio che possano trasformarsi in vere e proprie armi di distruzione. E, per quanto le restrizioni introdotte rappresentino un segnale evidente dell’attenzione dell’azienda alla sicurezza, resta da capire quanto saranno davvero efficaci nel tempo, davanti a possibili nuovi tentativi di aggirare le protezioni del sistema.