Ora anche la Casa Bianca ha paura di Anthropic (e ha ragione)

123

Continua a far discutere Anthropic e, in particolare, il suo modello più recente della famiglia Claude, Mythos, specializzato nell’individuazione di vulnerabilità all’interno dei software. Uno strumento che avrebbe attirato l’attenzione della Casa Bianca, anche se, secondo quanto riportato dai media, diversi funzionari dell’amministrazione Trump avrebbero iniziato a manifestare crescenti preoccupazioni, esprimendosi contro un’eventuale estensione del suo utilizzo ad altre aziende e organizzazioni.

Preoccupazioni che non sarebbero del tutto infondate. Ecco perché.

• I funzionari della Casa Bianca dicono no ad Anthropic
• Perché hanno ragione ad avere paura di Claude Mythos
• Il futuro dell'IA nella cybersecurity: sorveglianza o libertà?

I funzionari della Casa Bianca dicono no ad Anthropic

A riportare l’ultimo sviluppo della tensione tra Casa Bianca e Anthropic è il Wall Street Journal, secondo cui alcuni funzionari dell’amministrazione Trump si sarebbero detti contrari al piano della società di estendere l’accesso a Mythos a circa 70 aziende e organizzazioni aggiuntive.

Se n’è già parlato di Mythos. Descritto dalla società come un sistema avanzato capace di identificare e, in alcuni casi, sfruttare vulnerabilità informatiche su larga scala, è stato pensato per rafforzare la difesa contro hacker e gruppi criminali digitali, ma teoricamente sarebbe utile anche per colpire le infrastrutture di Stati (considerati) canaglia.

Per questo la Casa Bianca all’inizio voleva sfruttarla a pieno, ma solo ora, secondo quanto riferisce WSJ, la posizione dell’amministrazione si sarebbe recentemente irrigidita. Il motivo sembrerebbe “tecnico”: una fonte citata dal quotidiano sostiene infatti che Mythos richiederebbe un’elevata quantità di risorse di calcolo, un fattore che rischierebbe di limitarne l’impiego su larga scala da parte del governo statunitense.

Un’osservazione che la società fondata da Dario Amodei ha successivamente respinto, ma comunque non troppo assurda.

Perché hanno ragione ad avere paura di Claude Mythos

Non è la prima volta che Anthropic viene percepita come un possibile fattore di rischio sul piano della sicurezza. Già dopo alcune tensioni con il Dipartimento della Difesa, la società venne etichettata come un rischio per la catena di approvvigionamento (almeno in alcune valutazioni interne).

Un’etichetta dovuta con molta probabilità da motivazioni politiche, alla luce del rifiuto del CEO Amodei di consentire l’utilizzo dei propri modelli di intelligenza artificiale per lo sviluppo di armi autonome o per sistemi di sorveglianza di massa sui cittadini statunitensi.

Questo, però, non elimina del tutto le preoccupazioni inerenti a Claude Mythos. In fase di presentazione, la stessa azienda aveva scelto di limitarne la diffusione iniziale a un numero ristretto di aziende e organizzazioni, proprio perché considerato troppo avanzato e potenzialmente rischioso per un rilascio immediato su larga scala.

Come detto sopra, Mythos sarebbe in grado di individuare e sfruttare vulnerabilità informatiche complesse, offrendo così un potenziale vantaggio anche a soggetti malevoli, inclusi hacker organizzati. Diventando così uno strumento non solo per rafforzare la sicurezza, ma anche per attaccarla.

Senza contare il fatto che le IA sono notoriamente energivore e costose, quindi ha senso la preoccupazione del governo sulle capacità di uso, anche se l’azienda non è d’accordo.

Il futuro dell’IA nella cybersecurity: sorveglianza o libertà?

Da tempo le intelligenze artificiali sono al centro dell’attenzione di analisti e osservatori per il loro potenziale in ambiti altamente sensibili e strategici, tra cui la cybersecurity.

Perché è difficile che un sistema del genere non possa migliorare l’efficienza dei sistema di sicurezza digitale: una macchina che non dorme mai, capace di analizzare una quantità di dati irraggiungibile anche per team di specialisti e individuare vulnerabilità informatiche rimaste inosservate per anni, se non decenni.

Il problema è semmai dove viene utilizzato: se per migliorare la sicurezza dei cittadini contro attacchi e violenze, garantendo dunque la libertà di movimento; oppure per controllare in maniera orwelliana i cittadini, adducendo a emergenze nazionali o al terrore mediatico. Perché è qui che si gioca la partita (e il futuro) dell’IA nella società.