Grazie all'IA stava per scoppiare un altro conflitto mondiale: il caso del falso report
Un errore di analisi generato da un chatbot ha quasi innescato un'operazione militare contro Pechino. Eppure l'IA trova sempre più spazio nelle forze armate.
Non bastava che si mettesse a violare i sistemi di sicurezza delle aziende: ora l’intelligenza artificiale arriva a mettere in crisi le strutture d’intelligence degli Stati Uniti, arrivando a far credere che in una nave si trovassero componenti destinati a un programma di armi nucleari.
Menomale se l’incidente si è fortunatamente fermato un istante prima che la situazione degenerasse: il rischio era infatti che scoppiasse un caso internazionale, se non addirittura un conflitto mondiale visto che l’imbarcazione batteva bandiera cinese. Ma come è successo?
- Il caso della nave cinese che trasportava armi nucleari
- Perché gli Stati Uniti vogliono impiegare l'IA nel mondo militare
- Il rischio di delegare la sicurezza globale ai chatbot
Il caso della nave cinese che trasportava armi nucleari
Questa è la storia in breve, ricostruita dalla CNN. Primavera scorsa, nel pieno della crisi in Medio Oriente. Un report diffuso tra le forze armate statunitensi lancia l’allarme sulla presenza di presunti componenti nucleari a bordo di un cargo cinese in transito nell’area.
Subito le forze USA si sono organizzate per l’intercettazione, con personale armato pronto all’arrembaggio e velivoli già coordinati per il supporto all’operazione.
A un passo dal via libera, una verifica più approfondita sul documento (redatto da un analista del Comando Operazioni Speciali) ha svelato l’errore. Il testo era stato sintetizzato tramite un chatbot di intelligenza artificiale che aveva identificato in modo del tutto errato il carico dell’imbarcazione.
Ma come è successo? Sembra che il bot abbia incrociato le informazioni pubblicamente accessibili (OSINT) con le intercettazioni e i dati riservati di intelligence (SIGINT). Un incrocio che ha generato una conclusione del tutto inventata sulla natura dei materiali trasportati.
L’analista ha poi impiegato nuovamente l’algoritmo per formattare i dati nel modello di report standard in uso tra i vertici militari, trasmettendo così un documento dall’aspetto del tutto autorevole.
Autorevole ma falso, e pure pericoloso. Però ormai l’intelligenza artificiale è di casa presso le forze armate USA.
Perché gli Stati Uniti vogliono impiegare l’IA nel mondo militare
I vertici militari spingono da tempo per un’adozione capillare dell’IA, motivata dalla necessità di accelerare i processi decisionali strategici e tattici.
In effetti la tecnologia può essere impiegata in molti ambiti: dall’elaborazione rapida di grandi moli di dati grezzi al supporto nella selezione degli obiettivi per gli attacchi e dislocazione dei mezzi, fino all’ottimizzazione della gestione di bilancio, logistica e catene di approvvigionamento.
Per il Pentagono è ormai necessaria la sua piena adozione: il rischio è di rimanere indietro nella corsa all’IA, e così accumulare un ritardo strategico in un ipotetico confronto diretto con la Cina o altre grandi potenze.
Poco importa però dei limiti evidenti della tecnologia, ancora troppo poco sviluppata per un settore altamente sensibile come quello militare. Fonti interne all’intelligence citate dalla CNN hanno inoltre confermano come questo tipo di errore non sia affatto isolato.
Il rischio di delegare la sicurezza globale ai chatbot
Da settimane a Washington si discute animatamente sui rischi teorici a lungo termine, in forza anche degli allarmi dei manager della Silicon Valley su una possibile IA fuori controllo.
Il caso della nave cinese mostra tra l’altro un pericolo ancora più concreto e imminente: quello di commettere decisioni operative ad alto rischio sulla base di report sballati e generati in modo automatico. E nemmeno per negligenza.
Nonostante la delicatezza di ambiti come il targeting e l’analisi sul campo, secondo fonti citate dalla CNN, c’è sempre più urgenza di confezionare informazioni nel minor tempo possibile attraverso l’impiego dell’IA. Così facendo, però, si limita sempre più lo spazio dedicato per la verifica umana. Ci dobbiamo aspettare altri casi come questi, o peggio?
FAQ
Un documento dell’intelligence USA sosteneva che il cargo trasportasse componenti per armi nucleari. In realtà era un errore generato da un chatbot, che ha prodotto un report credibile ma completamente sbagliato.
Il chatbot avrebbe mescolato dati pubblici OSINT e informazioni riservate SIGINT, arrivando a una conclusione inventata sul carico. Poi il testo è stato rifinito con lo stesso strumento, rendendolo persino più autorevole all’apparenza.
Il Pentagono punta sull’IA per velocizzare decisioni, analisi di grandi quantità di dati, selezione degli obiettivi, logistica e gestione dei mezzi. L’obiettivo è non restare indietro nella corsa tecnologica con altre potenze.
Che decisioni delicate vengano prese su report automatici sbagliati. Se si riduce troppo la verifica umana, un errore di sintesi può incidere su operazioni reali e creare conseguenze molto serie.
