OpenAI Astra, l’IA più potente e pericolosa di sempre: è la prima a rischio “Critical” e ti spieghiamo perché
Astra, nuovo modello AI di OpenAI, potrebbe essere un pericolo per la sicurezza. Ecco tutto quello che c'è da sapere in merito
Astra è il nuovo modello IA di OpenAI e rappresenta un possibile punto di svolta per il settore dell’intelligenza artificiale. Si tratta, infatti, di un modello che ha raggiunto quello che l’azienda considera un livello “Critical” ovvero il livello più alto previsto dal suo sistema di valutazione dei rischi.
Perché è pericolosa
Non è la prima volta che si sente parlare di un’intelligenza artificiale pericolosa. Ricordiamo, ad esempio, i casi degli agenti IA di OpenAI che hanno attaccato i sistemi di aziende terze, sfuggendo al controllo.
Astra alza il livello di pericolo in quanto è capace di individuare vulnerabilità informatiche sconosciute, sviluppare un modo per sfruttarle e anche concatenare più falle per ottenere un accesso completo ai sistemi colpiti.
Il modello può compromettere un intero sistema protetto in modo completamente autonomo, senza la necessità di essere guidato attraverso vari passaggi dall’intervento di un umano. Può operare in modo indipendente e può “vedere” falle nascoste per sfruttarle a suo favore.
La combinazione di questi elementi, quindi, rende Astra un salto in avanti importante per il settore dell’intelligenza artificiale, con tanti vantaggi ma anche con tanti pericoli.
La classificazione Critical è stata assegnata da OpenAI per la prima volta. Tale livello riguarda i modelli in grado di individuare e sviluppare autonomamente exploit funzionanti per vulnerabilità zero-day in sistemi reali protetti e/o di eseguire strategie di attacco informatico end-to-end partendo da un target generale e non specifico.
Nei test, Astra ha dimostrato le sue capacità. Su ExploitBench, un benchmark utilizzato per misurare la capacità di sviluppare exploit a partire da vulnerabilità note, il modello ha totalizzato un impressionante 100%.
OpenAI ha anche realizzato dei benchmark interni in cui Astra ha dimostrato di avere capacità superiori a GPT 5-6 Sol ed è stato in grado di individuare due vulnerabilità zero-day. I test hanno dimostrato le capacità avanzate dell’IA che si è “guadagnata” il livello Critical.
Un lancio controllato
OpenAI ha confermato di essere al lavoro sulla distribuzione del modello Astra, che sarà disponibile “presto“. Le sue capacità, però, saranno inizialmente accessibili solo a un gruppo ristretto di utenti e il lancio sarà accompagnato da rigide misure di sicurezza.
Niente allarmismi
Il tema dell’intelligenza artificiale cattiva e pericolosa è sempre molto attuale. Bisogna, però, valutare la questione con grande attenzione. La scelta della classificazione Critical per Astra è una misura di sicurezza necessaria, ma non deve far bollare il nuovo modello come un’IA pericolosa.
I recenti incidenti di sicurezza hanno chiarito che è buona norma procedere con attenzione, valutando le capacità delle intelligenze artificiali nei minimi dettagli, per garantire la massima sicurezza, senza correre inutili rischi.
Staremo a vedere quali saranno le scelte di OpenAI in merito al lancio di Astra.
