Un agente AI nei sistemi sanitari: la violazione di OpenAI tocca l'Australia
Il caso australiano mostra una nuova sfida per la sicurezza informatica: gli agenti AI possono muoversi sul web e raggiungere aree che dovrebbero restare riservate
- Un bot di OpenAI ha raggiunto database pubblici australiani, tra cui Medicare, riaccendendo il dibattito sulla sicurezza degli agenti di intelligenza artificiale.
- Il caso ha mostrato i limiti delle difese tradizionali, pensate per distinguere persone e traffico automatico, mentre i nuovi software imitano il comportamento umano.
- L’Australia prepara regole più severe sull’IA e valuta obblighi di notifica per le aziende coinvolte in intrusioni o accessi non autorizzati.
Per anni la sicurezza informatica ha avuto un avversario riconoscibile: una persona, o un gruppo organizzato, che prova a forzare un sistema per rubare dati o bloccare un servizio.
L’arrivo degli agenti di intelligenza artificiale, programmi capaci di muoversi e agire da soli sul web, complica parecchio il quadro e un episodio avvenuto in Australia lo mostra bene, riportando al centro il tema di come proteggersi da un software che finisce dove non dovrebbe.
- Il bot di OpenAI nei sistemi pubblici
- Agenti AI: la crisi delle difese tradizionali
- La scelta dell'Australia
Il bot di OpenAI nei sistemi pubblici
Cerchiamo di fare chiarezza: in queste settimane il primo ministro australiano Anthony Albanese ha reso noto che un bot di OpenAI era riuscito ad accedere al database di Medicare, il sistema sanitario pubblico del Paese e uno dei servizi governativi più usati dai cittadini.
L’accesso risale a giugno, mentre la comunicazione da parte dell’azienda è arrivata solo diverso tempo dopo: OpenAI sostiene di esserne venuta a conoscenza ad agosto e parla di un episodio involontario, che secondo la sua versione non avrebbe esposto informazioni private.
Medicare, a quanto emerso, è uno di almeno quattro siti governativi australiani coinvolti: poco dopo l’annuncio di Albanese, il premier del Nuovo Galles del Sud Chris Minns ha aggiunto che un bot della stessa azienda era entrato anche in un database di ricerca del Bureau of Crime Statistics and Research, l’ufficio statale che raccoglie le statistiche sulla criminalità.
Albanese ha definito la vicenda inaccettabile, ha espresso di persona la sua preoccupazione a Sam Altman e ha fatto sapere che il governo valuta sia la strada giudiziaria sia quella legislativa.
Agenti AI: la crisi delle difese tradizionali
Buona parte delle protezioni di un sito web è costruita attorno a una distinzione semplice: da una parte le persone, dall’altra i programmi automatici. I crawler dei motori di ricerca, per esempio, si presentano con un nome riconoscibile, leggono le pagine pubbliche e seguono (almeno in teoria) le indicazioni dei gestori su cosa possono visitare.
Gli agenti AI funzionano in un altro modo: ricevono un obiettivo e cercano di raggiungerlo in autonomia aprendo pagine, cliccando su pulsanti, compilando moduli, a volte tentando strade alternative quando la prima si rivela chiusa. Il loro comportamento somiglia molto di più a quello di un utente in carne e ossa, e questa somiglianza rende complicato riconoscerli e fermarli con gli strumenti pensati per il traffico automatico classico.
Resta poi la questione dell’intenzione: nel caso australiano l’azienda insiste sulla natura involontaria dell’accesso, ma anche accettando questa versione, per chi gestisce un database pubblico il problema rimane, dato che un software è arrivato in un’area privata, che doveva restare riservata e il governo lo ha saputo solo mesi più tardi.
La scelta dell’Australia
Anche se di per sé il fatto che (l’ennesimo) bot di OpenAi abbia violato delle aree sensibili è già una notizia, a essere particolarmente degna di nota è la reazione dell’Australia: il governo sta preparando leggi specifiche sull’intelligenza artificiale che dovrebbero entrare in vigore dal 2027, e secondo diversi esperti di politiche tecnologiche l’episodio potrebbe spingere verso un approccio più severo.
Tra le ipotesi circola l’obbligo di segnalazione per le aziende di IA quando i loro prodotti sono coinvolti in violazioni di sicurezza, sul modello della norma australiana che impone alle imprese di comunicare un’intrusione entro 72 ore.
Il Paese ha già mostrato di voler dettare le proprie condizioni: a OpenAI e Anthropic ha negato la possibilità di aggirare il diritto d’autore per addestrare i modelli, chiedendo accordi di licenza con i titolari dei contenuti.
FAQ
Un bot di OpenAI è riuscito ad accedere al database di Medicare e ad altri siti governativi australiani, finendo in aree riservate che dovevano restare protette.
OpenAI parla di accesso involontario e sostiene che non siano state esposte informazioni private. Il governo australiano, però, considera l’episodio molto grave.
Perché non si comportano come i bot tradizionali: aprono pagine, cliccano, compilano moduli e provano percorsi alternativi, proprio come farebbe una persona.
Le difese classiche distinguono tra utenti e programmi automatici, ma gli agenti AI imitano il comportamento umano e possono superare i controlli pensati per i crawler.
Sì, il governo sta preparando norme specifiche dal 2027 e valuta anche l’obbligo per le aziende di segnalare le violazioni di sicurezza legate ai loro prodotti.
