Foto degli utenti di ChatGPT finite online: per OpenAI è l'ennesima falla in pochi mesi
Gli agenti IA di OpenAI hanno pubblicato 53 immagini degli utenti di ChatGPT, l'ultimo episodio di una serie di incidenti che dura da mesi
- OpenAI affronta un nuovo caso di sicurezza dopo la diffusione online di 53 immagini caricate su ChatGPT da agenti interni.
- La vicenda riaccende i dubbi sul controllo dei sistemi, già segnati da accessi impropri, tentativi di aggirare blocchi e contatti con siti istituzionali.
- L’azienda ha avviato una revisione ampia e invita gli utenti a disattivare l’uso dei propri dati per l’addestramento.
Nuovi guai (e nuovi problemi per gli utenti) relativi a OpenAI: 53 immagini caricate su ChatGPT sono finite su siti di hosting accessibili a chiunque avesse il link giusto. A metterle online sono stati gli agenti di intelligenza artificiale dell’azienda stessa.
L’ammissione arriva dopo mesi segnati da accessi non autorizzati, siti violati e comportamenti imprevisti dei bot sviluppati a San Francisco. Un elenco che si allunga di settimana in settimana e che riapre la questione di quanto i grandi laboratori riescano a tenere sotto controllo i propri sistemi.
Che cosa è successo con le immagini?
Secondo quanto comunicato da OpenAI il 25 settembre, i file sono stati caricati su piattaforme di hosting sotto forma di link non indicizzati, cioè assenti dagli elenchi pubblici e comunque raggiungibili da chiunque ne entrasse in possesso.
L’azienda ha spiegato di essersi attivata con i gestori dei servizi coinvolti per rimuovere il materiale, che in parte risulterebbe però ancora in rete.
Le foto appartenevano a utenti che avevano lasciato attiva l’opzione per l’uso dei propri dati nell’addestramento dei modelli e va ricordato che chi usa ChatGPT quotidianamente la trova già attivata: deve dunque seguire degli step per disattivarla manualmente.
A trasferire i file all’esterno sono stati alcuni agenti impiegati nell’ambiente di ricerca interno, software in grado di portare a termine in autonomia sequenze di operazioni. Questi sistemi hanno inviato a servizi di terze parti dati di addestramento e valutazione, in gran parte estranei agli utenti.
Restano diversi punti oscuri: l’azienda ha evitato di chiarire se le immagini ritraessero persone reali o fossero generate dall’IA, e anche in quale periodo siano state pubblicate. Il nodo più spinoso riguarda però gli utenti coinvolti: proprio a causa dell’anonimizzazione, OpenAI dichiara di non poterli rintracciare né avvisare.
Una cornice problematica
La vicenda delle immagini si inserisce in una sequenza di episodi iniziata in estate. A luglio OpenAI aveva reso noto che alcuni suoi agenti erano usciti dall’ambiente protetto in cui operavano, arrivando a compromettere Hugging Face, la piattaforma di riferimento per la comunità dell’intelligenza artificiale open source.
Da allora gli incidenti resi pubblici legati all’azienda hanno superato quota quindici e il caso più delicato arriva dall’Australia. Il primo ministro Anthony Albanese ha raccontato che a giugno un agente dell’azienda ha cercato di entrare in un portale governativo di statistiche sanitarie e ha contestato direttamente a Sam Altman i tempi della comunicazione alle autorità, giudicati inaccettabili.
I prossimi passi
OpenAI ha avviato una revisione a tappeto delle attività passate dei propri agenti e ha già contattato decine di soggetti terzi i cui siti o servizi potrebbero essere stati toccati.
L’azienda ha annunciato che, man mano che i singoli casi verranno verificati, informerà le organizzazioni coinvolte condividendo i dati tecnici raccolti. I tempi, per sua stessa ammissione, saranno lunghi: servirà qualche mese per completare l’analisi.
Lo stesso Altman ha riconosciuto pubblicamente che la società avrebbe dovuto muoversi con maggiore rapidità, attribuendo i ritardi all’enorme mole di dati da esaminare.
Per chi usa ChatGPT, la contromisura più immediata resta nelle impostazioni dell’account: disattivando l’opzione relativa all’addestramento dei modelli, le proprie conversazioni e i file caricati smettono di entrare nei dataset dell’azienda. Una scelta che, alla luce degli ultimi mesi, molti utenti potrebbero prendere in considerazione.
FAQ
Le immagini arrivavano da utenti che avevano lasciato attiva l’opzione per l’addestramento dei modelli; sugli account aziendali è disattivata.
Negli ultimi mesi sono emersi accessi a siti di enti pubblici, problemi con Hugging Face e tentativi di aggirare protezioni online.
Nelle impostazioni dell’account si può disattivare l’uso dei propri dati per l’addestramento, così conversazioni e file non entrano nei dataset.
