Che cos'è la Modalità di Blocco di ChatGPT, e come dovrebbe proteggerti dagli hacker

Shutterstock

L’intelligenza artificiale sta diventando ogni giorno più potente, integrandosi profondamente nel nostro modo di lavorare. Oggi ChatGPT non si limita a rispondere a domande, ma naviga sul web, analizza documenti complessi e si connette alle nostre applicazioni preferite per automatizzare compiti ripetitivi. Tuttavia, questa maggiore apertura verso l’esterno ha creato una nuova superficie di attacco che gli esperti di sicurezza chiamano iniezione di prompt (o prompt injection).

In parole semplici, questo attacco avviene quando un malintenzionato inserisce istruzioni nascoste all’interno di un testo (come una pagina web, un’email o un documento) che l’intelligenza artificiale deve leggere. Quando l’IA incontra queste istruzioni, può essere “ingannata” e portata a ignorare le direttive dell’utente originale per seguire quelle dell’hacker, arrivando persino a inviare informazioni sensibili a server esterni senza che l’utente se ne accorga. Per rispondere a questa minaccia emergente, OpenAI ha presentato due soluzioni cruciali: la Modalità di Blocco (Lockdown Mode) e le etichette di Rischio Elevato.

• La Modalità di Blocco: uno scudo per i bersagli sensibili
• Etichette di "Rischio Elevato": la trasparenza come difesa
• Un impegno costante per la sicurezza dei dati

La Modalità di Blocco: uno scudo per i bersagli sensibili

La Modalità di Blocco non è una funzione pensata per l’utente comune, ma rappresenta un’impostazione di sicurezza avanzata per chi maneggia dati estremamente delicati. Si rivolge principalmente a dirigenti d’azienda, team di sicurezza informatica o organizzazioni governative che sono spesso nel mirino di attacchi mirati. Immaginate questa modalità come un “rifugio blindato” digitale per ChatGPT: quando è attiva, l’intelligenza artificiale riduce drasticamente le sue interazioni con sistemi esterni per minimizzare ogni possibile punto di vulnerabilità.

Il cuore di questa protezione è il controllo rigoroso dei flussi di dati. Ad esempio, la navigazione web tradizionale permette all’IA di interrogare internet in tempo reale, esponendola potenzialmente a codice malevolo appena pubblicato. In Modalità di Blocco, la navigazione è limitata esclusivamente ai contenuti memorizzati nella cache di OpenAI. Questo significa che nessuna richiesta di rete esce dal perimetro controllato dell’azienda, impedendo fisicamente che i vostri dati privati vengano “esfiltrati” verso l’esterno tramite un comando nascosto. Molte altre funzioni, qualora non possano garantire una sicurezza totale e matematica, vengono completamente disabilitate per non lasciare alcuno spiraglio ai criminali informatici.

Etichette di “Rischio Elevato”: la trasparenza come difesa

Non tutti i rischi possono essere azzerati, poiché spesso le funzioni più utili sono anche quelle che richiedono una maggiore connessione con l’esterno. Per gestire questo equilibrio, OpenAI ha introdotto le etichette di Rischio Elevato. Si tratta di un sistema di segnalazione standardizzato che apparirà in modo coerente su ChatGPT, ChatGPT Atlas e Codex.

L’idea alla base è semplice: fornire all’utente tutte le informazioni necessarie per prendere una decisione consapevole. Se state per attivare una funzione che permette all’IA di agire sul web per vostro conto (come consultare una documentazione tecnica complessa mentre scrivete codice in Codex), il sistema mostrerà chiaramente l’etichetta di rischio elevato. Accanto al bollino, troverete una spiegazione dettagliata di cosa cambia nel sistema e quali rischi specifici potrebbero essere introdotti. In questo modo, l’utente può valutare se, per quel determinato compito, il beneficio superi il potenziale pericolo.

Un impegno costante per la sicurezza dei dati

Queste nuove aggiunte non sostituiscono, ma potenziano le protezioni già esistenti. OpenAI continua a utilizzare tecnologie come il sandboxing (che isola l’IA in un ambiente protetto), il monitoraggio costante degli abusi e i log di audit per le aziende. Attualmente, la Modalità di Blocco è disponibile per i piani Enterprise, Edu e per i settori sanitario e dell’insegnamento, con l’obiettivo di proteggere i dipendenti più a rischio. Tuttavia, OpenAI ha confermato che la funzione verrà resa disponibile anche per gli utenti privati nei prossimi mesi.