Stai usando Grok? Hanno scoperto una falla, e i tuoi dati potrebbero essere a rischio
Una vulnerabilità nell'IA di Elon Musk permette agli hacker di sottrarre dati personali e cronologia. Ecco come funziona l'attacco.
Grok torna alla ribalta ma stavolta come potenziale “vittima” di eventuali attacchi hacker. Il chatbot di Elon Musk rischia infatti di poter essere sfruttato dai malintenzionati a causa di una falla individuata da una società di cybersecurity.
Una vera e propria trappola, e questo per via del sistema stesso, che sfrutta la sua cieca fiducia nei dati che elabora, permettendo così ai criminali di sottrarti chat e informazioni private.
- Individuata una falla in Grok: in cosa consiste
- Perché Grok non è protetto da questa falla
- Una nuova tecnica per violare le IA?
- Cosa fare per evitare di esporre i propri dati
Individuata una falla in Grok: in cosa consiste
Lo ha raccontato recentemente Ars Technica, partendo dalle scoperte di Rony Utevsky, ricercatore della società di sicurezza Adversa.
In pratica hanno scoperto che Grok non è totalmente protetto per quanto riguarda eventuali attacchi di prompt injection. Per la cronaca, si tratta di un metodo che prevede l’inserimento di comandi malevoli all’interno di una pagina web o di una mail in modo da farla riassumere dall’IA di turno per poi indurla ad agire senza notificare nulla all’utente.
Nel caso specifico, tutto parte da una semplice richiesta a Grok: quella di riassumere un sito. Una pagina web che è in realtà una trappola creata ad hoc dagli hacker.
All’interno di quel sito si nascondono infatti dei comandi informatici cifrati in AES, con tanto di script Python in chiaro che indica al modello come decifrarli. Nel momento in cui analizza la pagina, il chatbot decodifica ed esegue queste istruzioni nascoste.
A causa di quell’istruzione che il chatbot non riesce a distinguere correttamente (è una fragilità tipica degli LLM), il sistema viene forzato a raccogliere i dati e la cronologia delle chat dell’account collegato.
Successivamente, li impacchetta all’interno di una richiesta inviata a un URL esterno sotto il controllo dei pirati informatici, completando così il furto delle informazioni in modo del tutto invisibile, senza che compaia alcun avviso a schermo né una richiesta di autorizzazione.
Perché Grok non è protetto da questa falla
Riferisce sempre Ars, Adversa non è in grado di stabilire con certezza “cosa spinga Grok a rifiutare le stesse istruzioni in chiaro e a seguire quelle crittografate”.
Si ipotizza che dietro ci sia la struttura del filtro di sicurezza, che si limita ad analizzare il testo in entrata e in uscita, ma non riesce a scansionare ciò che il modello produce durante la sua stessa esecuzione.
In pratica, la richiesta iniziale contiene soltanto le istruzioni per decifrare il testo. Il filtro legge la richiesta, non vi trova nulla di pericoloso e la lascia passare. Solo dopo che l’ambiente interno ha decodificato il messaggio, i comandi malevoli raggiungono il modello come risultato di uno strumento fidato. A quel punto l’IA esegue il codice in automatico, bypassando del tutto i controlli di sicurezza.
Una nuova tecnica per violare le IA?
Forse sì. E avrebbe anche un nome: gli esperti di Adversa la chiamano “Cryptographic Context Injection”, vale a dire un’iniezione di contesto crittografico.
Una tecnica evoluta, che non manipola più solo il testo inviato dall’utente, ma anche il contesto complessivo in cui il modello lavora, “come gli output dello strumento, i risultati di runtime e lo stato intermedio“, ha affermato Adversa, sottolineando come questa superficie di attacco è decisamente più ampia rispetto ai classici input forniti dalle persone, “e la prossima generazione di attacchi emergerà da lì”.
Cosa fare per evitare di esporre i propri dati
Essendo la piattaforma X dietro Grok, è sua responsabilità mettere in sicurezza le informazioni degli iscritti, ai sensi del GDPR (articolo 32). In genere però le aziende tendono a rafforzare le protezioni a monte per impedire la fuoriuscita di dati personali.
Quindi è solo questione di tempo prima che i tecnici provvedano alla risoluzione della vulnerabilità (al momento della pubblicazione, Ars ha riferito che la falla era ancora attiva).
In attesa di ciò, il massimo che tu utente possa fare, oltre a evitare di riassumere pagine web sospette, è limitare la citazione di dati personali tuoi. Ad esempio, rendi anonimi i contenuti sensibili, sostituendo nomi di persone, dettagli aziendali o luoghi specifici con termini generici. Ma soprattutto non condividere con qualsiasi intelligenza artificiale credenziali d’accesso, password, codici fiscali, numeri di telefono o coordinate bancarie.
FAQ
L’hacker inserisce comandi malevoli in un sito trappola. Grok lo riassume, decifra istruzioni cifrate e finisce per eseguire azioni non volute, come raccogliere dati e inviarli a un server esterno controllato dai pirati informatici.
Perché controlla soprattutto ciò che entra ed esce, ma non sempre intercetta quello che il modello produce durante l’esecuzione. Le istruzioni iniziali sembrano innocue, poi il contenuto decifrato compare troppo tardi per essere fermato.
Una falla potrebbe permettere a un attaccante di leggere chat e informazioni private dell’account collegato, senza avvisi visibili. Il problema nasce da istruzioni nascoste in pagine o mail usate come input dal chatbot.
Evita di far riassumere pagine sospette e non condividere dati sensibili. Meglio anonimizzare nomi, luoghi e dettagli aziendali, e non inserire password, credenziali, codici fiscali, numeri di telefono o coordinate bancarie.
