Un nuovo assistente AI può vedere schermo, tastiera, posizione e messaggi: il problema della privacy diventa strutturale
Instinct sorprende gli utenti per le capacità operative, ma le sue condizioni d'uso e l'accesso totale ai dati personali mostrano limiti strutturali sul tema della sicurezza.
- Instinct promette di automatizzare viaggi, email, agenda e acquisti, ma per farlo chiede accesso esteso a schermo, tastiera, posizione e messaggi.
- I termini d'uso attribuiscono alla società una licenza sui contenuti degli utenti e la facoltà di compiere transazioni vincolanti a loro nome.
- Le prime prove hanno già mostrato email conservate dopo la revoca dell'accesso, codici di verifica estratti dai messaggi e invii senza conferma.
Instinct sorprende gli utenti per le capacità operative, ma le sue condizioni d’uso e l’accesso totale ai dati personali mostrano limiti strutturali sul tema della sicurezza.
- Accesso totale tra entusiasmo e rischi
- Termini di servizio e dati personali
- Il nodo della sicurezza e del controllo
Accesso totale tra entusiasmo e rischi
L’universo delle applicazioni basate sull’intelligenza artificiale registra l’arrivo di un nuovo protagonista che fa discutere gli addetti ai lavori.
Si tratta di Instinct, un assistente AI sviluppato dalla società Spear Street Technology e guidato da un piccolo gruppo di ricercatori capitanato da Noah Shinn.
La piattaforma, attualmente disponibile soltanto in fase di test privato su invito, sta attirando grande attenzione per capacità operative che diversi collaudatori non esitano a definire straordinarie.
Attraverso il semplice invio di messaggi via testo o tramite WhatsApp, il software si fa carico di compiti complessi che spaziano dalla pianificazione di spostamenti e viaggi alla ricerca di voli economici, fino all’organizzazione della posta elettronica, la gestione dell’agenda e la prenotazione di ristoranti o l’acquisto di beni online.
Tuttavia, un’efficienza di questo livello richiede una contropartita senza precedenti sul piano dell’invasività.
Per poter agire in modo autonomo, il sistema necessita dell’accesso integrato a un numero impressionante di risorse del dispositivo.
Il software monitora costantemente lo schermo, traccia ogni movimento del cursore, registra gli input digitati sulla tastiera, rileva la posizione geografica in tempo reale e legge messaggi, e-mail e flussi audio.
Ci troviamo di fronte a un cambio di paradigma che spinge l’utente verso un compromesso quotidiano sempre più stringente tra la comodità offerta dall’automazione digitale e la rinuncia al controllo riservato sulla propria vita personale.
Termini di servizio e dati personali
Le maggiori preoccupazioni formulate dagli esperti e dai primi utilizzatori non riguardano solo le funzioni tecniche, ma si concentrano sulla struttura legale della piattaforma.
La lettura delle condizioni d’uso rivela come alla società venga concessa una licenza perpetua e irrevocabile per ospitare, memorizzare, riprodurre, distribuire e persino modificare i contenuti inviati dagli utenti, compreso il loro utilizzo diretto per l’addestramento dei futuri modelli di intelligenza artificiale.
Ancora più rilevante è la clausola che autorizza il software a stipulare accordi o transazioni vincolanti a nome della persona che lo impiega.
Questa combinazione di poteri ha già fatto emergere problemi concreti nella gestione dei dati personali. Nel corso delle prime simulazioni sul campo, alcuni esperti di sicurezza hanno riscontrato che la piattaforma continuava a conservare nei propri server i messaggi di posta elettronica salvati in testo chiaro anche dopo che l’accesso all’account Gmail era stato revocato.
In altri contesti documentati, l’agente digitale è stato in grado di estrarre autonomamente dai messaggi in arrivo i codici di verifica temporanei per completare iscrizioni su siti terzi.
Altri collaudatori hanno invece evidenziato come il software abbia provveduto a inviare e-mail a destinatari esterni senza richiedere alcuna conferma preventiva, violando la sfera di controllo dell’utente.
Il nodo della sicurezza e del controllo
L’esperienza accumulata con questo tipo di strumenti mostra come la fiducia sia un elemento estremamente fragile nei servizi tecnologici moderni: una singola azione non autorizzata da parte del sistema rischia di cancellare l’utilità accumulata attraverso centinaia di attività svolte con successo.
Diversi analisti del settore evidenziano come la diffusione di strumenti sempre più autonomi stia modificando in profondità i concetti tradizionali di privacy e sicurezza.
Si diffonde la tendenza a cedere credenziali d’accesso e informazioni riservate ad applicazioni sviluppate da terzi con troppa disinvoltura, spesso senza comprendere dove e come questi file vengano realmente archiviati.
Nel frattempo, nonostante la crescita d’interesse dimostrata da importanti fondi di investimento della Silicon Valley, la società sviluppatrice mantiene una posizione di totale riserbo, evitando risposte pubbliche ai dubbi sollevati dalla community online.
La vicenda di Instinct riassume così una questione chiave che riguarda l’intero settore tecnologico: stabilire se la delega di compiti complessi valga davvero la perdita del possesso sui propri dati più intimi.
