Arrestata per aver rivelato un segreto oscuro a Claude: l'IA ha allertato la polizia
Una donna ha rivelato un segreto oscuro all'IA che ha avvisato la Polizia in modo da prevenire un possibile reato

Lo scorso 30 settembre, una donna in Florida è stata arrestata dalla polizia locale. Tutto è nato dall’intervento di Claude. Il chatbot IA, come riportato da WINK News, ha rilevato un “segreto oscuro” rivelato dalla donna durante una conversazione che poi Anthropic ha segnalato alle forze dell’ordine, dando il via all’iter che ha portato all’arresto.
Cosa è successo
Dalle ricostruzioni, la donna arrestata avrebbe detto a Claude di voler “sparare” contro l’ufficio dello sceriffo della contea di Lee, in Florida. Successivamente, la donna avrebbe anche confermato di essersi procurata una nuova pistola.
Claude ha monitorato le frasi della conversazione, effettuando il collegamento tra le due informazioni. Questo ha fatto scattare i sistemi di sicurezza interni dell’applicazione con Anthropic che ha poi avvisato la polizia dei rischi.
Il sistema prevede una revisione umana. In sostanza, l’IA avvisa un team dedicato di Anthropic in merito al contenuto potenzialmente pericoloso di una conversazione avviando una procedura di verifica da parte di addetti umani. In questo modo, è possibile evitare le allucinazioni e gli errori dell’IA.
Carmine Marceno, sceriffo che si è occupato del caso, ha dichiarato:
“L’intelligenza artificiale è uno strumento potente e, come ogni tecnologia, può essere usata in modo improprio. Quando qualcuno usa l’IA per creare o agevolare una minaccia, dobbiamo prendere sul serio tale minaccia. Gli utenti devono capire che non si è mai veramente anonimi”
Per gli utenti che rivelano informazioni al chatbot IA c’è, quindi, da considerare il fatto che la privacy non garantia e non si è anonimi.
Privacy protetta ma fino a un certo punto
L’informativa sulla privacy di Anthropic per gli utenti Claude, in vigore dallo scorso 10 settembre, chiarisce quali sono le linee guida nella gestione dei dati degli utenti e, in particolare, sulla questione della privacy.
Secondo tale informativa, Anthropic può condividere i dati personali con le forze dell’ordine qualora ritenga in buona fede che la divulgazione sia “ragionevolmente necessaria” per “prevenire gravi danni a persone o cose“.
La privacy non è garantita: se l’IA dovesse rilevare dei rischi, infatti, Anthropic potrebbe intervenire per cercare di prevenire un crimine, girando tutte le informazioni del caso alle forze dell’ordine. Sulla stessa linea si collocano anche altre aziende IA.
Nelle scorse settimane, negli Stati Uniti sono emersi vari casi analoghi. Come riportato da Tom’s Hardware, lo scorso agosto, le conversazioni di Claude hanno portato all’arresto di un uomo a San Antonio, con l’accusa di minacce terroristiche (l’uomo aveva parlato di una sparatoria in una scuola elementare vicina).
Lo scorso marzo, invece, un utente di ChatGPT aveva rivelato al chatbot la volontà di uccidere la sua ex fidanzata. Anche in questo caso, OpenAI è intervenuta segnalando il potenziale reato all’FBI. L’uomo si è poi dichiarato colpevole delle accuse (minacce di morte scritte) ed è stato condannato a otto anni di libertà vigilata.



















