ChatGPT potrà allertare un contatto fidato nei casi di rischio suicidio
Con Trusted Contact, ChatGPT permette di selezionare contatti fidati: ecco tutto quello che c'è da sapere sulla nuova funzionalità dell'assistente AI
ChatGPT continua a registrare l’arrivo di novità, con OpenAI che punta a rendere il suo assistente AI un vero e proprio punto di riferimento per gli utenti che possono utilizzare l’applicazione come un vero e proprio chatbot ma anche per la ricerca online e per molte altre funzionalità.
L’ultima novità del programma di crescita di ChatGPT è rappresentata dalla funzione Trusted Contact. Si tratta di un nuovo elemento opzionale che OpenAI metterà a disposizione degli utenti.
In questo modo sarà possibile selezionare un contatto fidato, come un amico, un familiare o un assistente, che sarà avvisato nel caso in cui i sistemi automatizzati o i revisori qualificati dell’azienda rilevino casi di autolesionismo e problemi di sicurezza personale per l’utente.
Con Trusted Contact, quindi, ChatGPT sarà in grado di avvisare un contatto fidato in caso di rischio di suicidio da parte dell’utente che utilizza il servizio. Il sistema si basa sul meccanismo delle notifiche di sicurezza implementate per il controllo parentale.
Andiamo a scoprire tutti i dettagli.
Come funziona
Il sistema Trusted Contact è molto semplice: gli utenti possono aggiungere un adulto come contatto fidato dalle impostazioni di ChatGPT, servizio che nel frattempo ha sviluppato un’ossessione per i goblin.
L’adulto aggiunto riceverà un invito che spiegherà il suo ruolo e dovrà accettarlo entro una settimana affinché la funzione venga attivata. Completato questo passaggio preliminare, il servizio sarà attivo.
A questo punto, i sistemi di monitoraggio automatico di ChatGPT avviseranno il contatto fidato nel caso in cui l’utente mostri un rischio di autolesionismo e possibile suicidio, offrendo anche consigli su come comportarsi.
Come chiarito da Open AI: “La notifica è volutamente limitata. Condivide il motivo generale per cui è emerso un potenziale problema di autolesionismo e incoraggia il contatto di fiducia a contattarlo. Non include dettagli o trascrizioni della chat per tutelare la privacy dell’utente“.
Ricordiamo che ChatGPT è progettato per aiutare gli utenti: in determinate situazioni, infatti, il chatbot può incoraggiare le persone a richiedere assistenza, anche fornendo indicazioni precise su come ottenere supporto.
L’AI è stata migliorata per offrire risposte più attente e individuare segnali di potenziale disagio. In alcune situazioni, inoltre, ChatGPT suggerisce di fare una pausa dopo un utilizzo prolungato ed è anche in grado di rifiutare istruzioni per il suicidio e l’autolesionismo.
Con Trusted Contact, quindi, il chatbot diventa ancora più completo e in grado di affrontare situazioni di questo tipo, garantendo una protezione per l’utente e diventando un sostegno importante per affrontare problemi di salute mentale.
Com’è stato sviluppato il servizio
Trusted Contact è stato sviluppato da Open AI sfruttando la consulenza di professionisti del settore della salute mentale, ricercatori e organizzazioni specializzate. Si tratta, quindi, di un servizio che punta a rendere più sicuro l’utilizzo di ChatGPT, anche in considerazione del crescente numero di utenti che usano il chatbot per affrontare situazioni legate alla salute mentale. Per saperne di più è possibile consultare l’apposita sezione del sito di Open AI.
