Addio chat erotiche su ChatGPT: i motivi della decisione di OpenAI

iStock

OpenAI ha deciso di interrompere lo sviluppo della modalità erotica di ChatGPT. Una scelta che segna un cambio di rotta rispetto alle aperture dei mesi scorsi e che riflette tensioni interne, oltre a una revisione più ampia della strategia aziendale.

Secondo quanto emerso da diverse ricostruzioni, il progetto è stato sospeso a tempo indefinito. L’azienda non ha fornito commenti ufficiali sul futuro della funzione, limitandosi a non aggiungere dettagli su una sua eventuale introduzione.

• Cos’è la modalità erotica su ChatGPT?
• Perché è stata bloccata?
• Una scelta che rientra in un cambio di strategia
• Un tema aperto per tutta l’industria

Cos’è la modalità erotica su ChatGPT?

L’idea di una modalità per adulti era stata anticipata dall’amministratore delegato Sam Altman nell’autunno precedente. Il progetto prevedeva la possibilità, per utenti verificati come maggiorenni, di accedere a conversazioni di natura romantica o esplicita all’interno di un sistema controllato.

L’obiettivo era riconoscere maggiore autonomia agli utenti adulti, mantenendo al contempo adeguate protezioni per i minori. Nel corso dei mesi, tuttavia, la roadmap è cambiata più volte, tra rinvii progressivi che hanno portato allo stop attuale.

Perché è stata bloccata?

Le ragioni della sospensione non sono riconducibili a un unico fattore. All’interno dell’azienda sono emerse preoccupazioni legate all’impatto sociale di un chatbot capace di generare contenuti sessualizzati. Alcuni membri del consiglio consultivo dedicato al benessere e all’intelligenza artificiale hanno evidenziato il rischio di favorire forme di dipendenza emotiva o relazioni problematiche con il sistema.

Nel corso di una riunione interna, un consulente ha descritto il possibile esito come quello di un assistente in grado di rafforzare comportamenti dannosi, una definizione che ha contribuito ad alimentare il dibattito.

Accanto ai dubbi etici, sono emerse anche difficoltà tecniche. I modelli linguistici sono progettati per evitare contenuti espliciti e adattarli alla generazione controllata di materiale sessuale si è rivelato più complesso del previsto. L’uso di dataset contenenti contenuti sensibili ha inoltre portato alla produzione di risposte problematiche, difficili da filtrare in modo affidabile.

Un ulteriore problema riguarda la verifica dell’età. Il sistema in fase di sviluppo si basava su stime automatizzate, con margini di errore ritenuti troppo elevati per garantire che i contenuti restassero effettivamente limitati agli adulti.

Una scelta che rientra in un cambio di strategia

Negli stessi giorni, OpenAI ha ridimensionato o abbandonato altri progetti, tra cui la piattaforma video Sora e alcune funzionalità legate all’e-commerce integrate in ChatGPT.

Questi movimenti si inseriscono in una strategia più ampia, orientata a concentrare le risorse su prodotti ritenuti centrali, come gli strumenti per aziende e sviluppatori. La competizione con altri attori del settore, in particolare sul fronte dei servizi professionali e del coding, ha contribuito a ridefinire le priorità.

Anche gli investitori avrebbero espresso perplessità sul rapporto tra rischi e benefici di un prodotto legato ai contenuti per adulti, giudicato poco coerente con il posizionamento dell’azienda e con i suoi obiettivi di crescita.

Un tema aperto per tutta l’industria

Il caso evidenzia una questione più ampia che riguarda l’intero settore dell’intelligenza artificiale. L’uso di chatbot in contesti emotivi o intimi è già oggetto di studio e discussione, anche perché una parte degli utenti tende a utilizzare questi sistemi per ricevere supporto personale.

In assenza di dati consolidati sugli effetti a lungo termine, OpenAI ha scelto di rinviare ogni decisione, dichiarando l’intenzione di approfondire le implicazioni prima di introdurre funzionalità di questo tipo.

Per ora, quindi, l’ipotesi di chat erotiche su ChatGPT resta sospesa. Non è escluso che il tema possa riemergere in futuro, ma solo dopo aver affrontato nodi tecnici ed etici che, al momento, restano ancora lontani da una soluzione.