Su ChatGPT arrivano i contenuti per adulti, cosa cambia per il chatbot?

Shutterstock

In Sintesi

• OpenAI ha annunciato che introdurrà su ChatGPT contenuti più liberi, incluse interazioni erotiche, ma solo per utenti adulti con verifica dell’età.
• La decisione avviene nonostante le preoccupazioni etiche sul benessere mentale degli utenti vulnerabili e le lacune normative sulla moderazione dei contenuti generati dall’IA.

OpenAI si prepara a introdurre più libertà nei contenuti consentiti su ChatGPT, includendo anche la possibilità di interazioni erotiche destinate a utenti adulti. La decisione, annunciata dal CEO Sam Altman in un post su X, segna un cambio di rotta molto importante per l’azienda che, fino a oggi, aveva mantenuto rigide restrizioni per ragioni legate alla sicurezza e alla salute mentale delle persone che utilizzano il chatbot.

“Vogliamo trattare gli utenti adulti come adulti”, ha dichiarato Altman, sottolineando che le future versioni del tool potranno assumere un comportamento “più umano”, ma soltanto se l’utente lo desidera. Il nuovo approccio si allinea a una visione più aperta dell’intelligenza artificiale generativa, in cui la personalizzazione e la libertà di espressione diventano elementi centrali.

Perché ChatGPT vuole aprire ai contenuti erotici

Secondo Sam Altman, la versione attuale di ChatGPT è stata progettata deliberatamente per essere “piuttosto restrittiva” ed evitare che il chatbot potesse influire negativamente sul benessere mentale degli utenti. Tuttavia, con l’adozione di nuovi strumenti di moderazione e di gestione dei rischi, OpenAI ritiene di poter allentare le limitazioni.

A partire da dicembre, infatti, verranno implementati limiti di età più rigorosi e un sistema di verifica per gli adulti che desiderano accedere a contenuti erotici. L’obiettivo è creare una piattaforma più flessibile e al tempo stesso più responsabile, capace di offrire esperienze diversificate ma sempre nel rispetto della sicurezza degli utenti.

La mossa, senza nemmeno il bisogno di dirlo, ricorda quella di xAI, la società di Elon Musk, che recentemente ha introdotto due chatbot esplicitamente sessuali su Grok, rafforzando la competizione in un mercato in cui l’interazione “intima” tra uomo e intelligenza artificiale è sempre più richiesta.

Tuttavia bisogna ricordare che questa novità arriva in un momento delicato per OpenAI, con l’azienda che è coinvolta in un caso giudiziario negli Stati Uniti. A inizio anno, la società è stata citata in giudizio dai genitori di un adolescente, Adam Raine, morto suicida dopo aver confidato pensieri autolesivi a ChatGPT. La famiglia accusa OpenAI di omicidio colposo, sostenendo che il chatbot non abbia gestito adeguatamente le conversazioni a rischio.

Il caso ha, ovviamente fatto scalpore, sollevando dubbi sull’efficacia dei filtri di sicurezza e sul ruolo etico dei chatbot nelle interazioni emotive con utenti vulnerabili.

A prescindere da questo, però, l’annuncio di Altman potrebbe avere anche un significato economico. OpenAI, nonostante i ricavi in costante aumento, non è ancora riuscita a raggiungere la redditività e l’apertura ai contenuti per adulti potrebbe rappresentare una mossa per attrarre nuovi abbonati premium e consolidare la leadership nel mercato dei chatbot generativi.

Le preoccupazioni degli utenti

L’apertura di OpenAI a contenuti erotici sta già alimentando nuove preoccupazioni tra i legislatori. Nel Regno Unito, l’Online Safety Act impone la verifica dell’età solo per contenuti pornografici visivi, lasciando un vuoto normativo per quelli testuali o generati tramite intelligenza artificiale.

Negli Stati Uniti, invece, il dibattito si concentra sulla protezione dei minori e sulla mancanza di norme federali uniformi. Secondo alcuni esperti, OpenAI, e altre big tech, trattano gli utenti come cavie, un’affermazione che evidenzia una tensione crescente tra innovazione e responsabilità sociale.

Nel frattempo, la Federal Trade Commission (FTC) ha avviato un’indagine sulle modalità con cui i chatbot interagiscono con i minori, mentre al Senato è stata proposta una legge bipartisan che renderebbe i produttori di strumenti AI i diretti responsabili dei comportamenti dannosi dei loro sistemi.

Nonostante questi dubbi, però, il fenomeno è in crescita secondo alcuni studi, negli USA, uno studente su cinque dichiara di aver avuto una relazione sentimentale con un’intelligenza artificiale o di conoscere qualcuno che lo ha fatto. Questo dato suggerisce un cambiamento profondo nel modo in cui le nuove generazioni si rapportano alla tecnologia che non viene vista più come uno strumento di produttività, ma diventa un vero e proprio partner emotivo.

Per questo motivo diventa sempre più urgente un sistema normativo che possa proteggere gli utenti e che permetta loro di interagire in modo sicuro con i sistemi di intelligenza artificiale. Dall’altra parte, però, serve anche una maggiore consapevolezza delle persone, che devono interfacciarsi correttamente con questa tecnologia.