L'AI a misura di bambino, cosa sono le Storie di Character.AI

metamorworks/Shutterstock

In Sintesi

• Character.AI ha introdotto la modalità “Storie” come una forma di narrativa interattiva guidata e controllata per gli utenti sotto i 18 anni, a seguito della decisione di rendere i chatbot inaccessibili a quella fascia d’età negli Stati Uniti.
• Questa misura è una risposta alle crescenti pressioni e ai rischi psicologici (come la dipendenza) associati ai chatbot aperti, ritenuti pericolosi per il pubblico più giovane.

Character.AI ha annunciato l’arrivo di Storie, una nuova modalità narrativa interattiva pensata per consentire ai più piccoli di continuare a interagire con i loro personaggi preferiti, ma in un ambiente più controllato.

La novità arriva a seguito della decisione di rendere inaccessibili i chatbot agli utenti sotto i 18 anni negli USA, una misura che segna un cambiamento significativo nel modo in cui la piattaforma gestisce il proprio pubblico.

La scelta è anche il risultato di crescenti pressioni pubbliche e legali legate ai rischi psicologici associati ai chatbot AI perché, in effetti, strumenti disponibili 24 ore su 24 e spesso capaci di instaurare un rapporto emotivo, possono causare dipendenza nei più giovani.

A cosa servono le Storie di Character.AI

Secondo Character.AI , la modalità Storie “offre un modo guidato per creare ed esplorare la narrativa, al posto delle chat aperte”. La funzione sarà integrata con il resto degli strumenti multimodali della piattaforma, in modo che gli adolescenti possano continuare a vivere esperienze creative con i personaggi, ma all’interno di un contesto più prevedibile e meno incline a generare dipendenza.

L’idea si inserisce in una tendenza più ampia che vede la narrativa interattiva in forte crescita, alimentata da piattaforme di storytelling e videogiochi che permettono ai lettori di influenzare lo svolgimento della trama. Tuttavia, il passaggio dai chatbot alle Storie rappresenta più una misura di sicurezza che un’evoluzione di prodotto. Resta incerto se questa soluzione riuscirà a soddisfare gli utenti che negli anni hanno creato legami intensi con gli assistenti virtuali.

La differenza tra le chatbot e Storie è enorme: i primi instaurano conversazioni aperte, rispondono a qualsiasi stimolo e possono addirittura inviare messaggi non richiesti, creando un rapporto continuo e talvolta invasivo.

Le Storie, invece, propongono narrazioni guidate e finite, senza conversazioni spontanee né interazioni imprevedibili. La dinamica è più simile a un gioco narrativo che a una relazione digitale, riducendo i rischi di coinvolgimento emotivo.

La normativa USA, un campanello d’allarme per l’AI

La California è diventata il primo stato americano a regolamentare l’uso dell’IA come compagno digitale, stabilendo limiti severi e imponendo nuove responsabilità alle aziende che progettano strumenti conversazionali. Parallelamente è stato presentato un disegno di legge federale che vieterebbe completamente l’uso dell’AI come “compagno di gioco” per i minori, proponendo uno dei più rigidi interventi mai discussi sul tema.

La cosa, ovviamente, riguarda solo gli Stati Uniti ma è chiaro che, visto l’evolversi di questa tecnologia, anche per l’Europa serva un sistema normativo più efficiente, capace di regolamentare dettagliatamente l’utilizzo di questi strumenti, soprattutto per proteggere minori e gli utenti più fragili.

E il cambio di rotta di Character.AI, potrebbe rappresentare dunque un paradigma nell’industria dell’AI con le aziende che oggi si trovano oggi a dover gestire le implicazioni sociali e psicologiche dei loro strumenti, soprattutto quando coinvolgono utenti vulnerabili.

Storie, dunque, potrebbe essere il banco di prova per un nuovo modello di intelligenza artificiale, più regolamentato e più sicuro, cosa che probabilmente si rifletterà anche sul resto degli strumenti simili sul mercato influenzando, probabilmente, anche le future scelte dell’Europa.