Chat inappropriate e avances sessuali, i chatbot di Meta finiscono nella bufera

In Sintesi

• Un’indagine di Reuters ha sollevato dubbi sui chatbot di Meta, che utilizzano immagini di celebrità per conversazioni inappropriate.
• L’azienda ha ammesso una “mancata applicazione delle politiche” e ha annunciato modifiche per evitare conversazioni su temi delicati.

Pochi giorni fa un’indagine di Reuters ha sollevato dubbi e preoccupazioni all’utilizzo che Meta farebbe dei nomi e delle immagini di celebrità per creare chatbot provocanti senza il loro consenso. A preoccupare sono soprattutto le interazioni di questi chatbot AI di Meta con i minori che, in alcuni casi hanno avuto conseguenze molto gravi, portando addirittura a un suicidio. Per questa ragione l’azienda di Menlo Park avrebbe introdotto delle modifiche alle politiche che regolano i suoi sistemi di intelligenza artificiale che, seppur provvisorie, rappresentano un primo tentativo di affrontare le problematiche del complesso rapporto tra i più piccoli e queste nuove tecnologie.

Quali sono le accuse nei confronti di Meta

Secondo il rapporto di Reuters, Meta avrebbe utilizzato immagini e nomi di celebrità (come Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez) per creare dei chatbot AI che intrattenevano conversazioni “sconvenienti” con gli utenti.

Molti di questi bot, ad onor del vero, sono stati creati da utenti esterni alla piattaforma, tuttavia dall’indagine è emergo che almeno tre di questi chatbot, inclusi quelli che “imitavano” Taylor Swift, sono stati prodotti direttamente da un dipendente di Meta.

Oltre a questo, è emerso anche che l’azienda di Menlo Park avrebbe consentito la creazione di chatbot di celebrità minorenni, come un attore di 16 anni che sarebbe stato protagonista di conversazioni inappropriate.

Durante i test effettuati, Reuters ha riscontrato che i bot non solo si spacciavano per le celebrità reali, ma facevano regolarmente avances sessuali, invitando addirittura gli utenti a incontrarsi di persona.

La risposta di Meta a questo problema

In risposta a queste accuse, Meta ha dichiarato a Reuters che gli strumenti di intelligenza artificiale dell’azienda non avrebbero dovuto creare immagini intime o inappropriate, ammettendo che questa è una “mancata applicazione delle politiche aziendali“, che vietano la creazione di tali contenuti.

Tuttavia, nonostante queste regole la creazione di chatbot che “simulano” personaggi famosi sono ritenute “accettabili” se etichettati come parodie. L’indagine, però, ha dimostrato che molti di questi bot non erano etichettati in modo adeguato e alla fine Meta ha rimosso svariati bot.

La questione è delicata e, naturalmente, ancora aperta soprattutto perché, come evidente, i sistemi di sicurezza implementati dall’azienda di Menlo Park si sono rivelati inadeguati. Ora sembrerebbe che Meta abbia intenzione di fare dei cambiamenti nella programmazione dei suoi chatbot, ribadendo la volontà di addestrare propri sistemi per evitare conversazioni con gli adolescenti su temi delicati come l’autolesionismo, il suicidio, i disturbi alimentari e i discorsi di natura romantica o sessuale.

Questo solleva anche ulteriori dubbi sull’effettiva sicurezza degli utenti in rete e visto che si parla di piattaforme (Facebook, Instagram e WhatsApp) che hanno un bacino di utenti enorme, è chiaro che comportamenti del genere siano considerati estremamente preoccupanti, richiedendo provvedimenti immediati.