L'intelligenza artificiale ci sta portando nel futuro, ma vede le donne con gli occhi del passato

123RF

Sempre più istituzioni, banche e aziende prendono decisioni utilizzando sistemi di intelligenza artificiale, tutti quanti basati su enormi quantità di dati, necessari per poter fare previsioni accurate. Tuttavia, se da un punto di vista tecnico questi sistemi continuano a migliorare, resta ancora aperta una questione fondamentale: quella della disparità di genere; con le donne che continuano a essere penalizzate da bias e stereotipi prodotti dall’IA.

A sostenerlo è UN Women, che in vista del Dialogo globale delle Nazioni Unite sulla governance dell’intelligenza artificiale ha illustrato quali siano le criticità ancora presenti, e cosa fare per cambiare questo trend.

• I pregiudizi dell'IA riflettono stereotipi ancora radicati
• La supervisione umana resta ancora troppo limitata
• Pubblicità inclusiva con l'IA: una soluzione contro la discriminazione

I pregiudizi dell’IA riflettono stereotipi ancora radicati

Nonostante la sua crescente diffusione in vari ambiti (comunicazione, marketing, industria, fintech…), secondo UN Women ancora questi sistemi continuano a riprodurre pregiudizi di genere in modo sistematico.

Ad esempio, in uno studio dell’UC Berkeley Haas School of Business, condotto su 133 sistemi di intelligenza artificiale, è emerso che il 44% presentava bias di genere, mentre il quasi 26% mostrava contemporaneamente pregiudizi sia di genere sia razziali.

Tutti bias e pregiudizi non dettati da anomalie o allucinazioni dell’IA. Al contrario, secondo UN Women, questi risultati fanno parte di un fenomeno ampiamente documentato nei principali sistemi IA. Stando a uno studio UNESCO, i modelli linguistici di grandi dimensioni (LLM) associano frequentemente le donne a termini come “casa”, “famiglia” e “figli”, mentre agli uomini vengono collegati concetti come “affari”, “dirigente”, “stipendio” e “carriera”.

E fosse solo il problema dell’elaborazione IA. Secondo i dati raccolti da UN Women, tra le difensore dei diritti umani, le attiviste e le giornaliste intervistate, quasi una donna su quattro ha dichiarato di aver subito episodi di violenza online alimentati dall’intelligenza artificiale. Un ulteriore 6% ha invece dichiarato di essere stato preso di mira attraverso deepfake o immagini e video manipolati mediante strumenti IA.

La supervisione umana resta ancora troppo limitata

C’è da dire, però, che oggi molti dei pregiudizi generati dall’intelligenza artificiale potrebbero essere superati e corretti anche grazie a un adeguato controllo umano, necessario in ambiti come marketing e comunicazione, dove la rappresentazione è tutto.

Peccato che, secondo i dati riportati da UN Women, solo il 51% dei professionisti del marketing utilizza una verifica umana dei contenuti creativi generati dall’IA prima della loro pubblicazione.

Se si continua dunque a produrre contenuti IA con estrema rapidità e spesso senza un’adeguata analisi umana né una prospettiva di genere, disuguaglianza e discriminazione di genere continueranno a essere perpetuati dagli algoritmi, penalizzando ancora di più le donne in ambito sociale.

Pubblicità inclusiva con l’IA: una soluzione contro la discriminazione

Non mancano comunque le soluzioni. Per affrontare queste criticità, UN Women propone un approccio che integri la prospettiva di genere lungo tutto il ciclo di sviluppo dell’intelligenza artificiale.

Nel caso della rappresentazione stessa delle donne, l’organizzazione rimanda ai risultati di uno studio globale realizzato attraverso Unstereotype Alliance, iniziativa promossa dalla stessa UN Women, secondo cui una pubblicità inclusiva (generata anche con l’IA) produce benefici concreti anche dal punto di vista economico.

I marchi che realizzano campagne pubblicitarie prive di stereotipi di genere registrano infatti un incremento delle vendite a breve termine del 3,46% e una crescita del 16,26% nel lungo periodo.

Dal momento che ormai l’intelligenza artificiale è destinata a ricoprire un ruolo sempre più centrale nella pianificazione e nella produzione delle campagne pubblicitarie, ai marchi potrebbe convenire integrare l’inclusione all’interno di questi processi: ne avrebbero un vantaggio competitivo rispetto a quelli che continueranno invece a trascurarla, i quali anzi rischieranno di esporsi a importanti conseguenze reputazionali e commerciali.