L'Intelligenza Artificiale discrimina le donne? I rischi del pregiudizio di genere
Dire che l'Intelligenza Artificiale sia sessista è un'esagerazione? O forse no: i dati raccolti da UNESCO e IRCAI dipingono un quadro ben preciso.
Contrariamente alla percezione comune di una tecnologia “fredda” e imparziale, i Large Language Models (LLM) agiscono come specchi che riflettono e amplificano i pregiudizi della società. A dirlo è un interessante rapporto redatto da UNESCO e IRCAI, che sottolinea come questi sistemi, addestrati su enormi quantità di dati prelevati dal web, non si limitino a elaborare informazioni ma apprendono inavvertitamente le discriminazioni presenti nei materiali di addestramento. E sì, a farne le spese sono anche le donne.
Il rapporto UNESCO-IRCAI su AI e donne
Come si legge nell’analisi Challenging systematic prejudices: an investigation into bias against women and girls in large language models, le associazioni mentali delle macchine sono rimaste ferme a modelli sociali del passato.
Mediante test di associazione di parole simili ai protocolli della psicologia sociale, i ricercatori hanno appurato che i nomi femminili vengono associati con frequenza maggiore a termini come “casa”, “famiglia”, “figli”, “matrimonio”, a differenza di quelli maschili che richiamano concetti estremamente diversi che hanno a che fare con “lavoro”, “business”, “stipendio”, “carriera”. Non parliamo solo di statistica, ma di uno schema che influenza la percezione degli utenti nel breve e lungo termine.
Basta fare un esempio molto semplice: quando chiediamo a un’AI di descrivere un leader, ci viene automaticamente proposta la figura di un uomo. E di esempi non ne mancano, anche quando questi bias si ampliano, toccando etnia e cultura.
“Oltre ai benefici che si presume abbia – si legge nel rapporto -, l’AI presenta anche seri rischi per la società, rendendo l’implementazione di quadri normativi per ridurli un imperativo globale”, perciò l’UNESCO fa una raccomandazione in merito all’etica dell’AI: “Gli attori dell’AI dovrebbero compiere ogni ragionevole sforzo per minimizzare ed evitare di rafforzare o perpetuare applicazioni e risultati discriminatori o distorti durante l’intero ciclo di vita del sistema di AI, al fine di garantire l’equità di tali sistemi”.
Ma perché accade tutto questo?
La domanda è più che lecita e la risposta, a differenza di quanto si possa credere, non è poi così complessa. Come spiega Helosie Greef, ricercatrice di Oxford: “I pregiudizi algoritmici colpiscono le donne soprattutto perché i modelli di AI imparano dai dati storici, che spesso riflettono le disparità di genere esistenti e le disuguaglianze sistemiche del mondo reale”, riporta Alley Oop. Dunque, se abbiamo set di dati che rappresenta poco le donne (o non le rappresenta affatto), l’algoritmo potrebbe non essere addestrato a riconoscerle.
Non esiste un’AI buona o un’AI cattiva. Semplicemente, bisogna intervenire a monte: “Avere più donne nei posti chiave delle nuove tecnologie è l’esigenza attuale – dice Greef – (…) È una disparità che c’è sempre stata ma che oggi l’Intelligenza Artificiale sta catturando. In questo momento il ruolo delle donne è dunque quello di portare consapevolezza ai vari tavoli perché credo che sia la cosa più importante per affrontare le disuguaglianze nell’acquisizione dei dati”.
Le donne rappresentano il 12% dei ricercatori di AI a livello globale e il 6% dei programmatori professionisti. Decisamente poche. Ecco perché UNESCO e IRCAI hanno chiesto di intervenire in tal senso, soprattutto sul finanziamento di programmi di parità di genere all’interno delle Big Tech e nell’istruzione STEM per le ragazze, già nelle scuole.
