Apple e Google: milioni dalle app che mettono a nudo le persone nonostante i divieti

iStock

Un’indagine indipendente riporta sotto i riflettori il ruolo delle piattaforme digitali nella diffusione delle cosiddette “nudify app”, strumenti basati su intelligenza artificiale capaci di generare immagini sessualizzate senza consenso. Nonostante politiche ufficiali che vietano contenuti di questo tipo, Apple e Google continuano a ospitare e, in alcuni casi, a promuovere applicazioni che sfruttano queste funzionalità.

Secondo il report del Tech Transparency Project, il problema riguarda sia la presenza delle app negli store sia le modalità con cui vengono rese visibili. I suggerimenti automatici e la pubblicità interna indirizzano gli utenti verso questi strumenti, amplificandone la diffusione. Non si tratta, quindi, di contenuti marginali difficili da individuare, ma di applicazioni facilmente accessibili anche attraverso ricerche comuni.

• Cosa sono le Nudify app e perché sono un problema?
• I divieti per le app che “spogliano”
• App Store, Google Play e le app “nudify”

Cosa sono le Nudify app e perché sono un problema?

Le nudify app utilizzano modelli generativi per intervenire su immagini reali, simulando la nudità dei soggetti ritratti o inserendoli in contesti espliciti. In molti casi è sufficiente caricare una fotografia e inserire un prompt per ottenere un risultato. Il rischio è evidente: queste tecnologie permettono di creare contenuti sessuali senza il consenso delle persone coinvolte, aprendo la strada a forme di abuso digitale difficili da contenere.

I test condotti dai ricercatori mostrano che una quota significativa delle applicazioni disponibili negli store è in grado di produrre immagini di questo tipo. Il fenomeno si inserisce in un contesto più ampio, segnato dalla crescita dei deepfake e dall’aumento dei casi segnalati anche in ambito scolastico.

I divieti per le app che “spogliano”

Sulla carta, le regole esistono. Le linee guida di App Store vietano contenuti pornografici o offensivi, mentre Google Play Store proibisce applicazioni che promuovono la sessualizzazione non consensuale o che dichiarano di “spogliare” le persone. Nonostante questo, l’indagine mette in evidenza diverse criticità nei meccanismi di controllo.

Uno dei temi riguarda la capacità delle app di presentarsi come strumenti generici di editing fotografico. Spesso le funzionalità più controverse emergono solo dopo l’installazione oppure restano nascoste dietro descrizioni ambigue. Questo rende più complessa la loro individuazione nelle fasi di revisione.

App Store, Google Play e le app “nudify”

I numeri aiutano a inquadrare la portata del fenomeno. Le applicazioni individuate dal report hanno raggiunto complessivamente 483 milioni di download e generato circa 122 milioni di dollari di ricavi. Una parte di questi introiti deriva da abbonamenti e acquisti in-app, su cui le piattaforme trattengono una quota.

Un ulteriore elemento critico riguarda la classificazione per età. L’indagine ha individuato decine di app etichettate come adatte a tutti, quindi accessibili anche ai minori. Una valutazione che contrasta con le funzionalità effettive e con i rischi legati al loro utilizzo.

Dopo la pubblicazione del report, entrambe le aziende hanno avviato interventi di rimozione. Apple ha eliminato alcune delle app segnalate, mentre Google ha sospeso diversi contenuti e avviato verifiche. Il problema, però, tende a ripresentarsi nel tempo, con nuove applicazioni che prendono il posto di quelle rimosse.

La questione resta aperta e riguarda la moderazione dei contenuti e anche il funzionamento degli algoritmi che ne determinano visibilità e diffusione. Con l’evoluzione degli strumenti di intelligenza artificiale, la capacità delle piattaforme di intervenire in modo efficace diventa un tema centrale nel dibattito sulla responsabilità delle grandi aziende tecnologiche.