Questo artista ha sfidato la sorveglianza AI, e ha vinto. Come? Con una particolare camicia
Simon Weckert ha ideato una camicia colorata in grado di ingannare gli algoritmi di videosorveglianza urbana. Sfruttando i punti ciechi delle reti neurali, il capo rende chiunque invisibile ai rilevatori.
L’intelligenza artificiale si sta legando sempre più a doppio filo ai sistemi di videosorveglianza urbana. Il che non è un male visto che può offrire un notevole supporto alle forze dell’ordine per rintracciare individui pericolosi o gestire le emergenze. Il problema semmai è che, per cittadini e passanti, non è il massimo per quanto riguarda la libera circolazione.
E lo sa bene l’artista e designer Simon Weckert, che ha risposto all’avanzata (se non deriva) del controllo automatizzato con una camicia hawaiana molto colorata. Fin troppo per i sistemi di IA delle telecamere: appena la indossa, diventa praticamente invisibile agli occhi degli algoritmi.
- Come Weckert ha ideato questo camouflage digitale anti-IA
- La camicia contro la sorveglianza artificiale è un prodotto dell'IA
- Continua il fronte anti-IA nella videosorveglianza
Come Weckert ha ideato questo camouflage digitale anti-IA
L’idea è nata come reazione diretta a un progetto pilota di videosorveglianza basato sull’intelligenza artificiale avviato nella piazza di Kottbusser Tor, a Berlino. In breve, Weckert voleva impedire che chi la indossava venisse riconosciuto dai sistemi, così ha ideato un capo che facesse da camouflage digitale (così come il nome del progetto, “Digital Camouflage”).
Grazie all’interazione tra i motivi geometrici e la combinazione di tonalità vivaci, la camicia risulta eccentrica davanti a un occhio normale, ma disturbante per i sensori delle reti neurali.
Come spiega lo stesso Weckert, i modelli di intelligenza artificiale sono strutturati su più livelli e non comprendono cosa sia un essere umano in senso concettuale. “Non hanno mai imparato cosa sia un essere umano: hanno imparato come appaiono statisticamente gli esseri umani in milioni di immagini di addestramento”.
Giocando su questo limite dell’IA, le transizioni di colore molto sature stimolano in modo aggressivo i primi strati della rete e al tempo stesso le forme sovrapposte interrompono la continuità del contorno del corpo. In questo modo, l’algoritmo non riesce più a ricomporre le singole parti in una sagoma unitaria.
La camicia contro la sorveglianza artificiale è un prodotto dell’IA
Ironia della sorte, Weckert ha sviluppato la grafica della camicia utilizzando la stessa intelligenza artificiale che intendeva ingannare. Il designer ha testato diverse varianti sfruttando un processo iterativo noto come “ciclo avversariale”.
Per farla breve, consiste nel generare un motivo grafico, mostralo al sistema di rilevamento, misurare il livello di sicurezza con cui la macchina individua la figura umana e apportare modifiche consecutive fino a far crollare la percentuale di accuratezza.
Non poteva fare diversamente: secondo Weckert i punti ciechi degli algoritmi non seguono la logica della percezione umana. “Non si può progettare contro la percezione della macchina con l’occhio, solo la macchina può dirti cosa non riesce a vedere”.
A tal riguardo, i test sulla camicia sono stati condotti utilizzando YOLO, un noto sistema open source di rilevamento degli oggetti in tempo reale.
Continua il fronte anti-IA nella videosorveglianza
Che la gente stia cominciando a opporsi ai sistemi di videosorveglianza IA non è una novità. Sempre con YOLO sono stati sperimentati altri capi tecnici, come gli indumenti in maglia pensati per schermare i dati biometrici senza dover coprire il volto.
In effetti, dopo le polemiche intorno a Palantir, il dibattito sull’uso di questi strumenti si è intensificato notevolmente, creando vere e proprie fazioni.
Da una parte, i sostenitori dell’IA come aiutante delle forze dell’ordine nel velocizzare l’individuazione di potenziali pericoli, grazie alle sue indubbie capacità di scoprire soggetti per via biometrica in tempi microscopici.
Dall’altro, il fronte di chi vede in quest’innovazione una mina al principio della presunzione di innocenza. Lo stesso Weckert sottolinea questo aspetto nel suo blog. Per riuscire a individuare un gesto violento, come un pugno, “questi sistemi devono classificare anche i balli, gli abbracci e innumerevoli altri gesti del tutto innocui“. Il risultato? “Tutti vengono analizzati, continuamente”.
E così, in nome della sicurezza, ogni cittadino diventa un soggetto costantemente osservato.
1984?
FAQ
La camicia usa colori molto saturi e motivi geometrici per confondere le reti neurali delle telecamere. I contorni del corpo si interrompono e l’algoritmo fatica a riconoscere la sagoma umana.
I sistemi di rilevamento leggono pattern e forme statistiche, non la persona in senso concettuale. Le transizioni di colore e le sovrapposizioni mandano in crisi i livelli iniziali della rete.
Perché mette in luce il conflitto tra sicurezza e privacy. L’IA può aiutare le forze dell’ordine, ma per funzionare analizza continuamente tutti, con il rischio di colpire anche persone innocue.
