Invisibili ai controlli: la mimetica che confonde l’intelligenza artificiale
Una Toyota Yaris ricoperta con un disegno generato dall’IA è riuscita a mettere in difficoltà un sistema di videosorveglianza Flock. La telecamera continua a vedere l’auto, ma l’algoritmo non la riconosce
L'auto invisibile
Non è un’auto invisibile, ma quasi. La telecamera continua a riprendere la vettura, ma il software che analizza le immagini può avere difficoltà a capire che cosa effettivamente sta guardando. È questo il principio alla base del progetto noRecognition, sviluppato dal ricercatore di sicurezza informatica Bill Swearingen. Per la dimostrazione è stata utilizzata una Toyota Yaris vestita di un particolare pattern appositamente studiato per confondere i sistemi di computer vision. Il disegno è stato generato attraverso un processo automatico nel quale un modello produceva continuamente nuove combinazioni, verificandone l’efficacia contro diversi algoritmi e modificandole sulla base dei risultati ottenuti.
L’auto non scompare
Il concetto più importante è che il rivestimento non oscura la vettura nè interferisce con la telecamera. Se qualcuno osservasse il filmato, vedrebbe normalmente l’auto. Il “trucco” sta nel passaggio successivo: quello nel quale l’intelligenza artificiale identifica e classifica ciò che compare nell’immagine. Nel caso dei sistemi Flock, le telecamere utilizzano algoritmi per riconoscere e organizzare informazioni sui veicoli, come targa, tipologia, colore e altre caratteristiche. Se l’algoritmo non identifica correttamente il soggetto come un’automobile, può quindi diventare più difficile recuperare e classificare automaticamente quelle immagini.
Un risultato ancora da verificare
Qui serve cautela. I cosiddetti adversarial pattern sono già studiati da anni: si tratta di immagini o motivi progettati per sfruttare le debolezze dei sistemi di visione artificiale. Il risultato può però cambiare sensibilmente in funzione di distanza, angolazione, illuminazione, modello della telecamera e dimensione del pattern nell’inquadratura. Lo stesso progetto noRecognition presenta quindi la ricerca come uno studio sui punti deboli dei sistemi di riconoscimento e non come una soluzione universale per sfuggire alla videosorveglianza. In altre parole, l’auto non diventa invisibile, ma solo più difficile da riconoscere per un algoritmo.
Un tema che riguarda anche le auto
La questione è interessante anche per un altro motivo. I sistemi di computer vision non vengono utilizzati soltanto dalle telecamere di sorveglianza: la capacità di riconoscere e classificare automaticamente ciò che compare davanti a un obiettivo è alla base di una parte importante delle tecnologie moderne di assistenza alla guida e, più in generale, della ricerca sulla guida autonoma. Cosa potrebbe succedere, ad esempio, se una telecamera montata su di un’auto a guida autonoma smettesse di riconoscere un altro veicolo come tale a causa di una particolare verniciatura o di un’angolazione “sbagliata”? Auto a guida autonoma: i motociclisti possono fidarsi dell’intelligenza artificiale?
