Las cámaras de vigilancia ya no se limitan a grabar pasivamente: gracias a la visión artificial basada en inteligencia artificial, pueden reconocer y etiquetar en tiempo real qué o quién aparece en su campo de visión. Pero algunos artistas han comenzado a explorar cómo burlar esos sistemas.
Simon Weckert, artista digital alemán residente en Berlín, ha creado Digital Camouflage (Camuflaje Digital), una camisa hawaiana cuyo diseño logra que los modelos de IA de detección de personas no reconozcan a quien la lleva. Mientras que para el ojo humano la prenda exhibe patrones y colores llamativos, para un sistema de visión artificial la silueta simplemente desaparece.
«Los sistemas de IA están formados por múltiples capas y nunca aprendieron qué es un humano: aprendieron cómo se ven estadísticamente los humanos en millones de imágenes de entrenamiento», explica Weckert en declaraciones recogidas por Dezeen. La prenda fue desarrollada como respuesta al proyecto de videovigilancia con IA previsto para la plaza berlinesa de Kottbusser Tor.
Cómo funciona el engaño visual
Los modelos de IA aprenden a identificar personas mediante conjuntos de estadísticas visuales: la silueta de cabeza y hombros, las proporciones de brazos y torso. Weckert detectó que esa dependencia de patrones estadísticos era también una vulnerabilidad explotable.
La combinación específica de colores saturados y formas superpuestas de la camisa satura las capas tempranas de procesamiento de la red neuronal. «Las transiciones de color saturado disparan fuertemente las primeras capas de la red, mientras que las formas superpuestas rompen la continuidad del contorno corporal, por lo que el detector ya no puede unir las partes en una sola figura», señala el artista. «El patrón esencialmente grita por encima del susurro estadístico silencioso que dice ‘persona’. Para un humano se lee como un textil casi hipnótico; para el modelo de IA se lee como nada».
Para dar con el diseño definitivo, Weckert empleó otra IA en lo que se conoce como adversarial loop (bucle adversarial): probó variaciones iterativas hasta encontrar un patrón capaz de engañar a los sistemas de visión artificial. Posteriormente, testó la prenda frente a Yolo, un modelo de código abierto especializado en detección de objetos en tiempo real.
«Esto fue necesario porque los puntos ciegos de una máquina no son intuitivos para los humanos; no puedes diseñar contra la percepción de una máquina a simple vista, solo la máquina puede decirte qué no logra ver», añade. «Hay una simetría poética en ello: la misma clase de IA que vigila la plaza también le enseñó a la camisa cómo ocultarse».
Precedentes y contexto tecnológico
No es la primera vez que prendas de vestir se diseñan para burlar sistemas de vigilancia. La denominada hacker hoodie (sudadera hacker) incorporaba LEDs infrarrojos de alta potencia cosidos en el tejido, capaces de cegar las cámaras que dependen de luz infrarroja para captar imágenes en condiciones de baja luminosidad.
Weckert saltó a la notoriedad años atrás cuando utilizó 99 teléfonos móviles para simular un atasco de tráfico ficticio en Google Maps, demostrando cómo sistemas aparentemente robustos pueden ser manipulados mediante estrategias sencillas pero creativas.
El proyecto Digital Camouflage plantea preguntas sobre la fiabilidad de la videovigilancia automatizada y la capacidad de respuesta ciudadana ante tecnologías de control cada vez más presentes en espacios urbanos. Según informa Dezeen, fuente original de la noticia recogida por PetaPixel, la prenda ha sido presentada como una declaración artística sobre privacidad y vigilancia masiva en la era de la inteligencia artificial.