Un diseñador berlinés afirma que su camisa de "camuflaje digital" de 88 dólares oculta a quien la usa de las cámaras con inteligencia artificial

El artista berlinés Simon Weckert ha creado una camisa abotonada llamada Camuflaje Digital que las cámaras de vigilancia con IA no logran reconocer como un ser humano.

La creación de esta prenda es una respuesta directa a la puesta en marcha este mes del sistema de vídeo con inteligencia artificial en la estación de transporte Kottbusser Tor de la ciudad.

¿Cómo puede una camisa protegerte de la vigilancia?

Simon Weckert, un artista berlinés, ha lanzado una camiseta llamada Camuflaje Digital, que, según se informa, puede reducir la confianza de un software de detección de objetos a la hora de reconocer a un ser humano.

Weckert afirmó que estos sistemas nunca aprendieron realmente qué es una persona, sino que solo aprendieron cómo tienden a verse las personas a través de millones de fotos de entrenamiento: los bordes y la textura en las primeras capas, y luego el contorno de la cabeza y los hombros y las proporciones de las extremidades en capas más profundas.

El camuflaje digital explota ese método de entrenamiento con una llamativa maraña de formas rosas, naranjas y verdes.

Weckert explicó que los colores saturados iluminan las primeras capas de una red, mientras que las formas superpuestas distorsionan el contorno del cuerpo hasta el punto en que el detector no puede volver a unir las piezas para formar una sola figura.

Para un ser humano, la camisa parece un estampado hawaiano hipnótico, pero para los modelos de vigilancia, no significa nada.

Weckert construyó el patrón mediante un "bucle adversario", en el que generaba una huella candidata, se la mostraba a un detector, medía la certeza del software de que seguía viendo a una persona, y luego ajustaba y repetía el proceso hasta obtener resultados satisfactorios.

Según se informa, utilizó un método generativo denominado TC-EGA (Toroidal-Cropping-based Expandable Generative Attack) para ejecutar esas rondas y probó los resultados contra YOLO, un sistema de detección de código abierto en tiempo real construido sobre la misma clase de tecnología que se encuentra detrás de muchos productos de vigilancia comerciales.

Sin embargo, Weckert aclaró que la camiseta no fue diseñada para burlar una cámara gubernamental en particular, sino para cuestionar cuánta confianza merece un sistema si una tela barata puede vencerlo.

En su sitio web, subraya que la camiseta “no garantiza el anonimato” y no afirma nada sobre su implementación específica, precisamente porque personas ajenas a la organización no pueden probar esos sistemas. La prenda se vende por aproximadamente 88 dólares, y una parte de cada venta se destina a grupos de defensa de los derechos civiles digitales.

¿Por qué la gente busca de repente protección contra la vigilancia?

La página web de Weckert explica que se instalarán cámaras, a las que él denomina escáneres de comportamiento, en Kottbusser Tor, una concurrida estación de metro en el distrito de Kreuzberg, en Berlín. El software está diseñado para clasificar a los transeúntes como "normales" o "sospechosos". Weckert cree que próximamente se instalarán cámaras en otras tres ubicaciones de Berlín.

En Estados Unidos, el gobernador de Texas, Greg Abbott, ordenó el jueves por la noche a las agencias estatales que dejaran de financiar a Flock Safety, cuyos lectores de matrículas suman más de 120.000 en 49 estados. El senador republicano Josh Hawley también inició una investigación sobre cómo la empresa gestiona los datos recopilados.

Los lectores de matrículas de Flock Safety han recibido importantes críticas tras las denuncias de que agentes de la ley abusan gravemente del sistema con fines personales, como traca exnovias, cónyuges y rivales sentimentales.

En un caso extremo, un agente de policía de Kentucky accedió al sistema Flock aproximadamente 2000 veces para monitorear los movimientos de su expareja. Otro agente de policía de Georgia, que también era jefe de policía, realizó más de 600 registros de su exnovia y su hija antes de suicidarse mientras enfrentaba cargos por acoso y uso indebido de equipo policial.

Esta camiseta no es el primer intento de Weckert de rebelarse contra el sistema ni de enviar un mensaje. En 2020, arrastró un carro con 99 teléfonos por Berlín para simular un atasco de tráfico en Google Maps, demostrando que los sistemas basados en inteligencia artificial son fácilmente manipulables.

Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!