Diseño y funcionamiento de la remera
El patrón de la remera parece una camisa hawaiana llamativa para el ojo humano, pero para los sistemas de IA rompe por completo el contorno del cuerpo, de modo que el modelo no registra que hay una persona. El artista probó los patrones contra el detector de objetos YOLO hasta que dejó de detectar a un humano, según explicó el propio creador.
La técnica se basa en el concepto de camuflaje adversario, que explota las vulnerabilidades de los modelos de visión por computadora. A diferencia de un camuflaje tradicional, que busca mimetizarse con el entorno, este diseño hace que el sistema de IA no reconozca la silueta humana como tal, incluso si el fondo es claro.
El creador y sus antecedentes
El artista, cuyo nombre no fue revelado en la publicación, ya había llamado la atención en 2020 por engañar a Google Maps con un atasco falso en una calle vacía, tras arrastrar 99 teléfonos móviles. Esta nueva obra reaviva la discusión sobre los límites de la vigilancia algorítmica y las formas de evadirla.
La publicación original, realizada por el usuario Vaibhav Sisinty, no menciona el nombre del artista, pero indica que su nombre resulta familiar por la hazaña de 2020. La remera se vende por 75 dólares, aunque aún no se especificaron los canales de compra.
Limitaciones y debate sobre la vigilancia
El propio creador reconoce que la prenda no engaña a todos los sistemas de IA. Los sistemas gubernamentales de vigilancia suelen ser cerrados, propietarios y difíciles de probar de manera independiente, por lo que su efectividad real en ese ámbito resulta incierta.
La iniciativa plantea un interrogante sobre la transparencia de los sistemas de vigilancia: mientras la remera es un objeto que puede cuestionarse y probarse, los sistemas que no pueden ser examinados de forma independiente representan un problema mayor, según indicó el artista en su cuenta de X.
