Un equipo de la Universidad de Maryland, desarrolló una «capa de invisibilidad» al estilo Harry Potter, que hace quien la use, sea un «fantasma» frente a las cámaras con IA de aprendizaje automático de detección de personas.
A pesar de su nombre, la prenda es en realidad un jersey, y que su nombre proviene de la pasión de su creador por la saga del famoso mago.
Capa de invisibilidad contra las cámaras
Esta «capa de invisibilidad» es en realidad un jersey, o sudadera, que posee un estampado creado a través de algoritmos que tienen como objetivo desafiar la debilidad de los detectores de personas. Así lo dio a conocer Tom Goldstein, líder del proyecto.
El equipo empleó una de las técnicas utilizadas para manipular las redes neuronales: los ataques simulados que generen un «patrón antagónico», el cual se aplica a los objetos detectados dentro de una imagen determinada. De esta forma, se consigue que el modelo no los reconozca.
Para conseguir el diseño de la prenda, el algoritmo examinó miles de imágenes de personas, calculando un patrón de píxeles que se imprimieron en la prenda, con la cual se desactiva la identificación de los detectores.
El trabajo fue realizado y publicado en arXiv, por las mentes creativas de Goldstein y Zuxuan Wu, ambos coincidieron en Facebook, cuando Wu era becario en la Universidad. Entre ambos, estudiaron las vulnerabilidades de seguridad que presentan los sistemas de aprendizaje automático.
«Tardamos unos seis meses en conseguir algo que realmente funcionara».
Así lo explicó Goldstein, después de realizar diferentes pruebas en papel de la capa de invisibilidad. Más tarde, al equipo se le sumaron los investigadores Ser-Nam Lim y Larry Davis.
Saltarse los detectores de reconocimiento
Después de conseguir crear con éxito el jersey, el grupo lo describió como «una forma estupenda de mantenerse abrigado este invierno, ya sea en la oficina o por la calle». Y es que, además de mantenerse invisible, también posee un forro micropolar, que se mantiene siempre seco. Además, hay que resaltar que la prenda es bastante moderna, sumado a los patrones adversos que evaden los detectores de objetos más comunes.
Los especialistas concluyeron con que la «capa de invisibilidad» tiene una tasa de éxito del 80% al engañar a los detectores, dependiendo de la escena de fondo y de la cámara. El porcentaje podría bajar si se mira de perfil, por ejemplo.
Goldstein, quiso finalizar, recalcando que no se trata de una manera fiable de evitar ser detectado en la práctica, sin embargo, pretende ser un «estudio académico» que otorgue argumentos contrarios a quienes aseguran que es imposible engañar este tipo de sistemas.
Quizás no es 100% efectiva, pero esta «capa de invisibilidad» es, cuanto menos, un curioso experimento que podría ser el primer paso saltar la detección de las cámaras de seguridad. Aunque, quizás no sea del todo seguro si caen en las «manos equivocadas».
Referencias:
- INVISIBILITY CLOAK – Un a rtículo de cs.umd.edu
https://www.cs.umd.edu/~tomg/projects/invisible/ - Making an Invisibility Cloak: Real World Adversarial Attacks on Object Detectors – Un articulo de arxiv.orghttps://arxiv.org/abs/1910.14667
