Amazon al igual que Microsoft anunciaron esta semana que las tecnologías de reconocimiento facial quedan prohibidas para la policía de Estados Unidos, ya que estas pudieran ser una herramienta para la tirania.
Estas decisiones vienen después de que IBM anunciara que ya no ofrecería el servicio de desarrollo e investigación sobre estas tecnologías de reconocimiento facial, ya que estas son una potencial amenaza a los derechos humanos y leyes de privacidad actualmente vigentes, por otro lado las variables en las que esta tecnología se basa son edad, género, raza y grupo étnico.
El gran problema de toda esta tecnología ronda a la investigación que se realizó en MIT y Microsoft en el 2018 la cual encontró errores en estas tecnologías usadas por grandes empresas donde se identificaban a las personas con la piel más obscura con porcentaje mucho mayor al de las personas con piel más clara.
También otro gran problema en que los sets de datos utilizados para entrenar a esta inteligencia artificial, se basan principalmente en hombre y mujer. Y este sistema confundía el sexo de gente con la piel más obscura, es decir no sabía distinguir con certeza si una persona con piel más obscura era hombre o mujer. A comparación del experimento al comparar individuos con la piel clara, donde había casi cero errores al identificar los sexos.
Podemos ver como funcionan en el siguiente video:
Esta investigación para eliminar estos errores esta principalmente dirigida por Joy Buolamwini, investigadora del MIT Media Lab. La cual desmitió los intentos de Amazon por tratar de explicar que esta tecnología no tenía fallas y continuar dando el servicio, a lo cual Buolamwini respondió:
“El enfoque de Amazon hasta ahora ha sido de negación, desviación y demora. No podemos confiar en Amazon para que se controle o proporcione tecnología no regulada y no probada a la policía o las agencias gubernamentales “.
Este descubrimiento ha sido corroborada por más investigadores de Inteligencia Artifical alrededor del mundo los cuales estan respaldando la iniciativa de Uolamwini, junto con las de sus co-autores Deborah Raji yTimnit Gebru.
Thank you @alfredwkng. This is a collective effort by not only researchers, but also civil liberties organizations, activists, employees, and shareholders applying pressure coupled with the tragic death of #GeorgeFloyd and tardy corporate acknowledgment that #BlackLivesMatter https://t.co/Sw8kLqhIHT
— Joy Buolamwini (@jovialjoy) June 10, 2020
Este evento quedará marcado tanto en la historia del mundo así como la historia de las tecnologías. Después de todo Amazon, IBM y Microsoft aceptaron que tanto sus tecnologías y la Policía de EUA no son del todo confiables para ejercer la Justicia basado en preceptos de sus bases. Aunque estas tecnologías seguiran siendo usadas para evitar el tráfico de humanos y la explotación infantil. Quedará hasta nuevo aviso el retomarlas en la justicia.
Esto es lo que dijo Amazon en su carta sobre el BAN de un año a la Policía:
Estamos implementando una moratoria de un año sobre el uso policial de la tecnología de reconocimiento facial de Amazon. Continuaremos permitiendo que organizaciones como Thorn, el Centro Internacional para Niños Desaparecidos y Explotados, y Marinus Analytics utilicen Amazon Rekognition para ayudar a rescatar a víctimas de trata de personas y reunir a niños desaparecidos con sus familias.
Hemos abogado por que los gobiernos establezcan regulaciones más estrictas para regular el uso ético de la tecnología de reconocimiento facial, y en los últimos días, el Congreso parece estar listo para asumir este desafío. Esperamos que esta moratoria de un año le brinde al Congreso suficiente tiempo para implementar las reglas apropiadas, y estamos listos para ayudar si lo solicita.
