Pasar al contenido principal

Amazon anuncia que suspende por un año el uso policial de su controvertida tecnología de reconocimiento facial

Andy Jassy, CEO de Amazon Web Services.
Andy Jassy, CEO de Amazon Web Services. Amazon
  • Amazon ha anunciado este miércoles que suspenderá durante un año el uso policial de su controvertida tecnología de reconocimiento facial, Rekognition.
  • La semana pasada la compañía emitió un comunicado en contra de la brutalidad policial y del racismo sistémico, pero muchos apuntaron que Amazon trabaja con varios cuerpos policiales y se investiga cómo Rekognition tiene un sesgo contra la gente negra y contra personas con la piel más oscura.
  • Amazon todavía planea vender su tecnología a organizaciones que ayuden a rescatar víctimas de la trata.
  • Descubre más historias en Business Insider España.

Amazon ha anunciado este miércoles que suspenderá el uso que hace la policía de su controvertida tecnología de reconocimiento facial durante un año, después de que muchos activistas y trabajadores criticaran a la compañía por apoyar a los manifestantes estos días mientras promueve el uso de este desarrollo en los cuerpos de seguridad.

Amazon Web Services (AWS) vendió su programa de reconocimiento facial, llamado Rekognition, a varios cuerpos policiales a lo largo de Estados Unidos. Varios estudios han detectado el sesgo en el programa, que pone demasiado el foco en gente negra o con la piel oscura. Amazon emitió hace días un comunicado contra la brutalidad policial y el racismo, en mitad de las protestas desatadas por la muerte de George Floyd.

No fue suficiente para los manifestantes. Muchos partidarios de la causa defienden que AWS sigue trabajando con cuerpos policiales a pesar de los estudios que demuestran que la gente negra son más parados, registrados, cacheados o asesinados por la policía. Un estudio de 2019 de la investigadora del MIT Media Lab Joy Buolamwini demostró cómo Rekognition tenía incluso problemas para determinar el género de mujeres con la piel más oscura.

La Unión de Libertades Civiles Americanas (ACLU) detectó también en 2018 otros problemas en el programa: entonces el software emparejó incorrectamente a 28 miembros del Congreso de EEUU con personas que habían sido arrestadas por crímenes. Estos emparejamientos falsos fueron demasiados en el caso de los congresistas de color, incluyendo a seis miembros del Caucus Negro del Congreso.

Amazon todavía quiere que organizaciones como Thorn, el Centro Internacional para Niños Desaparecidos y Explotados, o Marinus Analytics utilicen Rekognition para que el programa ayude a rescatar víctimas de la trata. La firma también ha dicho que espera que los gobiernos trabajen en regulaciones más estrictas sobre cómo debería usarse la tecnología de reconocimiento facial. AWS rechazó hacer más declaraciones cuando Business Insider le preguntó de qué manera apoyaba al gobierno a hacer eso.

Leer más: Mark Zuckerberg se compromete públicamente a revisar las normas de moderación de contenidos dentro de Facebook y envía un mensaje de apoyo al movimiento 'Black lives matter'

"Esperamos que esta moratoria de un año le dé al Congreso el tiempo suficiente para implementar la normativa apropiada, y estamos listos para ayudar si es necesario", afirmaba un artículo publicado en un blog corporativo de Amazon.

El movimiento de Amazon llega después de la decisión de IBM, que dejará de vender programas de reconocimiento facial y ha pedido un "diálogo nacional" sobre el encaje legal de esta tecnología.

Varios grupos activistas, como la ACLU o MediaJustice, ya han pedido a Amazon que deje de vender su tecnología a las fuerzas de la ley. Amazon todavía trabaja con más de 600 cuerpos de policía en todo el país, y los agentes pueden pedir grabaciones en el área de un crimen registradas por dispositivos Ring, un aparato de grabación y seguridad de la compañía. 

El martes, la policía tiró al suelo y arrestó a un repartidor de Amazon negro porque la policía dijo que había aparcado en una zona prohibida en Warren, Michigan. FOX 2 Detroit informó de que los agentes habían usado la grabación de un dispositivo Ring para probarlo.

Ya en el pasado, el CEO de Amazon Web Services, Andy Jassy, ha desestimado las preocupaciones de sus empleados por vender Rekognition a las fuerzas de la ley. Asumió que los términos y condiciones del servicio eran suficientes para prevenir que estos programas se usaran con malos propósitos, aunque en una reciente entrevista admitió no ser consciente de cómo la policía los estaba empleando o ni siquiera cuántos departamentos de policía habían tenido acceso al mismo.

Y además