Amazon suspende indefinidamente la venta de sus sistemas de reconocimiento facial a policías

Amazon suspendió la venta de sus programas de reconocimiento facial (Rekognition) a fuerzas policiales hace exactamente un año, en plenas movilizaciones por el Black Lives Matter en EEUU que produjeron una catarata de protestas contra el racismo sistémico y el papel de estas soluciones tecnológicas en él.

Ahora, cuando está a punto de cumplirse un año de esa suspensión, el gigante tecnológico va a prorrogar este veto indefinidamente, según ha avanzado Reuters. Por el momento, la firma no ha anunciado ni fechas ni planes para volver a vender estas herramientas a fuerzas y cuerpos de seguridad, según detallaCNet.

El veto a estas ventas llegó en junio de 2020, en plena oleada de protestas contra el racismo en EEUU. Además de activistas, fueron muchos los trabajadores de la multinacional de Jeff Bezos los que criticaban que Rekognition incentivaba el racismo por parte de las estructuras policiales. 

Una batalla que se libra en tu cara: estas apps introducen filtros imperceptibles en tus fotos para engañar a sistemas de reconocimiento facial

De hecho, varios informes destacaban cómo estos sistemas de reconocimiento facial confundían a personas con tonos de piel oscuros y provocaban detenciones por error de personas inocentes que eran confundidas con sospechosos de algún ilícito.

Una organización norteamericana en defensa de los derechos civiles, la ACLU, incluso llegó a introducir imágenes de congresistas y senadores estadounidenses en el programa para demostrar cómo la herramienta los confundía y marcaba con criminales. Amazon criticó el experimento de la ACLU.

Entonces, bajo la Administración Trump, Amazon defendía que su programa todavía era de utilidad para entidades como el Centro Internacional de Niños Desaparecidos y Explotados. La firma consideraba que Rekognition podía ser de ayuda a la hora de detectar y rescatar a menores víctimas de trata. Amazon Web Services (AWS), la división responsable del programa, pidió además que se abriese la puerta a regulaciones sobre los sistemas de reconocimiento facial.

Amazon no fue la única que en 2020 decidió paralizar sus ventas de reconocimiento facial a fuerzas policiales. IBM o Microsoft también dieron pasos similares en el mismo contexto. Pero este 2021, Amazon ha sido la primera en reconocer que no tiene planes para, un año después, volver a ofrecer al mercado de la seguridad sus programas.

No fue el mismo caso de Clearview AI, una polémica firma que se dedica al reconocimiento facial y cuya herramienta fue empleada, por ejemplo, para investigar a los asaltantes del Capitolio del pasado mes de enero. Esta compañía fue denunciada ante la agencia francesa de protección de datos el pasado verano.

Más de 2.400 departamentos de policía de todo el mundo utilizan Clearview AI, la controvertida herramienta de reconocimiento facial que robó millones de fotos de Facebook para crear su base de datos

El veto del uso policial de soluciones como Rekognition llegó después de que un ciudadano negro llamado George Floyd fuese asesinado en un caso de brutalidad policial que tuvo lugar en mayo del año pasado. Amazon cogió el capote de las críticas que entonces se sucedieron y anunciaron la retirada de su producto para policías a expensas de que los congresistas y senadores del país abordasen una regulación para este tipo de sistemas.

Una regulación que, por otra parte, no ha llegado. Nathan Freed Wessler es el director de la división de Privacidad, Libertad de Expresión y Tecnología de la ACLU y, consultado por CNet, cree que Amazon sigue dando "buenos pasos" manteniendo este veto al uso policial de sus sistemas de reconocimiento facial. No obstante, también advertía que su organización no se vería satisfecha hasta que se abordase esta regulación.

Una regulación que en Europa todavía no se ha debatido, a pesar de que la Comisión presentó hace escasas semanas una propuesta para regular la inteligencia artificial. Para algunas especialistas fue un buen primer paso, aunque también se han sucedido críticas que lamentan que en algunos aspectos, como en los sistemas de IA que ayudan a mantener herramientas de vigilancia masiva, el borrador de norma es algo más ambigua y tibia.