Pasar al contenido principal

La policía de EEUU está haciendo bocetos de sospechosos con la tecnología de reconocimiento facial de Amazon y podría llevar a detenciones equivocadas

[RE] La policía de Washington tiene permitido realizar bocetos a través del sistema de reconocimiento facial de Amazon.
La policía de Washington tiene permitido realizar bocetos a través del sistema de reconocimiento facial de Amazon. Fredrik von Erichsen/picture alliance via Getty Images
  • La policía del condado de Washington está utilizando el software de reconocimiento facial de Amazon y está realizando bocetos de sospechosos a partir de él, según The Washington Post.
  • Amazon asegura que el uso de bocetos no infringe sus reglas, pero advierte de que los policías que analicen los resultados deberían tener en cuenta el margen de error del software.
  • Los expertos creen que el uso de bocetos aumentará la probabilidad de que la policía se equivoque, porque podría dar lugar a falsas coincidencias y detenciones erróneas.
  • El uso de Rekognition por parte de la policía ya ha sido criticado por grupos civiles, expertos en inteligencia artificial y accionistas de Amazon.

La policía del condado de Washington está realizando bocetos de sospechosos a partir del software de reconocimiento facial de Amazon, según The Washington Post.

Los trabajadores pueden llevar a cabo bocetos en blanco y negro gracias al software de Amazon, Rekognition, con la esperanza de que los dibujos del sospechoso coincidan con lo que vieron las víctimas.

No está claro cómo de efectivo es este método, pero la policía del condado de Washington ha declarado a Drew Harwell, del Post que en un caso de prueba, el uso de un boceto identificó a un hombre al que ya habían calificado de sospechoso.

En cambio, expertos de inteligencia artificial han advertido al mismo periódico de que el uso de bocetos puede aumentar la probabilidad de una falsa coincidencia, un sentimiento respaldado por Frederike Kaltheuner de Privacy International cuando fue contactado por Business Insider.

"Esto añade otra capa de complejidad que probablemente aumentará las tasas de error", ha indicado Kaltheuner, que encabeza el programa de la organización sobre explotación corporativa.

Amazon ha asegurado al Post que usar bocetos no va en contra de sus normas, pero que esperaba que la policía "preste mucha atención" a cualquiera de las conclusiones que se saquen mediante este método".

La empresa ha hecho referencia también al porcentaje de acierto que Rekognition da a cualquier emparejamiento que haga, y Amazon recomienda que la aplicación de la ley establezca un umbral del 99% al usar el software.

El Post descubrió, sin embargo, que a los trabajadores ni siquiera se les mostró esta puntuación al usar Rekognition, sino que se les mostraron 5 posibles coincidencias para cada búsqueda, independientemente de la confianza del sistema en su coincidencia.

Una información anterior de Gizmodo atambién reveló que la policía no se sigue necesariamente las pautas de Amazon en lo que se refiere a estas puntuaciones, y un portavoz de la policía del condado de Washington ha apuntado directamente que no establecen ni utilizan un umbral de confianza.

Business Insider ha contactado a Amazon para conocer su versión .

La venta de Rekognition a la policía ya ha sido fuertemente criticada por grupos de derechos humanos, expertos en inteligencia artificial e incluso por los propios accionistas de Amazon. Los inversores votarán para prohibir que Amazon venda el software a agencias gubernamentales a fines de este mes en la reunión anual de accionistas de la firma.

"En términos generales, estamos muy preocupados por el uso del reconocimiento facial por parte de los departamentos de policía, tanto cuando funciona como cuando no funciona. Cuando funciona, convierte a las personas en tarjetas de identificación ambulantes, y cuando no, corre el riesgo de incriminar a los inocentes, que luego tienen que demostrar que no son culpables ", apunta Kaltheuner.

Y además