El sistema de inteligencia artificial chino que detecta la corrupción es tan eficaz que se ha convertido en un problema

Alessandro Solís,
Celebraciones del festival del año nuevo Lunar en Pekín (China) en febrero de 2018.
  • Desde 2012, un máquina llamada Zero Trust ("cero confianza", en inglés) y que se basa en la inteligencia artificial ha delatado a 8.721 trabajadores públicos por incurrir en comportamientos inapropiados.
  • En lugar de conseguir extenderlo más allá de las 30 ciudades y condados en los que ha funcionado hasta ahora, los mismos funcionarios de estas localidades están empezando a cerrarlo o a limitar su capacidad de acción.
  • Muchos funcionarios han empezado a oponer resistencia a este experimento de "big data" que ha probado ser "particularmente útil", según uno de los investigadores de Zero Trust.

Algunas cosas se acaban porque no funcionan, y otras porque funcionan muy bien (y eso no conviene). El segundo es el caso del sistema de inteligencia artificial chino que es tan bueno para avisar de potenciales casos de corrupción que sus impulsores temen que termine siendo imposible ponerlo a funcionar en todo el país.

Desde 2012, esta máquina llamada Zero Trust ("cero confianza", en inglés) ha delatado a 8.721 trabajadores públicos por incurrir en comportamientos inapropiados, pero su eficacia podría quedar en lo meramente anecdótico.

El South China Morning Postinforma de que los investigadores detrás de Zero Trust están llegando a un punto de poca o nula esperanza. Su ambición era llevar el sistema a todo el conjunto gubernamental chino, que según la prensa local se compone de más de 50 millones de empleados públicos (aunque otras fuentes apuntan a más de 64 millones).

Pero, en lugar de conseguir extenderlo más allá de las 30 ciudades y condados en los que ha funcionado hasta ahora, los mismos funcionarios de estas localidades están empezando a cerrarlo o a limitar su capacidad de acción.

Leer más: China ha empezado a reclutar a sus alumnos más brillantes para crear armas de inteligencia artificial

Durante más de 6 años, el experimento Zero Trust fue puesto a prueba en apenas una treintena de oficinas gubernamentales, que representa apenas un 1% del área administrativa china.

En estos condados —relativamente pobres y aislados de los centros políticos de poder en China—, muchos funcionarios han empezado a oponer resistencia a este experimento de big data que ha probado ser "particularmente útil" —según un investigador involucrado— para detectar transferencias de propiedades sospechosas, nuevas infraestructuras, adquisiciones de tierras y demoliciones de casas.

Así funciona el sistema anticorrupción chino en peligro de extinción

Zero Trust se encaja en la visión futurista con la que el Gobierno chino quiere poner orden a su monumental sector público.

Además de prevenir la corrupción tirando del big data y la inteligencia artificial, China usa la tecnología para tomar decisiones con un sistema de aprendizaje automático que mide riesgos y pros, tiene un sistema de reconocimiento facial con el que pretende vigilar a toda su población, y recurre a un sistema de la nube para controlar activamente a todos los agentes de sus cuerpos policiales.

Pero la corrupción podría ser su piedra en el zapato.

Por más buena que haya probado ser la tecnología, simplemente no cala. Creado por la Academia China de las Ciencias y las instituciones de control interno del Partido Comunista Chino, el sistema Zero Trust puede acceder a más de 150 bases de datos protegidas en los gobiernos centrales y regionales para el intercambio de información sobre la vida laboral y personal de los trabajadores públicos, con los que se puede dibujar un mapa de relaciones sociales y de comportamiento.

Leer más: China crea una aplicación para que los ciudadanos identifiquen a los morosos y los delaten si despilfarran

Zero Trust puede detectar aumentos inusuales en los ahorros bancarios y compras de coches nuevos, por ejemplo, o determinar su un familiar o amigo de un funcionario figura dentro de un contrato del gobierno.

El sistema primero acumula sospechas y después calcula las posibilidades de que un trabajador público sea corrupto; si el resultado excede una barrera establecida, avisa a las autoridades. En ese momento, un superior podría contactar al empleado en cuestión para preguntarle al respecto y para intentar prevenir que incurra en delitos de mayor envergadura.

"La inteligencia artificial puede señalar rápidamente a un funcionario corrupto, pero no es muy buena para explicar el proceso por el que pasó para llegar a esa conclusión. Aunque lo hace bien en la mayoría de los casos, se necesita un ser humano que trabaje estrechamente con él", explicó un investigador chino involucrado en el proyecto.

Pero muchas oficinas locales están dejando el sistema fuera de servicio, y según fuentes gubernamentales su razón principal es que "no se sienten realmente cómodos con la nueva tecnología".

Así las cosas, el sistema anticorrupción está en peligro de extinción, no por empeorar las cosas, sino por funcionar tan bien que nadie lo quiere cerca.

   

   Artículo Original deEconomía Digital

Conoce cómo trabajamos en Business Insider.