China quiere que la IA solo diga cosas bonitas del Partido Comunista chino: buena suerte con eso

El nuevo auge de herramientas de inteligencia artificial parece haber llegado para perturbar el mercado y la sociedad occidentales, automatizando algunos trabajos y difundiendo desinformación sobre temas especialmente delicados. 

El Partido Comunista de China acaba de meterse en este atolladero con una propuesta de legislación restrictiva para esta tecnología, según ha recogido el New York Times. 

Las disposiciones, establecidas por la Administración del Ciberespacio de China, hacen referencia a la inteligencia artificial generativa, un nuevo tipo de tecnología que impulsa herramientas como ChatGPT y otros programas emergentes que han causado furor en Occidente en los últimos meses. 

Según esta normativa, las empresas deben respetar las normas del Partido Comunista, que prohíbe hablar de ciertos temas controvertidos y veta cualquier crítica a los dirigentes del país. El contenido generado por la IA debe reflejar los "valores centrales socialistas" y evitar la información que socave el "poder del Estado" o la unidad nacional, ha publicado el New York Times.

Las compañías también deberán asegurarse de que sus chatbots generen textos e imágenes veraces y respetuosos con la propiedad intelectual, y estarán obligadas a registrar sus algoritmos ante los reguladores, ha explicado el medio de comunicación estadounidense.

Alibaba presenta su apuesta para competir contra ChatGPT: Tongyi Qianwen

El proyecto de ley propuesto por el Partido Comunista chino podría dificultar que las tecnológicas del país rivalicen con competidores estadounidenses como Microsoft, OpenAI, Google o Facebook, que parecen haber tomado la delantera en la carrera de la inteligencia artificial generativa. 

Tencent, ByteDance, Baidu, Alibaba, Sensetime y otras grandes empresas chinas disponen de la capacidad técnica necesaria como para desarrollar sus propios modelos de IA, pero las restricciones sobre lo que pueden decir o no estos modelos probablemente ralenticen el desarrollo y limiten la difusión de la tecnología en el país asiático. 

Además, existe el problema de que la inteligencia artificial tiende a sufrir "alucinaciones". Los grandes modelos lingüísticos, como ChatGPT, pueden difundir información falsa para satisfacer las peticiones de los usuarios, un peligro del que ya han advertido numerosos expertos en este tipo de herramientas. 

Los investigadores de IA a menudo desconocen por qué algunos modelos generan determinados contenidos. Los modelos pueden generar imágenes de figuras públicas haciendo cosas que estos nunca han hecho en la realidad. Un ejemplo de este fenómeno sería la imagen del papa Francisco luciendo un lujoso abrigo, que llevó a algunos usuarios a confundirla con una fotografía real.

Una tecnología impredecible como esta podría ser una pesadilla para los líderes chinos, que intentan ejercer un control férreo del discurso político.

ChatGPT, la herramienta desarrollada por la tecnológica californiana OpenAI, nunca ha llegado a estar oficialmente disponible en China, al igual que ocurre con la mayoría de productos y servicios de compañías como Google o Facebook, también prohibidos por el Partido Comunista chino. Apple sí que ha logrado operar en el país asiático tras haber hecho ciertas concesiones.

Aun así, en los últimos meses han aparecido en las redes sociales chinas algunas imitaciones de ChatGPT, lo que ha llevado al Gobierno local a ordenar a estas plataformas que eliminen las menciones al chatbot de OpenAI y cualquier solución de terceros al servicio de la inteligencia artificial.