El mundo de '1984' de Orwell podría llegar en 2024, según el presidente de Microsoft: la Guerra Fría tecnológica de la IA entre China y Estados Unidos

En 1984, una de las obras más reconocidas del aclamado, a la par que vilipendiado George Orwell, se describe un mundo deshumanizado, hiperconectado, digitalizado y sorprendentemente cruel e inhumano. Ahora bien, como toda distopía que se preste a la ficción, también hay algunas cuestiones que solo se dan en el papel.

Sin embargo, durante la emisión del programa Panorama de la BBC, enfocado en estudiar el uso de la inteligencia artificial (IA) por parte de China para la monitorización de sus ciudadanos, Brad Smith, presidente de Microsoft, aseguró que este mundo distópico "podría llegar a suceder en 2024". 

“Si no promulgamos leyes que protejan al público en el futuro, encontraremos que la tecnología avanza y será muy difícil ponernos al día”, agregó Smith. “Recuerdo constantemente las lecciones de George Orwell en su libro 1984. Ya sabes, la historia fundamental se trataba de un gobierno que podía ver todo lo que todos hacían y escuchar todo lo que todos decían todo el tiempo. Bueno, eso no sucedió en 1984, pero si no tenemos cuidado, podría suceder en 2024".

A pesar de que las afirmaciones de Smith no son desacertadas en cuanto a la consecución negativa de la distopía orwelliana, todas las críticas vertidas pasaron por observar a China en este ámbito, sin apenas un resquicio de autocrítica, ya que, entre otros, Microsoft y Google llevan haciendo esto durante bastante tiempo.

El proyecto de la Comisión Europea para regular la inteligencia artificial vigila su uso en hospitales, pero deja libertad a los ejércitos

Así lo reconoció Eric Schmidt, exdirector ejecutivo de Google y actual presidente de la Comisión de Seguridad Nacional de Inteligencia Artificial de Estados Unidos: "Estamos en un conflicto estratégico geopolítico con China. La forma de ganar es reunir nuestros recursos para tener estrategias nacionales y globales para que las democracias ganen en IA. Si no lo hacemos, estaremos mirando hacia un futuro en el que se nos impondrán otros valores".

Por ello, en primer lugar, hay que conocer cuál era el mundo planteado por Orwell y, en segundo lugar, echar un vistazo a lo que las grandes tecnológicas han estado haciendo desde su creación, algo que no se aleja mucho de la distopía planteada, para hacer frente en la denominada Guerra Fría tecnológica contra China.

Orwell lleva mucho tiempo aquí

Cuesta cree que Orwell escribiera con tanto acierto, en su mayor parte, 1984. A pesar de su fecha de publicación, en 1949, el escritor supo adelantar algunos sucesos que llegarían en nuestros días, como un Gran Hermano capaz de controlar las mentes. En este sentido, las interfaces cerebro-máquina son capaces de esto, desde un humano hasta un ordenador. El proceso inverso también sería posible.

Sin embargo, el Gran Hermano va más allá y se puede encontrar en cualquier algoritmo destinado a conocer qué le gusta a la gente, entrando en terreno diferente al de ofrecer preferencias personales. Es decir, son capaces de manipular la voluntad de elección, algo peligroso si ponemos un pie fuera del apartado puramente consumista. Las cookies son un ejemplo de esto; el Big Data, el resultado.

En este último apartado, cabe destacar que, a pesar de las palabras del presidente de Microsoft, la realidad de China no dista mucho de las grandes tecnológicas. Por ejemplo, la propia Microsoft fue una de las protagonistas de una investigación en la que se aseguraba que había firmado más de 5.000 contratos con el ejército de Estados Unidos; Amazon y Google, por su parte, acumulaban otros cientos.

"A menudo, la descripción del contrato de alto nivel entre las empresas de tecnología y los militares parecen inofensivas", señaló Jack Poulson, un antiguo investigador de Google, a NBC News. "Pero solo cuando se miran los detalles del contrato, que solo se pueden obtener a través de solicitudes de la Ley de Libertad de Información, se ve hasta qué punto está realmente involucrada la tecnológica". 

Por ello, las declaraciones de Smith se vuelven un poco confusas y se relacionan directamente con otro punto de la novela distópica de Orwell: el continuo conflicto bélico de las 3 naciones, mediante la confrontación directa con China.

La Guerra Fría tecnológica entre China y Estados Unidos

Los preceptos bélicos pueden ayudar a que un país mire hacia otro lado, como ocurrió con Dick Cheney, exvicepresidente del gobierno de Bush, retratado satíricamente en la cinta El vicio del poder. Así, los diferentes países utilizan, en ocasiones, las guerras con el objetivo de no mirarse el ombligo. 

En el documental de la BBC, se preguntó también por el tema de la IA en China a un asesor del gobierno, Lan Xue. Este respondió así: "China de hecho ha hecho un tremendo progreso en el desarrollo de tecnología y Estados Unidos siente que esto es una amenaza, y querían comenzar esta Guerra Fría en la tecnología. La visión del mundo del país no es la convergencia, sino la coexistencia. China no busca exportar sus valores".

Y algo de razón no le faltaba a Xue al hacer esta rotunda afirmación. Las grandes tecnológicas de Estados Unidos, a pesar del secretismo en su relación con la defensa nacional, han sido responsables de algunos proyectos dudosamente éticos, al igual que la crítica que desprende Smith de China. 

Así, aparte de los contratos ya mencionados, el caso más curioso fue el del Proyecto Maven, un programa piloto para la aplicación militar de la tecnología de IA, firmado entre el Departamento de Defensa de EEUU y Google, con el fin de procesar grabaciones de drones, seguir objetivos y proveer a Defensa de todos los datos.

"Maven es un proyecto bien conocido del Departamento de Defensa y Google trabaja en una parte del mismo, que específicamente tiene fines no ofensivos y que utiliza un software de reconocimiento de código abierto disponible para cualquier cliente de Google Cloud", confesó un portavoz de Google a la BBC.

Por todo ello, el mundo de Orwell ya está entre nosotros y, ni China ni Estados Unidos, pueden situarse en una posición neutral al respecto, ya que ambas naciones están utilizando la IA para intentar ganar una Guerra Fría tecnológica que ellos mismos han creado. Aún no sabemos cuál será la tercera nación de la que Orwell habló.