Algo más que un inquietante aviso: Ilya Sutskever, cofundador con Elon Musk de OpenAI, advierte de que algunas de las máquinas más avanzadas podrían haber cobrado ya conciencia de sí mismas

IA despierta

Getty Images

Una cadena de montaje plagada de brazos robóticos. En cuestión de segundos, estos montan lo que parece un robot humanoide. Este se presenta: su nombre es un número de serie y su personalidad se limita a sus características: puede limpiar, cocinar, cuidar a los niños y hablar más de 300 idiomas.

Pero, de repente, tras las comprobaciones de rigor, de repente, algo se tuerce. 

—¿Soy una especie de mercancía? Pensé que estaba viva"—, dice el robot humanoide, que ha recibido el nombre de Kara.

—¿Qué has pensado? Este comportamiento no forma parte del protocolo. No deberías pensar en absoluto.

Aterrado ante la posibilidad de que la máquina que tiene ante sí haya desarrollado algo parecido a un sentimiento, el operario a cargo procede de inmediato a desmontar a Kara. En mitad del proceso, esta le pide que no lo haga. Se lo suplica. Tiene miedo a morir.

Esta última idea detiene al operario, que procede a devolver a Kara sus extremidades y a darle salida convencido de que lo que tiene ante sí es algo más que una máquina que se puede encender y apagar a voluntad.

La nueva IA de Sony ha aprendido a ganar a humanos en 'Gran Turismo', y pronto te enfrentarás a ella

La escena forma parte de Kara, un corto con el que hace 10 años la desarrolladora de videojuegos Quantic Dreams quiso demostrar las posibilidades técnicas de la PlayStation 3.

Años más tarde, Kara se convirtió en uno de los personajes de Detroit: Become Human, un videojuego cuyo argumento exploraba precisamente la idea apuntada en el corto que lo antecedió. 

¿Qué ocurriría si las máquinas despertaran? ¿Cómo gestionarían los seres humanos el verse ante seres sintientes como ellos pero con capacidades infinitamente superiores? ¿Supondría el principio del fin o el nacimiento de una era de concordia, colaboración y progreso entre humanos y robots?

Ni que decir tiene que Detroit: Become Human dista mucho de ser la única producción que aborda estas cuestionas. Desde hace décadas, la ciencia ficción se pregunta qué ocurrirá cuando las máquinas tomen conciencia de sí mismas y quieran vivir.

Para Ilya Sutskever, científico jefe del grupo de investigación OpenAI, una empresa de desarrollo de inteligencia artificial (IA) en cuyo nacimiento estuvo involucrado el mismísimo Elon Musk, este momento podría estar más cerca de lo que se creía.

De hecho, plantea Sutskever, puede que ya haya ocurrido.

Lo ha apuntado en un escueto mensaje publicado este jueves en su cuenta de Twitter: "Puede que las grandes redes neuronales ya sean ligeramente conscientes", ha escrito Sutskever en un tuit que no ha dejado indiferente a casi nadie y que acumula ya casi 2.000 me gusta.

Entre quienes se han mostrado a favor de su hipótesis se encuentra Andrej Karpathy, director de tecnología de IA en Tesla, donde dirige los esfuerzos de la empresa en su tantas veces anunciado piloto automático, y exempleado de la propia OpenAI.

Aunque, como le sucede al operario del corto, la simple sugerencia de que algo así esté ocurriendo invite a muchos a llevarse las manos a la cabeza y mandar parar todo, para Sutskever se trata sin lugar a dudas de buenas noticias.

El investigador figura entre quienes tienen una fe inquebrantable en las posibilidades de la IA de mejorar la vida de las personas.

Tal y como ha recordado este viernes el medio Futurism, durante su aparición en el documental sobre IA titulado iHuman, este científico llegó a declarar que la IA "resolverá todos los problemas que tiene hoy la humanidad".

"Pensar que abandonando este mundo real para refugiarnos en un mundo sin restricciones podemos alcanzar la felicidad es engañoso", según Carlos Blanco, uno de los filósofos españoles más reconocidos

Por contra, adujo, el carácter casi infalible de la tecnología que está por venir también tendrá el potencial de crear dictaduras infinitamente estables. 

Las palabras de Sutskever llegan en un momento especialmente delicado en el desarrollo de IA. 

Sin ir más lejos, en los últimos años OpenAI, la empresa de la que forma parte, se ha visto envuelta en una buena cantidad de polémicas que guardan relación con los límites de la tecnologías que está desarrollando.

Estas arrancaron en 2019, cuando Elon Musk, fundador de Tesla y uno de los impulsores del proyecto junto con su actual consejero delegado, Sam Altman y el propio Sutskever, se bajó del barco.

Por aquel entonces, la empresa ya estaba siendo acusada de haber desarrollado un procesador de texto a través del cual la IA era capaz de producir sin parar textos que podían hacerse pasar por noticias sin serlo necesariamente.

En malas manos, este creador de texto por IA era, a ojos de muchos, un potencial creador masivo de noticias falsas

9 profesiones muy bien pagadas que no desaparecerán a pesar del avance tecnológico

Con el tiempo, sería mucho más.

Musk se limitó entonces a decir que dejaba la organización porque "no estaba de acuerdo con lo que OpenAI quería hacer".

Sin el poderoso bolsillo de Musk detrás, OpenAI que se había promocionado en su día a bombo y platillo como una empresa de desarrollo de IA sin ánimo de lucro, apenas tardó un mes en pasar a describirse como una empresa que respondía a un modelo de "beneficios limitados".

Para entonces GPT-3 llevaba ya un tiempo a disposición de quien se animara a experimentar con él. Y vaya que lo hicieron.

Este verano OpenAI salió a la palestra de nuevo. Fue el momento que, tal y como contó entonces Business Insider, trascendió que Joshua Barbeau, un escritor freelance del juego Dragones y mazmorras y desarrollador en su tiempo libre, había usado GPT-3 para resucitar a su novia fallecida años antes para poder chatear con ella.

Para ello, alimentó GPT-3 con todas las conversaciones que habían mantenido durante los últimos años a través de redes sociales y de aplicaciones de mensajería instantánea. 

El resultado no solo fue una máquina que trataba de replicar con exactitud las respuestas que hubiese dado una persona fallecida. 

Lo verdaderamente preocupante, lo que encendió las alarmas en OpenAI y escandalizó a la opinión pública es que, más mal que bien, GPT-3, en efecto, respondía como la mismísima Jessica, la fallecida prometida de Barbeau.

OpenAI canceló el proyecto de inmediato aduciendo que contravenía las normas de utilización de su software y se apresuró a guardar GPT-3 en un cajón a la espera de saber bien qué hacer con una herramienta tecnológica tan poderosa.

Mientras, lejos de perder la fe en los robots humanoides, Musk, que sigue apartado de OpenAI, profetiza que el futuro pasará por los robots humanoides, aunque, añade, Tesla tratará de mantener siempre esta tecnología bajo control.

Pero los usos controvertidos de IA no se han detenido en la resurrección de los muertos. 

En verano, el medio Wired contó los preocupantes problemas que la startup Latitude había tenido con un procesador de texto por IA de la propia OpenAI. 

Google crea una IA capaz de programar mejor que muchos humanos: la máquina, dice la empresa, se situaría entre el 54% de los mejores programadores

Latitude había aprovechado esta tecnología para lanzar online AI Dungeon un juego de rol inspirado en Dragones y Mazmorras en el que cuando un jugador escribía una acción o un diálogo que quería que realizara su personaje, los algoritmos elaboraban la siguiente fase de una aventura personalizada e imprevisible.

No obstante, según pudo saber entonces la propia OpenAI gracias a sistemas de control implementados posteriormente, algunos jugadores habían tardado muy poco en valerse de este sistema para propiciar historias en las que los personajes mantenían encuentros sexuales con menores de edad.

"Este no es el futuro para la IA que ninguno de nosotros quiere", dijo entonces Altman.

Pero nada de esto ha detenido a OpenAI, que, tal y como ha contado recientemente a la revista MIT Technology, ha reconfigurado GPT-3 para que el procesador de texto responda mejor y sea menos tóxico.

Por ahora, lo ha hecho a la espera de que, tal y como ha predicho Sutskever, las primeras máquinas terminen de despertar.

Otros artículos interesantes:

El primer casino con inteligencia artificial del mundo se retrasa por problemas técnicos

Un grupo de neuronas cíborg 'in vitro' aprende a jugar al 'Pong' más rápido que la inteligencia artificial

Una aplicación es capaz de convertir fotos dañadas en imágenes de alta calidad gracias a la inteligencia artificial

Te recomendamos