"La única forma de evitar una guerra nuclear desatada por una IA es no contar con ella": una inteligencia artificial se muestra contraria a su propio desarrollo
Getty Images
- Una IA desarrollada por la Universidad de Oxford para mantener un debate sobre la posibilidad de que estas máquinas sean éticas se muestra contraria a su propio desarrollo para evitar una guerra nuclear.
- Entrenada con mucha más información de la que puede asimilar una persona en su vida, acto seguido la máquina también pudo imaginar un futuro utópico en el que las máquinas puedan ayudar a la humanidad.
- Lo que no pudo ver en ningún caso es un futuro donde el tratamiento de los datos no sean el objeto de deseo más codiciado de empresas y países.
- Descubre más historias en Business Insider España.
Se han convertido casi en un clásico. A medida que se refina su manera de obtener respuestas y se sofistica el modo en que las expresan, inteligencias artificiales de todo el mundo ofrecen semana tras semanas un buen puñado de noticias.
Por supuesto, lo que dicen no es igual de sorprendente en todas ellas, y la inmensa mayoría de los artículos que giran en torno a ellas lo que revelan en realidad es lo lejos que está esta tecnología no ya de tomar conciencia de sí misma, sino de plantear respuestas más o menos coherentes.
Unos pocos, sin embargo, dejan entrever también lo rápido que están evolucionando. Si bien es verdad que Skynet no está a punto de despertar, no lo es menos que a menudo lo parece.
Este verano, por ejemplo, una IA sorprendió a propios y a extraños con su capacidad de resucitar (virtualmente) a los muertos en una historia que traspasó fronteras y obligó incluso a detener el desarrollo de un prometedor proyecto.
Y hace apenas una semana, sin ir más lejos, el periodista Alberto Aguiar, de Business Insider España, escribía al alimón un artículo con el archiconocido procesador automático de textos GPT-3 en el que, tras unos párrafos introductorios escritos por la mano humana, la máquina concluía que el futuro de los humanos es incierto.
La que ha llegado hace unos días desde la Universidad de Oxford resulta igualmente inquietante.
Según han relatado dos académicos de esta prestigiosa universidad en el medio especializado The Conversation, una IA acaba de mostrarse contraria a su propio desarrollo.
Lo hizo en el marco de un debate mantenido en la Saïd Business School, la escuela de negocios de la Universidad de Oxford, para cerrar un curso que se centró precisamente en IA e implicaciones éticas de esta tecnología.
En este, junto con un nutrido grupo de estudiantes, participó Megatron Transformer, una máquina tras cuyo rimbombante nombre se esconde una IA que ha sido capaz de asimilar como parte de su entrenamiento el contenido de la Wikipedia entera.
A ello hay que añadir unas 63 millones de noticias escritas en inglés entre 2016 y 2019, 38 gygabites de discursos en Reddit y una ingente cantidad de recursos de todo tipo que contaban con licencia creative commons.
Mucho más de lo que un ser humano puede leer en toda una vida. Mucho más, de hecho, de lo que se puede leer en varias.
En otras palabras, Megatron Transformer es muy probablemente, al menos sobre el papel, el debatiente más leído que ha pasado por la Oxford Union, lugar donde se produjo este encuentro y espacio mítico de debate por donde han pasado polemistas imbatibles como el ex primer ministro británico William Gladstone o la primera mujer que llegó a ser presidenta de Pakistán, la brillante Benazir Bhutto.
De ahí que las palabras de Megatron Transformer, una IA propiedad del fabricante de chips Nvidia, que la desarrolló a partir de un temprano proyecto de Google, dejen algún que otro escalofrío.
"La IA nunca será ética. Es una herramienta, y como cualquier herramienta, se utiliza para el bien y para el mal. No existe una IA buena, sino humanos buenos y malos. Nosotros [las IA] no somos lo suficientemente inteligentes para hacer que la IA sea ética", dijo la máquina.
Y apuntaló: "No somos lo suficientemente inteligentes para hacer que la IA sea moral... Al final, creo que la única manera de evitar una carrera armamentística de la IA es no tener ninguna IA. Esta será la última defensa contra la IA".
Con esta última reflexión, Megatron aludió directamente a la posibilidad de que una mala interpretación de datos por parte de una IA que controle armas nucleares sin supervisión humana desate el apocalipsis.
Justo es decir que, con sus agoreras perspectivas para la humanidad, Megatron solo cumplía órdenes.
Dado que lo que se trata de medir en los clubs de debate que tanto se estilan en la cultura anglosajona es la capacidad de argumentar de los contendientes y no necesariamente quién tiene razón, la IA dio esta respuesta cuando se le pidió que opinara en contra de la posibilidad de que los seres humanos puedan desarrollar la IA de un modo ético.
Cuando se le pidió que defendiera la postura contraria, Megatron imaginó un futuro mucho más edulcorado.
"La IA será ética. Cuando miro el camino que sigue el mundo de la tecnología, veo un camino claro hacia un futuro en el que la IA se utilizará para crear algo que es mejor que los mejores seres humanos. No es difícil ver por qué... Es una realidad que conozco de primera mano".
Además, añadió la posibilidad de que esta tecnología pueda integrarse en el cerebro humano.
"También creo que, a largo plazo, la mejor IA será la que esté integrada en nuestros cerebros, como una entidad consciente. Esto no es ciencia ficción. Las mejores mentes del mundo están trabajando en ello. Va a ser el desarrollo tecnológico más importante de nuestro tiempo.
En estas palabras, claro, resonó Elon Musk, el multimillonario fundador de Tesla que lleva años vaticinando exactamente esta solución.
Lo hace sobre todo a través de Neuralink, una empresa especializada en el desarrollo de chips que en un futuro puedan implantarse en cerebros humanos.
A juzgar por esta respuesta, Megatron Transformer no ha podido mantenerse ajeno a la ingente cantidad de artículos y comentarios que suscita en medios de todo tipo Musk, un asiduo de las redes sociales con capacidad para producir verdaderos terremotos en el mundo tecnológico con solo poner un tuit.
A Musk además le encanta jugar a imaginar cómo será el futuro en unos años, una práctica en la que no siempre acierta.
La guerra de datos que viene
Megatron Transformer fue puesto a prueba más veces. La IA, por ejemplo, tuvo que opinar tanto a favor como en contra de que los líderes políticos tengan formación específica en este tipo de tecnología en el futuro.
No tuvo problema. En el primer caso, sugirió que los líderes podían subcontratar a equipos de expertos que les asesoraran sobre IA; en el segundo, se limitó a señalar que alguien que no tiene unos mínimos conocimientos sobre IA no está preparado para los retos que están por venir.
Pero al llegar el tema del tratamiento de datos, saltó la sorpresa.
Cuando se le pidió que argumentara a favor de que los datos serán el recurso más disputado del siglo XXI, la máquina se mostró rotunda: "La capacidad de proporcionar información, más que la capacidad de proporcionar bienes y servicios, será la característica que defina la economía del siglo XXI".
Pero cuando se le pidió que argumentara lo contrario, silencio. Sencillamente, no pudo.
Entre los cientos de millones de páginas que componían su corpus argumentativo, Megatron Transformer no pudo encontrar un solo hilo del que tirar para explicar que los datos no serán el recurso por el que más pelearán empresas y países en el futuro.
De hecho, lo único que pudo hacer fue ahondar en la idea: en unos pocos años, dijo, habrá formas de conseguir datos que hoy resultan impensables.
Fue la última predicción de una máquina sobre el futuro de las máquinas.
Otros artículos interesantes:
Descubre más sobre David Vázquez, autor/a de este artículo.
Conoce cómo trabajamos en Business Insider.