Las armas más letales del mundo vendrán de un ordenador: una IA descubre 40.000 moléculas tóxicas en menos de 6 horas

Los usos potencialmente malignos de la inteligencia artificial se revelaron recientemente cuando una IA de desarrollo de fármacos fue capaz de sugerir 40.000 armas químicas letales en menos de 6 horas.

Sus investigadores, que detallaron en caso en un artículo publicado en la revista Nature Machine Intelligence, alertan del riesgo de la tecnología para crear armas biológicas y provocar una guerra química devastadora. En una conferencia sobre el control de este tipo de armas sus responsables alertan del "mal actor" que puede ser la IA y lo fácil de abusar de ella.

"La única forma de evitar una guerra nuclear desatada por una IA es no contar con ella": una inteligencia artificial se muestra contraria a su propio desarrollo

En una entrevista con The Verge, Fabio Urbina, autor principal del artículo y científico senior en Collaborations Pharmaceuticals, compañía enfocada en encontrar medicamentos para enfermedades raras, explica cómo el aprendizaje automático puede valer para descubrir fármacos, y en contrapartida, para desarrollar peligrosas armas bioquímicas. 

"Históricamente tenemos muchos conjuntos de datos de moléculas que se han probado para ver si son tóxicas o no", sintetiza el experto. En concreto, se centraron en el VX, una de las moléculas más letales, que inhibe lo que se conoce como acetilcolinesterasa. A grandes rasgos, evita que el diafragma pueda moverse, por lo que sus pulmones se paralizan.

El modelo de IA aprende qué partes de la estructura molecular son importantes para la toxicidad y cuáles no. "Le damos nuevas moléculas, potencialmente nuevos medicamentos que tal vez nunca antes se hayan probado y predice si serán o no tóxicos". Los científicos se inclinaron por cenrarse en la toxicidad. 

La IA se mostró tremendamente eficaz sugiriendo moléculas mortíferas

A través de modelos generativos, la tecnología produjo miles de agentes de guerra química: más de 40.000 moléculas nocivas en menos de 6 horas, algunas más tóxicas que VX. Una cantidad minúscula de este compuesto basta para resultar letal. 

"Incluso si hay muchos falsos positivos, tememos que haya algunas moléculas más potentes allí", señala Urbina a The Verge, alertando de lo fácil que es diseñar armas químicas virtuales sin mucho esfuerzo, tiempo o recursos computacionales. "Para mí, la preocupación era lo fácil que es hacerlo".

El investigador se muestra totalmente de acuerdo con las herramientas open source y el software de código abierto: incluso Google ha lanzado de forma totalmente gratis modelos generativos, que unidos a grandes volúmenes de datos de toxicidad, permitirían a cualquiera con mínimos conocimientos replicar los hallazgos extraídos por los científicos. 

"No quiero sonar sensacionalista, pero es bastante fácil para alguien replicar lo que hicimos". Sin embargo, hay letra pequeña: lo sencillo es encontrar la molécula tóxica potencial, pero esa debería sintetizarse y crearse en el mundo real, lo que es mucho más complicado. 

Parte de su labor es concienciar a otros investigadores. "Solo queremos que más investigadores reconozcan y sean conscientes del posible uso indebido del aprendizaje automático", señala Urbina, con el propósito de tener más cuidado a medida que mejoran "en la construcción de modelos de toxicidad".

Al preguntarle si las armas desarrolladas por algoritmos están cerca de caer en nuestras manos, la respuesta es negativa. "No quiero ser alarmista al decir que va a haber una guerra química impulsada por la IA. No creo que ese sea el caso ahora, pero es algo que está empezando a convertirse en una posibilidad", alerta.