El futuro de la inteligencia artificial todavía es incierto, pero existe la posibilidad de que todo acabe siendo "catastrófico", según defiende un experto en el campo en declaraciones a The New York Times.

"Los sistemas de hoy día están lejos de representar un riesgo existencial", matiza Yoshua Bengio, profesor en la Université de Montréal. Este investigador es uno de los llamados "padrinos" de la IA y fue parte del equipo de 3 personas que ganó el premio Turing en 2018 por sus hallazgos en el campo del aprendizaje automático.

"Pero, ¿en uno, dos o cinco años? Hay mucha incertidumbre", continúa Bengio. "Ese es el problema. No estamos seguro de si esto no pasará algún punto de inflexión en el que las cosas se pongan catastróficas".

Anthony Aguirre, cosmólogo en la Universidad de California, en Santa Cruz, también defendió en The New York Times que a medida que la inteligencia artificial se vuelve cada vez más autónoma podría "usurpar la toma de decisiones e ideas tanto de humanos como de instituciones humanas".

"En algún momento quedará claro que la gran máquina que dirige la sociedad y la economía no está bajo control humano ni puede apagarse, de la misma manera en la que no existe un botón de apagado para el S&P 500", enfatizaba.

Los expertos vienen advirtiendo de que se necesita poner más atención en la ética que hay tras la inteligencia artificial. Muchos de ellos han pedido una regulación estricta de la tecnología. El último boom de la inteligencia artificial se ha producido alrededor de fenómenos como el ChatGPT de OpenAI o la última actualización del buscador Bing de Microsoft.

La Eurocámara aprueba su propuesta final del Reglamento de la IA incluyendo la prohibición del reconocimiento facial en espacios públicos

Aunque hay muchos casos de uso positivos —como por ejemplo resumir notas de investigaciones, escribir listas de la compra y redactar correos para postularse a un empleo—, también hay preocupación con que la tecnología se esté desarrollando demasiado rápido. Se sabe que puede reproducir sesgos, "alucinar" y propagar imágenes deepfake.

Aguirre fue uno de los fundadores del Future of Life Institute, que en marzo lanzó una carta abierta planteando una moratoria de 6 meses en el desarrollo de la inteligencia artificial. Entre los firmantes de aquel documento se encontraban el propio Bengio, el magnate Elon Musk o el cofundador de Apple, Steve Wozniak.

Bengio y los directivos de inteligencia artificial de compañías como OpenAI, DeepMind o Anthropic firmó un comunicado de una sola frase redactado por el Center for AI Safety el mes pasado en el que se decía lo siguiente: "Mitigar el riesgo de extinción causado por la IA debería ser una prioridad como otros desafíos sociales de la misma escala, como las pandemias o las guerras nucleares".

Personalidades influyentes del sector tecnológico también han participado en este debate. El ex-CEO de Google, Eric Schmidt, declaró hace poco a The Wall Street Journal que le preocupa que "razonablemente pronto" la inteligencia artificial logre encontrar "vulnerabilidades de día cero en el ámbito de la ciberseguridad o descubrir nuevos tipos de formas de vida".

Otros nombres, por otro lado, se muestran más positivos con el despliegue de esta tecnología, como es el caso de Bill Gates. Gates comparte que muchas de esas preocupaciones son "comprensibles", pero también cree que la IA tendrá un impacto muy positivo en ámbitos como el de la salud, la educación o la lucha contra el cambio climático.

Marc Andreessen, quien fuera el fundador de Netscape, se ha expresado incluso en términos más duros en un artículo publicado en su blog, criticando lo que él describió como un "pánico moral absoluto contra la inteligencia artificial" y tildando a sus defensores como "sectarios".

"La IA no quiere, no tiene objetivos, no quiere matarte, fundamentalmente porque no está viva", zanjaba. "La IA es una máquina, no va a adquirir más conciencia que la que adquirirá tu tostadora".

"El desarrollo y la proliferación de la inteligencia artificial, lejos de ser un riesgo que deberíamos temer, es una obligación moral que debemos adoptar con nosotros mismos, con nuestros niños y con nuestro futuro", defendió.