Emmett Shear, el hombre llamado a ser el nuevo CEO interino de OpenAI, cree que la inteligencia artificial tiene un potencial muy real para destruir toda la vida.

Shear se describe a sí mismo como un "tecnooptimista", o alguien que cree que el rápido avance de la tecnología produce más ventajas que inconvenientes.

Pero en una entrevista en junio con el inversor Logan Bartlett, Shear dijo que es posible que la IA llegue a ser tan sofisticada que pueda mejorarse a sí misma sin intervención humana.

"Ese bucle se irá cerrando cada vez más, y cada vez más rápido, hasta que pueda mejorarse a sí misma por completo. En ese momento, será muy rápido", afirmó Shear.

"Y ese tipo de inteligencia es algo intrínsecamente muy peligroso", añadió. "Porque la inteligencia es poder".

Es un temor que se ha extendido por todo el sector tecnológico: que la IA pueda desarrollarse tan rápidamente que resulte imposible de controlar.

Shear explicó a Bartlett que existe entre un 5% y un 50% de probabilidades de que esto ocurra, aunque apuntó que todavía hay "incertidumbre" en torno a estas estimaciones.

"Eso debería hacer que te cagues en los pantalones", dijo Shear.

Un escenario de catástrofe de la IA sería "como una bomba destructora del universo" que acabara con toda la vida, dijo Shear.

"Es como si alguien inventara una forma de fabricar bombas de fusión 10 veces más potentes con arena y lejía que cualquiera podría hacer en casa", dijo Shear.

En otra entrevista en septiembre, Shear dijo al presentador de podcast y empresario Shaan Puri que era su optimismo hacia la IA lo que le hacía temer sus capacidades.

"Imagina a la persona más inteligente que puedas imaginar, haz que piense más rápido y haz que lo haga aún mejor, que no sea inteligente en un solo sentido, sino en todos", contó Shear. "Un gran escritor, perspicacia tras perspicacia".

La idea de que la inteligencia artificial va a acabar con los seres humanos es una patraña

"Si esa persona no es una buena persona, entonces es obviamente peligrosa", añadió.

Los temores catastrofistas son un sentimiento compartido por Sam Altman, predecesor de Shear. Altman ya había advertido de que la IA ocupará muchos puestos de trabajo y, en febrero, advirtió de que el mundo podría no estar lejos de herramientas de IA "potencialmente aterradoras".

En mayo, Altman formó parte del grupo de expertos en IA y directores ejecutivos que firmaron colectivamente una carta en la que expresaban su preocupación por la IA.

"Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear", dice la declaración que firmaron conjuntamente.

Altman fue el rostro de OpenAI cuando presentó sus programas de IA generativa Dall-E 2 y ChatGPT en 2022. El viernes fue destituido de su cargo de consejero delegado porque, según el consejo de administración de la empresa, "no fue coherentemente sincero en sus comunicaciones", sin dar más detalles.

Los inversores de OpenAI, sorprendidos por la repentina decisión, presionaron para que Altman fuera readmitido, pero en su lugar se eligió a Shear, según adelantó The Information.

Shear es cofundador de la plataforma de streaming Twitch e invierte a través de la empresa de capital riesgo Y Combinator.

Aparte de la preocupación de que la IA pueda destruir toda la vida, Shear cree que es demasiado pronto para la regulación en lo que respecta a la preocupación de que la IA interrumpa industrias o imponga la discriminación.

"Probablemente, habrá una buena regulación que redactar, no sabemos cómo será. El sector evoluciona tan rápido que es muy difícil redactar una buena normativa", dijo a Bartlett.

Shear y OpenAI no respondieron de inmediato a las solicitudes de comentarios de Business Insider enviadas fuera del horario laboral habitual.