Elon Musk, Steve Wozniak y otros 1.000 expertos en IA piden frenar el desarrollo de modelos más potentes que GPT-4 por posibles riesgos para la humanidad

Elon Musk, CEO de Twitter, Tesla, y SpaceX.
Elon Musk, CEO de Twitter, Tesla, y SpaceX.

Reuters

  • Numerosos expertos llevan tiempo señalando los posibles riesgos que podría entrañar una tecnología como ChatGPT para el conjunto de la sociedad. 
  • Ahora, un grupo de más de 1.000 personas, entre las que se encuentran expertos como Elon Musk, CEO de Tesla, o Emad Mostaque, director general de Stability AI, han firmado un manifiesto para detener durante 6 meses el desarrollo de la inteligencia artificial. 

Elon Musk, CEO de Twitter, Tesla, y SpaceX, nunca ha escondido su preocupación ante el auge de la inteligencia artificial y de tecnologías como ChatGPT, y su última decisión de firmar un manifiesto para frenar su desarrollo parece consecuencia de esa postura.

Llama la atención que el director general de una empresa como Tesla, que emplea IA para el desarrollo del sistema de conducción autónoma de sus vehículos, y el empresario que ayudó a fundar la propia OpenAI, compañía desarrolladora de herramientas de inteligencia artificial generativa como ChatGPT o DALL-E, muestre tantas reservas frente a esta tecnología. 

Sin embargo, Musk lleva tiempo alertando del peligro que podría suponer la IA para el conjunto de la sociedad. "Honestamente, creo que necesitamos regular la seguridad de la inteligencia artificial", apuntaba el multimillonario en una ocasión. "Creo que, en realidad, supone un riesgo mayor que los automóviles, los aviones o la medicina para la sociedad", añadía.

"Estoy un poco preocupado por las cosas de la IA", reconocía en otra ocasión. "Necesitamos algún tipo de autoridad reguladora o algo que supervise el desarrollo. Es una tecnología bastante peligrosa. Temo haber hecho algunas cosas para acelerarla".

El empresario no es el único que ha mostrado cierta preocupación ante el avance de la inteligencia artificial. Business Insider España ha consultado a varios expertos que han indicado que se debería apostar por alternativas de código abierto en las que estas herramientas no estén controladas por una única organización

Debate ético sobre ChatGPT

Ahora, un colectivo de más de 1.000 personas, entre las que se encuentran el propio Musk, junto a expertos como Steve Wozniak, cofundador de Apple; Emad Mostaque, CEO de Stability AI; investigadores de DeepMind, la división de Google especializada en inteligencia artificial, y Yoshua Bengio y Stuart Russell, pesos pesados del campo de la IA, han firmado un manifiesto que pide frenar el desarrollo de esta tecnología durante 6 meses.

Según recoge Reuters, los firmantes han pedido detener el entrenamiento de sistemas más potentes que GPT-4, el modelo que acaba de lanzar OpenAI, aludiendo a posibles riesgos para toda la humanidad.

Se trata de una carta abierta que ha sido publicada por la organización sin ánimo de lucro Future of Life Institute y que reclama poner en pausa el desarrollo de la inteligencia artificial más avanzada hasta que se desarrollen, apliquen y sean evaluados por expertos independientes protocolos de seguridad que sean comunes para tales diseños.

"Los sistemas de IA más potentes solo deberían desarrollarse cuando estemos seguros de que sus efectos serán positivos y sus riesgos serán asumibles", sugiere el manifiesto. 

Gary Marcus, profesor emérito de la Universidad de Nueva York y firmante de la carta, ha expresado a Reuters en relación al documento que "no es perfecto, pero su espíritu es el correcto: debemos ir más despacio hasta que comprendamos mejor las consecuencias".

Descubre más sobre , autor/a de este artículo.

Conoce cómo trabajamos en Business Insider.