Sam Altman y la inteligencia artificial generativa no son de fiar, según este experto
Patrick Semansky/AP
- Gary Marcus, fundador de Geometric Intelligence, testificó junto a Sam Altman en una comisión celebrada en el Senado estadounidense en 2023. Marcus, que en su día se mostró a favor de Altman, dice ahora que no se puede confiar en el CEO de OpenAI.
- El experto en inteligencia artificial también ha asegurado que esta tecnología se está llevando por el camino equivocado.
Sam Altman, director ejecutivo de OpenAI (la desarrolladora de ChatGPT) y —por ende— uno de los principales impulsores del auge de la inteligencia artificial, ha hecho llamamientos en favor de una tecnología que beneficie a toda la humanidad y de la creación de normativas que garanticen que la IA llegará a buen puerto.
Sin embargo, un destacado experto en inteligencia artificial ha declarado ahora que las acciones que el CEO lleva a cabo en privado contradicen sus declaraciones públicas y ha defendido que el camino hacia la IA que se está llevando en la actualidad va en dirección incorrecta.
En una columna publicada este sábado en The Guardian, el fundador de la firma de aprendizaje automático Geometric Intelligence y exdirector del laboratorio de inteligencia artificial de Uber, Gary Marcus, ha expresado que Altman ha engañado repetidamente a la sociedad con respecto a su participación financiera en OpenAI y ha cuestionado la sinceridad del empresario a la hora de pedir legislación.
Marcus, que en su día se mostró esperanzado con Altman, ha explicado en su columna que el director ejecutivo de la desarrolladora de ChatGPT "parecía auténtico" y aparentaba compartir las mismas preocupaciones sobre la regulación de la IA cuando ambos testificaron ante el Gobierno estadounidense en relación a esta tecnología en mayo de 2023.
"Ambos nos manifestamos firmemente a favor de la legislación de la inteligencia artificial", ha recordado el fundador de Geometric Intelligence. "Poco a poco, sin embargo, me di cuenta de que tanto el Senado [de Estados Unidos] como yo, y, en última instancia, el pueblo estadounidense, probablemente habíamos sido engañados".
Marcus ha puesto en duda que el CEO de OpenAI no cuente con intereses económicos en su propia startup, llegando incluso a decir que Altman tendría vínculos financieros indirectos con la desarrolladora de ChatGPT a través de su participación en Y Combinator, la incubadora que dirigió en el pasado, y en Rain AI, el fabricante de microchips con el que hizo un trato por valor de millones de euros.
Business Insider ha tratado de ponerse en contacto con OpenAI, pero por el momento no ha obtenido respuesta.
Además, el experto en IA ha puesto en tela de juicio el supuesto compromiso de Altman con la seguridad de la tecnología, argumentando que, aunque la desarrolladora de ChatGPT diga que quiere regulación, "la realidad es mucho más compleja".
Marcus ha citado un artículo de la revista Time de 2023 que informaba acerca de cómo OpenAI trató de hacer lobby al Reglamento de la Inteligencia Artificial de la Unión Europea, en parte, intentando eliminar el texto que etiquetaba a ChatGPT como una tecnología de "alto riesgo", lo que habría sometido a la compañía a una legislación más restrictiva.
El fundador de Geometric Intelligence ha mencionado incluso los posibles problemas de transparencia de OpenAI, una empresa que les habría pedido a sus propios empleados que unos firmasen acuerdos de confidencialidad especialmente restrictivos y en la que algunos antiguos trabajadores habrían acusado a Altman de mentirle a su junta directiva.
Conoce cómo trabajamos en BusinessInsider.
Etiquetas: Trending, Inteligencia artificial, Legislación, seguridad, ChatGPT, OpenAI