Cada vez es más difícil dar grandes saltos tecnológicos en la IA de vanguardia: ¿quién saldrá ganando?
Halil Sagirkaya/Anadolu via Getty Images; Meta; Reka; Mistral, Anthropic, X/Grok; Chelsea Jia Feng/BI
- Los precios de los tokens, una referencia fundamental para calcular los costes de la IA, han caído en picado.
- Ahora existen muchos modelos de IA competentes, y son bastante parecidos. Eso ha hecho bajar los precios en los últimos meses.
A finales del mes pasado, Elad Gil, uno de los principales inversores mundiales en IA, tuiteó un gráfico.
En él aparece el coste de los tokens, que se han convertido en la materia prima de la IA generativa. Los chatbots y los modelos de IA descomponen las palabras y otras entradas en estos tokens para que sean más fáciles de procesar y comprender. Un token es aproximadamente ¾ de una palabra.
Cuando las empresas de IA gestionan los prompts y otros elementos del modelo, a menudo cobran a los usuarios en función de un precio por token. Y Gil, un importante inversor de capital riesgo, mostró en el gráfico que los precios de los tokens se han desplomado.
Es una caída asombrosa. En unos 18 meses, el coste de 1 millón de tokens ha pasado de 180 dólares a sólo 75 centavos.
Elad Gil/David Song
Los ganadores
Imagínate que se trata de un baremo de lo que cuesta utilizar modelos de IA. Los ganadores serán los grandes usuarios. Este nuevo recurso revolucionario es ahora unas 240 veces más barato. Eso ahorra mucho dinero a las startups, los investigadores y otros usuarios.
Martín Casado, un respetado experto en IA de Andreessen Horowitz, lo compara con el rápido descenso de los costes de la tecnología durante anteriores oleadas de innovación.
"Un buen marco de referencia es superponerlo con el coste por bit a lo largo del tiempo para internet. O el coste de computación durante el auge de los microchips", tuiteó. "Claramente un superciclo en el que los costes marginales de un recurso fundacional se reducen a cero".
Los perdedores
Hay otra conclusión más preocupante.
Parte de la razón por la que los precios de los tokens se han desplomado es que la oferta de modelos de IA competentes ha aumentado sustancialmente. Y las reglas de la oferta y la demanda dictan que, cuando esto ocurre, los precios suelen caer.
Tener un modelo de IA líder no es ni de lejos tan especial como lo era hace 18 meses. Por aquel entonces, GPT-4 de OpenAI surgió como líder indiscutible. Desde entonces, Google ha lanzado un nuevo modelo Gemini que es básicamente igual de bueno. Anthropic tiene modelos fantásticos. X tiene a Grok. Y hay más de otros 100 disponibles en una clasificación muy seguida dentro del sector.
La mayoría de estos modelos se entrenan con datos disponibles públicamente en internet. Así que no son muy diferentes entre sí. Destacar entre esta multitud es cada vez más difícil, por lo que es lógico que el servicio que prestan —el procesamiento de tokens— valga mucho menos.
"Ahora, la vanguardia es una mercancía", explica Guillermo Rauch, CEO de la startup de IA Vercel. "En su día, la GPT-4 era una categoría aparte, ¿verdad? Y cobraban unos 180 dólares por millón de tokens. Ahora, todos los demás tienen un modelo vanguardista".
La influencia de Zuck
Mark Zuckerberg ya ha llevado esto hasta las últimas consecuencias, haciendo que los modelos Llama de Meta sean gratuitos como servicios de código abierto. La startup Mistral ha hecho lo mismo.
"Me parece que el que ha alterado todo esto es Zuck", señala Rauch, indicando que Meta tuvo éxito con anteriores esfuerzos de código abierto. Un ejemplo es el Proyecto Open Compute de Facebook, que estandarizó y redujo el precio de la infraestructura de los centros de datos.
Últimamente, Zuckerberg ha estado lanzando indirectas no tan sutiles sobre el abarrotado mercado de los modelos de IA.
"Espero que el desarrollo de la IA siga siendo muy competitivo, lo que significa que el código abierto de un modelo determinado no represente una gran ventaja sobre los siguientes mejores modelos", escribió recientemente en un post en su blog.
En otras palabras: ningún modelo de IA será mucho mejor que los demás, así que tiene sentido ofrecerlo gratis.
Siempre que el precio de algo se desploma, hay perdedores. Esta vez pueden ser las empresas que siguen intentando construir el mejor modelo de IA y ganar dinero directamente con ello. Un ejemplo es la implosión de la startup Inflection AI este año, que invirtió montones de tiempo y dinero en desarrollar su propio modelo de vanguardia que no consiguió destacar entre la multitud.
La respuesta y el problema
La respuesta es simplemente volver a crear un nuevo modelo de IA que sea mucho mejor que los demás, ¿verdad? Si lo consigues, quizá puedas volver a cobrar más por tus servicios de procesamiento de tokens.
El problema es que el coste de desarrollar el próximo modelo todopoderoso está por las nubes y probablemente vaya en aumento. Las GPU de Nvidia siguen siendo muy caras. Construir o alquilar los gigantescos centros de datos de IA necesarios es cada vez más caro. El precio de la electricidad para alimentar y refrigerar estas instalaciones está subiendo vertiginosamente.
El retorno de invertir cantidades ingentes de capital en un nuevo modelo de IA es bueno, siempre que consigas un cerebro para la IA mucho más avanzado. Si sólo es un poco mejor que lo que ya existe, no es tan rentable, explica Rauch.
La gran cuestión de GPT-5
Más allá del coste, los expertos en IA están empezando a debatir si también es más difícil hacer que los nuevos modelos sean considerablemente mejores.
OpenAI lanzó su modelo de IA GPT-1 en junio de 2018. Tras sólo 8 meses, salió el GPT-2. Después tardó 16 meses en lanzar el GPT-3. Y pasaron unos 33 meses antes de que apareciera el GPT-4.
"Estos enormes saltos en la capacidad cerebral, en la capacidad de razonamiento. Cada vez es más difícil conseguirlo", asegura Rauch. "Eso es un hecho".
Existen grandes expectativas para GPT-5, de OpenAI. Muchos en la industria esperaban que saliera en verano. El verano casi ha terminado y aún no ha aparecido.
Puede que GPT-5 arrase a la competencia cuando por fin salga. Y OpenAI podrá cobrar precios por token mucho más altos. Ya veremos.
Conoce cómo trabajamos en BusinessInsider.
Etiquetas: Trending, Inteligencia artificial, Meta, Microsoft, Google, OpenAI, Mark Zuckerberg