Tech Insider: retos, riesgos y oportunidades de la IA, una tecnología llamada a transformarlo todo

Llevamos varios años conviviendo con la inteligencia artificial, pero no hasta hace muy poco la mayoría de nosotros no hemos empezado a ser realmente conscientes de su magnitud. 

El éxito de ChatGPT, el bot de inteligencia artificial de OpenAI que ha suscitado un enorme interés en todo el planeta, ha supuesto toda una revolución en el sector tecnológico y ha abierto las puertas a un mundo de posibilidades que antes solo eran imaginables en la ciencia ficción. 

Desde entonces, son muchas las empresas que han empezado a aplicar la IA a sus procesos, pero que, además, están invirtiendo en sus propios modelos de lenguaje para buscar la eficiencia o expandir sus negocios. El mundo startup es un claro ejemplo de cómo una herramienta puede producir efecto en cadena que alimente aún más la competencia, la innovación y el desarrollo de la tecnología. 

La IA podría convertirse en el motor de la próxima revolución industrial: una transformación en la que el mundo —y especialmente el trabajo— cambie tal y como lo conocemos. Y, aunque ya son muchas voces las que han empezado a advertir del apocalipsis que supondrá la inteligencia artificial, la tecnología hasta ahora desarrollada ha empezado a generar ciertos retos a los que hay que hacer frente en el momento actual. 

Las preguntas solo acaban de empezar a surgir: ¿hasta dónde va a llegar? ¿Qué sectores va a trasformar? ¿Cuántos trabajos va a quitar... cuántos va a crear? ¿Cómo se pueden prevenir sus efectos maliciosos? ¿Hasta dónde es posible regularla sin matar la innovación? ¿Dónde están las líneas rojas? ¿Quién debe ponerlas?

Estas y otras preguntas se debatieron durante el primer encuentro de Tech Insider, un espacio en el que grandes expertos valoraron el desarrollo, el alcance y los retos que supone la inteligencia artificial. El evento, presentado por Yovanna Blanco, directora editorial de Business Insider España, contó con el patrocinio de Havas Media Network y la colaboración de ESIC, Outbrain y Xiaomi.  

"La única y última oportunidad" para aprobar el reglamento europeo de la IA

La cita comenzó con una entrevista a Carme Artigas, secretaria de Estado de Digitalización e Inteligencia Artificial, que compartió su postura optimista frente a los retos que supone regular una tecnología que aún está en pleno desarrollo dentro del marco de la Unión Europea. La secretaria de Estado también explicó la relevancia que España está teniendo en cuanto al impulso de las normativas que salvaguarden, por un lado, la tecnología y por otro los derechos de los ciudadanos. 

"Esperamos que España sea el primer país que esté preparado para adoptar la ley y para ayudar a sus empresas a que esa adopción sea lo más fácil posible. Por eso hemos creado la Agencia Estatal de Supervisión de la IA, la primera entidad supervisora mundial sobre esta regulación y el sand box regulatorio, donde estamos invitando a las empresas a que se adelanten y que vean el impacto real a nivel práctico de esa ley", subrayó Artigas. 

La secretaria de Estado también hizo alusión a la importancia de que ese marco regulatorio se haga realidad antes de las elecciones europeas de 2024, cuando podría cambiar la composición del parlamento y, por tanto, su visión respecto a la IA. "Llevamos 5 trílogos", explicó. "La única y última oportunidad que tenemos es el 6 de diciembre", señaló en referencia al próximo trílogo. 

Artigas responde a Francia, Alemania e Italia: "La razón de ser del Reglamento de la IA son las prohibiciones"

Artigas destacó que las líneas rojas han estado en el debate desde el minuto uno: "Hace cuatro años, cuando se propuso este reglamento, era muy pionero. China y Estados Unidos nos miraban por encima del hombro. Pero nosotros llevamos mucho tiempo diciendo que la inteligencia artificial no se puede tratar como cualquier otra tecnología", comentaba. Sin embargo, la secretaria también señaló que la entrada de ChatGPT en escena lo aceleró todo.  

"Cuando hace un año aparece ChatGPT e inunda la vida de posibilidades, llega lo que yo llamo 'el momento eureka': todo el mundo se cae del caballo y se da cuenta de que esto en manos de los malos es muy malo. Todo el mundo empieza a poner de manifiesto la necesidad de regulación". 

La IA es una tecnología transformadora que lo va a revolucionar todo

En la primera mesa de debate, llamada Contexto: ¿dónde estamos y cómo está evolucionando la IA?, y moderada por Yovanna Blanco, directora editorial de Business Insider España, los expertos analizaron en la evolución que está teniendo y que tendrá en un futuro próximo la IA. En ella, participaron Luis Ríos, director del máster de formación permanente en Big Data y Business Analytics e IA de ESIC Business School, y Enrique Castellanos, director del Instituto BME, para analizar los retos para la formación que supone el desarrollo de la IA. 

"En el mundo académico hay un debate tremendo", apuntó Ríos, "porque hay países que como Italia que han prohibido el uso de la IA generativa. Desde el punto de vista más pragmático, nosotros estamos muy próximos a la empresa, buscando formar profesionales y por eso permitimos el uso de la IA como una herramienta más. La razón que hay detrás de esto es que en el mundo profesional es lo que se va a encontrar".

El director del Instituto BME, por su parte, destacó la dificultad para encontrar perfiles profesionales de inteligencia artificial, por ello, "en el instituto creamos un máster de IA precisamente para formar gente, porque es un perfil muy escaso". 

Respecto a la irrupción de ChatGPT y los últimos movimientos en la compañía de OpenAI, los expertos instaron a abrir de ojos respecto a los usos y el potencial de la IA. "Desde la aparición de ChatGPT", comentó Castellanos, "a pesar de que ya teníamos conocimiento de la IA, la gente se ha dado cuenta de que realmente existe. También hay que tener en cuenta que no todo es IA. Muchas empresas están utilizando esa etiqueta para ver si son capaces de vender más".

"A la hora de invertir tenemos que distinguir cuáles son las empresas que hacen realmente IA y cuáles están utilizando simplemente sus servicios. Hay que sacar la alfombra y ver qué hay debajo", sentenció. 

Por su parte, el director del máster de formación permanente en Big Data y Business Analytics e IA de ESIC Business School se mostró optimista ante el despertar que ha supuesto herramientas como ChatGPT: "OpenAI está muy expuesto, pero mi valoración es positiva: demuestra que hay mucho movimiento. Aunque nacieron con un modelo non-profit, la compañía necesita al día 700.000 dólares para funcionar, de los que luego nos aprovechamos todos. Estamos asistiendo a un movimiento que nos está transformando a todos, porque quién no conoce ChatGPT. Yo soy muy optimista", recalcó.

Respecto a los cambios que se puedan dar en las profesiones del mañana, ambos expertos subrayaron la revolución que supone esta tecnología. Ríos señaló la automatización con pequeños robots de tareas rutinarias que cualquier perfil profesional puede tener en su día a día. "Eso nos va a permitir enfocarnos en ideas creativas e innovadoras. Hay posiciones que son muy repetitivas, que sí se van a ver afectadas". 

"La parte más importante donde se va a aplicar esta tecnología es en ese gran volumen de datos que hace unos años no podíamos analizar, y que ahora automáticamente nos da decisiones de inversión, donde perdemos el poder explicativo, pero ganamos en la exactitud del dato", apuntó Castellanos. 

El hereje de la IA: cómo un destacado economista empezó a preocuparse y a temer a la inteligencia artificial

Para que haya innovación en IA es necesario que haya financiación: el reto de España y Europa ante competidores como Estados Unidos

En el segundo bloque, también moderado por Yovanna Blanco y titulado Negocio y oportunidades de la IA en el ecosistema emprendedor, se habló del ecosistema de las empresas para generar IA y la importancia de la financiación para impulsar la innovación. En esta mesa participaron Celia Sánchez, directora general de 1Millionbot, Miguel Kindelán, director ejecutivo de GP Bullhound, Aquilino Peña, cofundador y socio directivo de Kibo Ventures, y Borja Santos, director de Corporates de K- FUND. 

La IA ha abierto todo un mundo de posibilidades, especialmente para el ecosistema de startups, que está atrayendo mucha de la inversión del capital riesgo en mercados como el estadounidense, pero Europa está muy por detrás: la inyección de capital a las startups de IA se queda en unos 1.000 millones de euros, frente a los 144.000 al otro lado del charco.

Para aterrizar en el contexto del caso por excelencia de OpenAI, Miguel Kindelán explicó que aún estamos en una fase de talento. "La madurez de los ecosistemas empieza muchas veces por talento y luego se va consolidando en negocios. Ahora mismo se está apostando por puro talento más que por una cuenta de resultados". Sin embargo, en el contexto español la atracción de inversión aún no alcanza los niveles deseados para ser impulsores de la IA: "España, y en general en Europa, está en condiciones de generar una inversión mucho menos potente que en otros países. El crecimiento orgánico que podemos hacer es mucho más lento que el crecimiento impulsado por fondos", explicó Celia Sánchez. 

Sin embargo, los expertos sí destacaron durante el evento la labor de algunas compañías por acelerar estos procesos en nuestro país. Peña apuntó a una excepción dentro de España: Clibrain, que están intentando crear modelos de lenguaje propietario en español. Kindelan habló de Clarity AI como posible siguiente unicornio, aunque dudó sobre cuándo surgirá el siguiente o si será esa, sí parece tener claro que la startup que sea estará íntimamente ligada a la IA. 

En referencia a los clientes, Sánchez explicó que hay comúnmente dos tipos de clientes: "El que sabe lo que necesita y la tecnología que lo resuelve, y las empresas que simplemente quieren instalar inteligencia artificial". "Al mercado le hace falta saber realmente lo que está pasando con la tecnología para poder hacen un matching entre las necesidades de la compañía y realmente cuáles son aquellas que suponen una palanca en los objetivos de la empresa", continuó la experta.

Por su parte, Borja Santos confesó tener una visión sesgada respecto a la ayuda que la IA puede suponer para los inversores, recalcando el papel humano para el desarrollo de la tecnología: "Creo que hay herramientas que te ayudan a clasificar datos y hacer un check del emprendedor, pero la realidad es que este mundo es un mundo de personas. El inversor está con el emprendedor porque nosotros invertimos en empresas y en equipo", comentó.

Kindelan, desde la estrategia de inversión de GP Bullhound, señaló que "más allá del talento (que es lo más importante) hace falta un perfil financiero y rentabilidad para poder llevar a esa empresa al mercado. Pero el experto añadió que, aun así, puede resultar insuficiente: "En una empresa de estas características puedes tener un modelo de negocio muy rentable, pero la incertidumbre que puedas tener en el momento de la venta es muy alta y, por ejemplo, los requerimientos regulatorios pueden echar atrás el negocio".

Para los expertos, una de las claves es el papel de las grandes corporaciones. "Tienen que comprar más compañías pequeñitas y más startups porque no han comprado ninguna, además de facilitar la contratación de las compañías pequeñas, porque estamos muy lejos", señaló Peña. 

"Las corporaciones españolas sí que están evaluando qué hacer con la IA y muchas de ellas están considerando que esta herramienta pase a formar parte de la estructura del software, pero nosotros, que trabajamos cerca de muchas corporaciones, vemos que hay miedo a tomar decisiones y al final se acaban retrasando", explicó Santos desde su experiencia en K-Fund.

El director ejecutivo de GP Bullhound añadió que "es mejor hablar de empresas europeas que de empresas españolas porque aquí parece que estamos intentando que cada país tenga su campeón nacional de IA, pero así va a ser muy difícil competir con los grandes americanos. Si queremos hacer algo, tenemos que tener una visión europea porque localmente creo que poco vamos a conseguir". 

Desde otra perspectiva, la directora general de 1Millionbot apuntó a la toma de decisiones: "A veces será necesario un comité asesor sobre cierto tipo de tecnologías que se quieren implantar para que esas decisiones fluyan mejor. Porque muchas veces quien está en el negocio no siempre conoce las palancas tecnológicas y eso creo que cada vez se va a ir introduciendo más en las compañías".

El precio que pagaremos por nuestro futuro basado en la inteligencia artificial: más soledad

La innovación de la tecnología no podrá sustituir en ningún caso las capacidades ni el valor humano

En el tercer bloque, Innovación, transformación e IA, moderado por Ana Muñoz, redactora jefe Tecnología de Axel Springer España, participaron Alejandra Molina Valiente, directora de ventas de Outbrain, Álvaro Malmierca, content business partner de HAVAS Play, y Jorge Rubio, subdirector general adjunto de TURESPAÑA. 

En esta mesa, los expertos resaltaron la labor humana que hay en el desarrollo de la tecnología y cómo esta es inviable si no hay personas detrás supervisando los procesos e interpretando los datos.

"Nuestro equipo tecnológico es uno de los más importantes dentro de Outbrain", comentó Molina, "es el equipo de I+D+i que se encarga de desarrollar el algoritmo. En el día a día de nuestro trabajo de optimización de campañas, aunque toda la parte de pujas y algoritmos está automatizada, la parte humana es siempre super importante. Siempre hay una persona por detrás guiando y esclareciendo los datos, porque es importante trabajarlos bien".  

El representante de Havas Media Network destacó el valor que las personas tienen dentro de la compañía y ejemplificó cómo ese valor lo están intentando combinar con IA: "Nosotros tenemos una herramienta interna dentro de la casa que junta lo humano con la inteligencia artificial", expuso Malmierca. La herramienta, explicó, "parte del conocimiento colaborativo de toda la empresa y a través de IA lo que hace es aprender de ese conocimiento para que cuando le hagamos una pregunta genérica no haga una respuesta genérica, sino que sea desde el ADN y desde la ventaja competitiva diferencial que tiene Havas, como si la hubiese hecho un empleado porque tiene el conocimiento de la propia compañía". 

El subdirector general adjunto de Turespaña comentó su propia experiencia con los proyectos de IA que están llevando a cabo para sistematizar procesos, señalando también el aspecto humano de todo ello. "La parte humana es importante. Cuando le preguntábamos a ChatGPT-4 por las categorías de las preguntas que teníamos, daba unos márgenes muy amplios. Así que lo hemos estado utilizando como copiloto, pero el humano ha sido el piloto de verdad, el que realmente ha guiado a ChatGPT porque se equivocaba bastante". "Para nosotros es un asistente", confesó. 

Los expertos también comentaron cómo la IA generativa está cambiando sus empresas para mejorar procesos y ofrecer mejores servicios a los clientes. En el caso de Havas Play, tienen dos grandes retos en los que trabajan en paralelo: la réplica y la reinvención. "La IA es un bebé que necesita aprender a andar y hablar", explicó Malmierca en lo que se refiere al proceso de réplica. "Pero lo que a nosotros nos motiva cada mañana es la parte de reinventar", añadió. "Estar pensando paralelamente no solo como podemos hacer la parte de los procesos, sino la parte de crear cosas nuevas para solucionar los problemas de siempre con una tecnología nueva que lo que va a hacer es abrir oportunidades". 

En el mundo del marketing, la directora de ventas de Outbrain, contó que gracias a la IA generativa "estamos en un punto en el que dependiendo del usuario que tengamos delante podemos personalizar un titular específico para cada patrón de navegación para cada usabilidad".

Rubio compartió cómo están iniciando desde Turespaña la sistematización de los servicios a los clientes: "Con la aparición de ChatGPT estamos creando un piloto para ver las potencialidades que nos da toda la interacción que tenemos con los usuarios y cómo podemos aprovechar las capacidades del dato, más los datos posteriores de comportamiento". 

Entrevista a Satya Nadella, CEO de Microsoft: su opinión de la IA, el acuerdo con Activision Blizzard y su mejor decisión empresarial hasta la fecha

La IA tiene un gran potencial, pero existen líneas rojas como las libertades individuales que no deben sobrepasarse

En la cuarta y última mesa, también moderada por Ana Muñoz, sobre Tecnología, ciberseguridad, ética, humanismo e IA, participaron Natalia Rodríguez, Fundadora y CEO de Saturno Labs, Richard Benjamins, Chief Responsible AI Officer de Telefónica, y Nerea Luis, responsable del área de inteligencia artificial de Sngular. 

En este último bloque se abordaron los límites de la IA teniendo en cuenta su gran potencial para transformar las sociedades y cómo se puede aprender de las regulaciones pasadas para hacer de la inteligencia artificial una herramienta que explote todos sus beneficios y no todos sus peligros. En este sentido, la responsable de IA en Sngular subrayó que hay que tener en cuenta que las particularidades de la IA por los cambios que supone. 

"Estamos viendo cómo la IA se está convirtiendo en algo transversal, la vamos a ver integrada en muchos sitios. Podemos aprender de la ley de protección de datos: cosas que han salido bien y que han salido mal. Soy de la opinión de tener una regulación, sobre todo para estandarizar y luego revisar la parte de auditorías o controles en los que los expertos aporten mesura sobre cuánto se le puede pedir a una empresa", comentó Luis. 

"Con todos los grandes cambios tecnológicos, ha llegado la regulación, pero siempre después", señaló Benjamins. Y añadió que "si miramos la ley de protección de datos tardó unos 15 años en ponerse en práctica, lo curioso es que con la IA han querido ir mucho más rápido". "Es importante regular, pero regular los usos, no la tecnología en sí, porque en realidad es una herramienta. Son las personas que hay detrás las que pueden tener malas intenciones", expuso. 

"La IA va tan rápido que cuando quiera salir la regulación se va a quedar obsoleta. Posiblemente todo lo que se esté trabajando ahora desde Europa va a ser una primera piedrecita de probablemente otras versiones de nuevas leyes. Va a ser una ley pivote para algo más", apuntó la fundadora de Saturno Labs. 

El furor por una IA sin límites éticos está levantando nuevas barreras a la igualdad: así se enquista el machismo entre los algoritmos

Uno de los grandes problemas éticos que ha planteado la IA según hemos ido conociéndola, es la de los sesgos hacia las mujeres, personas negras, minorías, etc. Los expertos coinciden en que no debe sorprender que la IA tenga sesgos cuando las propias personas que estamos detrás las tenemos.

"Lo que hay que tener cuidado de meter sesgos aposta o que se estén desvirtuando una serie de decisiones para tu interés propio", recordó Rodríguez. "Hemos aprendido que, aunque quizás la tecnología es más objetiva de lo que somos, las personas no deja de tener sesgos", subrayó el jefe de IA de Telefónica, añadiendo que "los sesgos se pueden evitar ajustando los data set para que no haya discriminación". 

Nerea Luis quiso reivindicar la capacidad de la IA para arrojar transparencia en otros procesos porque se pone mucho el foco en los sesgos, pero la propia IA nos puede ayudar a hacer otros procesos más transparentes".

Los expertos también hablaron de cuáles son las líneas rojas que deben imponerse a la IA. "Donde no debe meterse es en tema de vigilancia masiva: poner cámaras en todos sitios y reconocer a la gente. Todo lo que sea cortar libertades debe evitarse", resumió Benjamins. 

"Al final hay mucha recomendación hacia los extremos, hay mucha recomendación a que te polarices, etc. Todo lo que sea que propicie que nos hagamos más adictos a algo, es muy poco ético", opinó por su parte Rodríguez. 

"Cuando ponemos el caso de justicia, se plantea esta cuestión: si pusiéramos una IA a dictar sentencias sería mucho más objetivo.. Pero en realidad no, por todo lo que bebe de internet y de la historia pasada. No porque sea algo tecnológico, no significa que no vaya a tener fallos", planteó Luis.

A pesar de los riesgos, los tres expertos se mostraron optimistas en cuanto a las posibilidades de esta nueva tecnología frente a los miedos que puedan surgir. "Creo que vamos a ver cosas maravillosas", sentenció la responsable del área de inteligencia artificial de Sngular.