"Qué haremos con la productividad adicional que vamos a tener": los debates pendientes de la IA, según uno de los ponentes del reglamento europeo

El Reglamento de la Inteligencia Artificial avanza hacia su aprobación definitiva. Se prevé que el Pleno del Parlamento Europeo le dé luz verde en cuestión de días, a lo largo de este mes de junio, después de que las diferentes comisiones parlamentarias ratificaran su propuesta consensuada hace unas semanas.

Una vez la Eurocámara adopte su propuesta definitiva sobre el reglamento, esta tendrá que negociarse con la que lleve el Consejo de la Unión Europea —el otro colegislador comunitario— a los trílogos, las reuniones que concertan tanto al Parlamento y al Consejo como a la Comisión Europea. Esto sucederá cuando España asuma la presidencia de dicho Consejo, a partir de julio.

Fue la propia Comisión la que puso sobre la mesa el borrador de este reglamento en abril del año 2021. Más de 2 años después se prevé que la norma tenga luz verde a finales de este mismo año. Sobre ella han tenido palabra las presidencias francesa o sueca, y también lo tendrá la española que ostentará el cargo durante el segundo semestre del año.

Un experto en seguridad de la IA esboza 8 hipótesis catastrofistas sobre el fin del mundo

De hecho, unos 60 colectivos sociales españoles y comunitarios ya han remitido una carta a la inminente presidencia española instando a Moncloa a corregir "graves deficiencias" que todavía se contemplan, a su juicio, en el texto pendiente de aprobación.

El texto que la Eurocámara votará a lo largo de junio ya fue aprobado en una reunión hace días de las comisiones parlamentarias de Mercado Interior y Libertades Civiles. Ibán García del Blanco es eurodiputado socialista en la Comisión de Asuntos Legales del Parlamento Europeo, y ha sido el ponente en la sombra por su comisión en este Reglamento de la Inteligencia Artificial.

"Teníamos competencias exclusivas en cuestiones relacionadas con principios generales, temas de propiedad intelectual: el auge de ChatGPT, por ejemplo, lo hemos analizado nosotros. Hemos estado presentes en el debate durante la confección de la ley", indica, en una reciente entrevista con Business Insider España.

El cabreo de los lobbys ante los últimos cambios en el Reglamento de la IA

Una vez se conoció el texto que irá al Pleno de la Eurocámara en semanas, la Asociación Industrial de Computación y Comunicación en Europa, la CCIA Europe, reaccionó. Esta entidad es uno de los principales lobbies que grandes tecnológicas tienen a nivel global, y criticó el texto que hay sobre la mesa del futuro Reglamento de la IA.

En un comunicado remitido a medios, CCIA Europe entendía que el texto sobre el que se negociará presumiblemente en los trílogos puede provocar que desarrolladores de IA en Europa se verán "en desventaja" con respecto a sus contrapartes en países extracomunitarios. 

De hecho, el lobby animó a los eurodiputados a "mantener el enfoque original basado en los riesgos de la IA para asegurar que la innovación en este ámbito pueda prosperar en la Unión Europea". "La mejor forma con la que la UE puede inspirar a otras jurisdicciones es asegurando que la nueva legislación permitirá, antes que obstaculizar, el desarrollo de aplicaciones con IA útiles".

García del Blanco, el ponente en la sombra por la Comisión de Asuntos Legales del Parlamento Europeo, explica a qué se referían desde el lobby, qué cambios se habían introducido en la Eurocámara con respecto al borrador inicial de la Comisión de hace 2 años.

"Estos modelos de IA generativa pueden tener usos diversos, tienen una vocación universal. Pretendían que, si la norma funcionaba, lo hiciera en cuanto a sus usos concretos". La norma exigirá transparencia y algunas cuestiones adicionales a estos modelos, a pesar de que sus usos no encajen en el apartado de casos "de alto riesgo".

Las empresas críticas "tienen que ser conscientes de la magnitud y de la potencia que tienen esas propias herramientas. Creo que de hecho lo son: los avisos que muchos desarrolladores hacen nos ponen eso de manifiesto. Estos sistemas no pueden tener un tratamiento cualquiera", resume el europarlamentario español.

"Dicho lo cual, entiendo que la aproximación del Parlamento Europeo es bastante aproximada. [Esas herramientas] no caen bajo los parámetros de alto riesgo, sino que lo que se les hace es imponerle una serie de obligaciones y salvaguardas necesarias que pueden cumplir: un modelo generativo no lo desarrolla una pequeña startup, hablamos de compañías tecnológicas muy poderosas".

"Hubo quien sostenía, como hizo el Consejo a través de la presidencia francesa, que esos modelos debían ser considerados de alto riesgo. El Parlamento, entendiendo que en estos modelos son los usos los que pueden ser considerados de alto riesgo, ha buscado una fórmula equilibrada", concluye.

Para Ibán García, "esta irrupción de los modelos de lenguaje y de los modelos generativos ha supuesto, de alguna forma, un salto tecnológico que no conocíamos ni teníamos contemplado en una norma que en principio debe ser lo suficientemente flexible como para ser resistente a cambios".

"Hablo bastante a las claras del tipo de realidad que estamos intentando acompasar dentro de una regulación. Es muy complicado. Ante la potencia intrínseca que tiene la tecnología, ante las llamadas a la precaución que han hecho desarrolladores, científicos y expertos... La norma tenía que prever una serie de salvaguardas para la ciudadanía".

Más transparencia con los contenidos protegidos que se han usado para entrenar estas IA generativas

El eurodiputado socialista recuerda que, en cualquier caso, los modelos de texto como ChatGPT no serán los únicos a los que se les exigirán "cumplimientos adicionales que no estén dentro de los casos de alto riesgo". "A cuestiones relacionadas con la generación de imágenes también se les exigirá adicionalmente transparencia".

Lo que se crea, indica, es "una especie de registro: se les pide a las desarrolladoras una serie de salvaguardas previas, de seguimiento y funcionamiento del uso de esta tecnología, y transparencia". También se pretende dar respuesta a los creadores de contenido "cuyas obras han sido usadas y están siendo usadas para entrenar este tipo de modelos".

"Muchos de esos contenidos están protegidos por propiedad intelectual. Es lógico que se pida transparencia en cuanto a qué se está usando para entrenar a dichos modelos", resume.

Precisamente los derechos de autor de los contenidos con los que se han entrenado muchos modelos generativos es lo que más controversia ha suscitado en los últimos meses. Ibán García entiende que con la legislación previa a este reglamento se puede dar respuesta: "Tenemos una directiva de copyright que funciona plenamente".

En cualquier caso, que modelos como Stable Diffusion o DALL-E indiquen con qué contenidos se han entrenado "es una salvaguarda más que necesaria". "Tal vez lo contenido en la regulación de propiedad intelectual tenga que adaptarse a esta nueva realidad, pero se hará correspondiendo al conocimiento de qué datos se están usando y en qué cuantía", que posibilitará el nuevo reglamento.

Fruto de ese análisis tal vez se pueda plantear en la directiva de copyright un nuevo "modelo de licenciamiento, quizá exclusivo para que este tipo de modelos sean entrenados", indica el eurodiputado socialdemócrata.

Los debates pendientes que todavía no se están dando: "¿Qué haremos con la productividad adicional?"

Con todo, Ibán García entiende que ciertos debates alrededor de estas nuevas herramientas todavía tienen que elevase. "La irrupción de ChatGPT ha supuesto un antes y un después, solo hay que ver el volumen de noticias generadas en medios a partir de ese momento. Pero eso no está significando una mejor información".

"Esta primera aproximación a los riesgos intrínsecos de estas tecnologías es interesante y necesaria, pero a veces estamos constantemente alertando de que el monstruo Frankenstein anda suelto, y no resaltamos cuestiones muy importantes que tienen que ver con los beneficios que pueden conllevar o que conlleva esta tecnología", considera.

"A veces leo cosas como que no hay regulación, pero no recordamos que en la Unión Europea se está regulando". Pero también hay que impulsar debates "en positivo, constructivos alrededor de retos evidentes que tenemos en el futuro". 

"Por ejemplo, la reforma del mercado del trabajo. No se trata de señalar que van a desaparecer millones de empleo, que muy probablemente no es que vayan a desaparecer, sino que se van a transformar, sino que hagamos un debate constructivo en cuanto a cómo podemos organizar nuestras sociedades una vez estas herramientas estén implementadas de forma masiva".

A los miembros de la generación X preocupados porque la IA os vaya a quitar el trabajo: tomaos un tranquilizante

La IA generará más productividad. "Ahí hay un debate muy interesante que no acabo de ver: qué harán las sociedades con esta productividad adicional que vamos a tener. Hay un debate interesantísimo con respecto al reparto justo de esta riqueza".

Sobre la propuesta del Parlamento que se aprobará inminentemente, es una fruto de "un equilibrio". "Hemos llegado a un punto madurado en el que una parte sustancial de la cámara nos podemos encontrar". "Como familia socialdemócrata estamos contentos y satisfechos con esta norma, que es proteccionista y que al mismo tiempo no entorpece el desarrollo de la IA europea".

Al contrario, "generará confianza en los ciudadanos para que estas tecnologías se puedan implementar de forma masiva". 

También es clave el papel que tendrá España negociando los últimos flecos del texto antes de que termine el año. "España está en la vanguardia, ha hecho los deberes, tiene interesantes iniciativas como el PERTE de la lengua española, que es una cesta en la que tenemos muchos huevos que poner: que el lenguaje español también sea un lenguaje en la programación".

"España está haciendo las cosas bien y no en vano será la que acabe negociando el texto", apostilla García.