Aunque el Gobierno continúa en funciones, la legislatura sigue calentando motores. Este viernes Sumar ha presentado en el Congreso una nueva proposición de ley que, a expensas de conocer todos sus detalles, nace para combatir los deepfakes: creaciones con inteligencia artificial de imágenes, vídeos y audios falsos que suelen suplantar a una persona.

Los encargados de presentar la propuesta han sido los diputados Enrique Santiago (IU), Francisco Sierra (Sumar) y Tesh Sidi (Más País) que, en rueda de prensa, han explicado que el texto no pretende "regular los contenidos tecnológicos" sino proteger "los derechos fundamentales" de los ciudadanos a raíz de los usos de la IA.

Esta proposición de ley modificaría 6 leyes, a saber: la ley de protección del derecho al honor, la ley electoral, la ley de la comunicación audiovisual, la ley de competencia desleal, el Código Penal y la ley de enjuiciamiento civil.

"Lo que dispone la iniciativa es que las imágenes corporales o los audios de voz de personas generados por IA deben llevar siempre una advertencia visual o sonora clara", ha explicado Enrique Santiago, portavoz de IU y diputado de Sumar en la Cámara. "Una advertencia que haga evidente que se trata de una creación ficticia".

La proliferación de los deepfakes está suponiendo un problema en toda la red. Las herramientas IA capaces de generar estos contenidos progresan y mejoran exponencialmente, y los instrumentos que pueden ayudar a combatirlos —detectores de deepfakes, por ejemplo— les siguen a la zaga, lo que ya preocupa entre expertos en ciberseguridad.

No en balde, ya se han visto multitud de ejemplos en los que se han empleado estas técnicas atentando contra el honor y la dignidad de las personas. En clave social, por ejemplo, está el reciente escándalo de Almendralejo, el pueblo extremeño en el que una veintena de niñas fueron víctimas de una IA usada por sus compañeros de instituto para crear fotos falsas de ellas desnudas.

También en clave política han proliferado deepfakes sobre candidatos electorales en varios países del mundo, y no es de extrañar que este uso pernicioso de la tecnología llegue a España. La IA puede ser una peligrosa e inagotable fuente de desinformación y noticias falsas.

La propuesta de Sumar es que las herramientas IA que se comercialicen en España y sirvan para crear estos deepfakes siempre incorporen una señal visual o sonora en sus creaciones para detectar que se trata de una creación falsa. Pero la proposición de ley va más allá.

También introduce "cláusulas para proteger contenidos relacionados con la IA cuando forme parte de una obra, una producción artística o tenga contenido satírico". Si el contenido generado tiene la indicación de que es un contenido falso generado por IA, se le aplicará la regulación habitual sobre libertad de expresión y derecho al honor, ha explicado Santiago.

España y la mayoría de comunidades autónomas tienen planes o estrategias IA y sorpresa: no sirven para nada

La modificación de la ley de derecho al honor sirve, además, para incorporar la IA al texto legal como una de las "modalidades que pueden usarse para atacar el derecho a la propia imagen de las personas". En el Código Penal, por el otro lado, se incorpora un nuevo tipo de injurias relacionado con estos usos de los deepfakes.

Enrique Santiago también ha detallado que la modificación de la ley electoral servirá para que el uso de estas herramientas IA de forma maliciosa contra personas candidatas constituya un delito electoral. "Para que todo esto no quede en un simple brindis al sol, también se introduce una modificación de la ley del enjuiciamiento civil".

Francisco Sierra, por su parte, ha desgranado otros aspectos de esta proposición de ley cuyo contenido literal se podrá detallar en los próximos días en los boletines oficiales del Congreso de los Diputados, una vez la propuesta haya sido registrada en la Cámara.

El texto también planteará la creación de 2 nuevos órganos asesores. Si bien en Bruselas los trílogos entre el Consejo de la Unión Europea —que España preside hasta diciembre—, el Parlamento Europeo y la Eurocámara están rematando los últimos flecos del esperado Reglamento de la IA —no sin polémica—, los países tienen la potestad de ampliar esa futura regulación.

El diputado de Sumar por Sevilla, Sierra, ha indicado que con la aparición de estos 2 nuevos consejos que contempla la proposición de ley se ayudaría en la tarea regulatoria de esta tecnología en auge.

Un organismo sería un consejo asesor "que informe y proponga a los reguladores iniciativas sectoriales e integrales del sector". El otro sería un consejo de participación ciudadana "para que la sociedad civil pueda promover medidas no solo preventivas, sino que atenúen los efectos perniciosos del mal uso de la IA".

La diputada Tesh Sidi ha destacado la importancia de que en estos debates se incorpore la voz de la sociedad civil. "Es súper importante acercar la perspectiva ciudadana de estas organizaciones a la parte regulatoria".

En ese sentido, Sumar ha anunciado la creación de un grupo de trabajo dentro de su grupo parlamentario donde también está adscrita la diputada de En Comú Podem, Gala Pin, que junto con la propia Sidi presentó una pregunta escrita la semana pasada sobre el papel de España al negociar el futuro reglamento europeo de la IA.

Sidi también ha opinado que la Agencia Española de Supervisión de la IA (AESIA) que está en A Coruña "debe liderar estos debates con los grupos parlamentarios": "Creemos firmemente que hay que ampliar esa agencia para que cuente con la participación ciudadana".

Esta misma semana la coalición IA Ciudadana, conformada por 16 organizaciones expertas en tecnología y derechos humanos, lanzó un manifiesto dirigido a la secretaria de Estado de Digitalización e Inteligencia Artificial en funciones, Carme Artigas, pidiendo al Gobierno que sea más transparente sobre las negociaciones en torno al reglamento de la IA.

La propia Artigas reaccionó a este manifiesto en redes, asegurando que "la participación de la sociedad civil" en estos debates "está garantizada", y ejemplificándolo con la consulta pública en torno a la prueba del futuro Reglamento de la IA en España o la futura participación de voces expertas en el futuro Observatorio de la AESIA.

Una de las organizaciones de IA Ciudadana, Algorights, agradeció la respuesta de la secretaria de Estado pero insistió: "Más allá de esos canales (que tienen carencias y no son claros), ¿dónde está la transparencia sobre los trílogos y el Reglamento de la IA? ¿Qué pasa con la clasificación de alto riesgo, el estudio de impacto sobre derechos fundamentales y el reconocimiento biométrico?".