Así es la primera ley IA que propone Sumar: la publicidad con IA generativa será engañosa y cárcel para quienes hagan deepfakes en campaña
REUTERS/Amir Cohen
- Ya se conocen todos los detalles de la proposición de ley de Sumar sobre IA y deepfakes que reforma incluso el Código Penal.
- La norma también plantea que la publicidad que incluya IA generativa se considere engañosa y penas de cárcel para quien haga deepfakes en período electoral.
A principios de octubre varios diputados de Sumar en el Congreso presentaron una proposición de ley sobre inteligencia artificial que persigue muchos usos potencialmente peligrosos de modelos fundacionales, es decir, IA generativas como DALL-E o ChatGPT, que crean imágenes, audios o textos artificiales.
En una comparecencia ante los medios, Enrique Santiago (IU), Francisco Sierra (Sumar) y Tesh Sidi (Más País) recordaban que el inminente Reglamento de la IA que se negocia a nivel comunitario es solo un punto de partida y que los países miembros de la Unión Europea pueden y deben legislar y regular esta tecnología.
La proposición planteaba abordar los problemas que generan los deepfakes, cuando los modelos de IA generativa se utilizan para acabar reemplazando rostros o simulando voces auténticas, suplantando a personas en la red con resultados muy conseguidos. También proponía, avanzaron, la creación de un consejo ciudadano y otro consultivo sobre IA.
Las primeras normas sobre la IA están a punto de hacerse realidad: todo lo que debes saber
Ahora el Boletín del Congreso ya recoge en su tenor literal la proposición, y la norma que dibuja Sumar depara algunas sorpresas más. Aunque no es seguro que la iniciativa se llegue a tramitar, un eventual Gobierno de coalición entre PSOE y la plataforma que lidera la vicepresidenta en funciones Yolanda Díaz abriría muchas puertas a que un texto similar a este fuese un proyecto de ley.
Santiago, Sierra y Sidi ya avisaron que su proposición plantea modificar 6 leyes: la ley de protección del derecho al honor, la ley electoral, la ley de comunicación audiovisual, la ley de competencia desleal, la ley de enjuiciamiento civil y el Código Penal.
Estas son las novedades que se conocen ahora que el Boletín de las Cortes ya ha publicado íntegramente la proposición que Sumar presentó a principios de octubre.
El uso de la IA generativa en comunicaciones comerciales deberá ser etiquetado: de lo contrario, será publicidad engañosa
Un aspecto que no se reveló cuando Sumar presentó la proposición de ley, por ejemplo, es el fin de modificar la ley de competencia desleal. Ahora se sabe para qué: añade un nuevo apartado al artículo 5 de esa ley, que data de 1991, para incorporar lo siguiente:
"También se considerará desleal por engañosa la utilización en comunicaciones comerciales de imágenes o sonidos creados por sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial o la modificación de las apariencias corporales utilizadas en dichas comunicaciones por sistemas de procesamiento de imágenes sin advertir de tales extremos en la propia comunicación comercial de una forma clara y sobresaliente".
En resumidas cuentas: si en anuncios publicitarios hay elementos —imágenes o sonidos— creados por IA o se modifica una "apariencia corporal" con dicha herramienta, y además esas transformaciones no han sido advertidas —con una etiqueta, un sello, o una aclaración—, dichos anuncios serán considerados publicidad engañosa.
Los deepfakes podrán ser injurias en el Código Penal, y hasta un año de cárcel si se hace sobre políticos en período electoral
Esto sí lo adelantaron desde Sumar: la reforma de la ley electoral implicaría perseguir el uso de deepfakes en situaciones tan delicadas como una campaña electoral. Los deepfakes están en auge y son un verdadero problema en otros países del planeta, donde ya se han visto vídeos falsos en los que aparece un candidato está lanzando aseveraciones que en realidad nunca salieron de su boca.
La reforma de la ley electoral supondría añadirle un nuevo artículo 144 bis. De esta forma se castigaría con pena de 3 meses a un año o multa de 6 a 24 meses a quienes desde que se convoquen elecciones hasta que se vote "difundiesen de forma maliciosa o sin autorización de las candidatas" imágenes o audios de estas "que estuviesen alterados o recreados" mediante IA.
La reforma del Código Penal incluye estos deepfakes sobre cualquier ciudadano como un nuevo tipo de injuria siempre y cuando la creación artificial se haya hecho "sin autorización y con ánimo de menoscabar el honor, fama, dignidad o la propia estimación de una persona".
Por su parte, la modificación de la ley de enjuiciamiento civil contemplará como nuevas medidas cautelares "la retirada de imágenes, vídeos o voces de personas generadas por sistemas automatizados", es decir, la retirada de dichos deepfakes. También una reforma de la ley de protección de datos considerará que los deepfakes generan "datos personales".
Un Consejo Consultivo sobre IA que elegirá el Congreso
La proposición es breve e incluye dos disposiciones adicionales en las que se abordan la aparición de dos nuevos órganos: el primero es un Consejo de Participación Ciudadana "integrado por 12 representantes de la sociedad civil" que elevarán propuestas, promoverán una agenda pública relacionada con la IA, y elevarán al Defensor del Pueblo las quejas que correspondan.
El segundo órgano que propone Sumar es un Consejo Consultivo que "será elegido por mayoría absoluta del Congreso de los Diputados entre los candidatos con competencias profesionales o especialistas relacionados con las distintas materias relacionadas con la IA". La primera criba la hará el Consejo de Ministros, eso sí.
Ese Consejo Consultivo estará compuesto por 9 personas y la propuesta del Gobierno para su composición deberá ser de como mínimo 20 nombres con paridad de hombres y mujeres.
El órgano podrá hacer informes, proponer iniciativas legislativas, informar al Gobierno en materia de ética pública y derechos humanos afectados por el desarrollo de sistemas expertos o proponer programas de investigación en las políticas nacionales de I+D sobre IA.
El Gobierno, por su parte, ya puso en marcha la legislatura pasada una nueva Agencia de Supervisión de la IA que todavía tiene que terminar de echar a andar desde su sede en A Coruña, y que será el órgano competente de regular estos modelos ante la inminente aprobación del reglamento europeo sobre esta tecnología.
Otros artículos interesantes:
Descubre más sobre Alberto R. Aguiar, autor/a de este artículo.
Conoce cómo trabajamos en Business Insider.