La Comisión Europea trabaja en un reglamento para combatir el abuso infantil en Internet en el que la presidencia española de la UE tendrá un peso decisivo y, aunque la legislación aún no se ha redactado, ya han aparecido las primeras voces que no están de acuerdo.

Más de 300 científicos e investigadores especializados en informática han firmado una carta abierta, publicada este martes, en la que manifiestan con respecto a los planes de los organismos comunitarios.

La mayor parte de las críticas se centran en un aspecto que aún se está negociando: la implantación de un sistema de escaneo en aplicaciones como las de mensajería que, a pesar de los sistemas de encriptación, pueda detectar material sospechoso de contener abuso a menores de edad.

Pese a que esta propuesta aún no está incluida en un texto definitivo de la ley, los expertos se han mostrado preocupados por las implicaciones de seguridad de una idea de este calado, y también ven obstáculos técnicos que harían imposible su implantación, al menos en los términos conocidos hasta ahora.

El estado de la legislación europea y la posición de España

El debate se origina en mayo del año pasado, cuando la Comisión Europea publicó el primer borrador de su regulación para combatir el abuso sexual contra menores de edad a través de Internet, un plan en el que no solo participarán las policías sino también los proveedores de los servicios online.

Después del periodo de consulta pública, el borrador pasa a ser discutido por los parlamentarios europeos en un periodo de 2 años que se estima que durará hasta mediados de 2024.

Bruselas se propone acabar con los cuellos de botella que sufre el Reglamento General de Protección de Datos con una nueva regulación

La normativa pedirá que estos proveedores, en especial las aplicaciones de mensajería, puedan tanto detectar el contenido pedófilo como que implanten tecnologías para prevenir que los depredadores puedan entrar en contacto con los menores y así combatir el problema del grooming, con el que comienzan la mayoría de casos de abuso infantil.

Esto choca con una situación actual en la que aplicaciones de mensajería como WhatsApp y Signal cuentan con encriptación de mensajes de extremo a extremo, en la que solo pueden acceder al contenido el emisor y el receptor pero no ningún tercero, ni siquiera la propia plataforma.

El plan contemplado en el borrador europeo establece que las apps usen un sistema de escaneos automatizados que se lleven a cabo desde el propio dispositivo y que garanticen así la privacidad de los datos de los usuarios, que no se envían ni siquiera encriptados.

Las negociaciones entre grupos parlamentarios hasta dar con el proyecto de ley se están llevando a cabo en estos momentos, pero el tema saltó a los titulares recientemente cuando en mayo se dieron a conocer los informes de trabajo de 20 países de la Unión con sus posturas sobre el tema, publicados por Wired.

España ha sido uno de los países con una postura más radical en este tema, ya que pide romper con las comunicaciones cifradas de extremo a extremo de las apps si hace falta como vía para poder acceder a los datos con los que combatir y prevenir la pedofilia.

Este último dato no es anecdótico, ya que España ocupa la presidencia rotatoria de la Unión Europea durante el segundo semestre de 2023 y su papel será decisivo en el texto que llegue al Parlamento Europeo en 2024.

¿Qué es lo que preocupa a los expertos? Cuestiones éticas y técnicas

Los 300 expertos firmantes de la carta abierta alertan contra los planes del borrador desde fiferentes puntos de vista.

Por un lado, consideran que a nivel técnico, "las tecnologías de escaneo que existen en la actualidad o que se están desarrollando tienen errores profundos", por lo que el escaneo no será tan efectivo como estima Bruselas.

A la vez, creen que el hecho de que se lleve a cabo directamente en el dispositivo del usuario tiene potenciales efectos secundarios negativos a nivel de seguridad, ya que pueden ser técnicamente vulnerables, como se ha demostrado en ciberataques a la información almacenada en hashes anonimizados por Facebook o Apple.

En el caso en que se utilice inteligencia artificial contra el grooming, los expertos advierten también sobre los datos sensibles que harían falta para entrenar estos algoritmos –podrían hacer falta otras imágenes pedófilas– y sobre que la IA tiende a cometer errores en la detección.

Debido a los errores de los sistemas automatizados, potencialmente podría haber "cientos de millones de falsos positivos" que obligarían a compartir información personal sensible, como imágenes de desnudos compartidas por adultos de forma consensuada, para que sean revisadas por otras personas.

Por otro lado, los investigadores manifiestan reservas a nivel ético con la idea de intervenir la encriptación de las apps de mensajería porque consideran que supondría un filtro para Internet que atentaría con la privacidad digital de los ciudadanos europeos y contra los valores democráticos en general.

Las dificultades técnicas del uso de tecnologías de escaneo contra la explotación infantil no son nuevas, y uno de los casos recientes más sonados es el de Apple, que ya intentó implantar esta tecnología en sus servicios de almacenamiento iCloud para detectar el contenido pedófilo y avisar a los padres.

Pese a ello, la tecnológica estadounidense tuvo que dar marcha atrás y, solo unos meses después de su anuncio y ante las grandes dificultades técnicas que afrontó, retiró sus planes ante el miedo de que sirviera para consolidar los abusos dentro del núcleo familiar.