Automatizan servicios públicos sin debate y 'vacían' de sentido los parlamentos: varias expertas llaman en Barcelona a gobernar la tecnología más allá del discurso institucional

Visitante en la instalación del artista Refik Anadol en la Feria de Arte Digital de Hong Kong (China) en 2021.
Visitante en la instalación del artista Refik Anadol en la Feria de Arte Digital de Hong Kong (China) en 2021.

REUTERS/Tyrone Siu

  • Un evento organizado por la Digital Future Society ha reunido en Barcelona las voces de varias expertas en ética, política y tecnología.
  • La falta de formación y divulgación en algoritmos, IA y tecnología en la sociedad civil son un desafío y un riesgo a atajar.
  • La capacidad de lobby de las tecnológicas en Bruselas o enfrentar la narrativa del "tecnosolucionismo" fueron algunos de los temas tratados.
  • Descubre más historias en Business Insider España.

Los ciudadanos están asistiendo al despertar del sueño tecnológico.

La pandemia ha acelerado los procesos de transformación digital en casi todo el mundo, y hace años que conceptos como inteligencia artificial o aprendizaje automático pasaron de ser teorías o especulaciones a ser una realidad. Procesos críticos, como decidir a quién se da una hipoteca o no, o si se dice la verdad o no al hacer una denuncia, ya han sido automatizados.

Y nadie ha preguntado si eso está bien.

Barcelona se convirtió este lunes en la capital de un debate: el de cómo las personas se relacionan con las nuevas tecnologías, qué derechos adquieren y cuáles ponen en riesgo, y qué soluciones se pueden aportar para el dilema del humanismo, la ética y los derechos en esta era digital. 

Bajo el título Humanism in the digital age: The urban contribution, la Digital Future Society (una iniciativa del Ministerio de Asuntos Económicos y Transformación Digital y de la Mobile World Capital Barcelona) reunió a más de una treintena de expertos y expertas internacionales en el Hospital de la Santa Creu y Sant Pau de la Ciudad Condal.

La elección del nombre no es casual. Fue la propia secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas, quien anticipó que Barcelona volvía a ser "la capital del humanismo tecnológico". Y destacó "el gran papel de las ciudades", "que tienen que reinventarse tras la pandemia".

Expertas como Carissa Véliz, filósofa y profesora en Oxford y autora del libro Privacidad es poder, Amos Toh, investigador en IA de Human Right Watch, o Sonia Jorge, responsable de Inclusión Digital en la fundación World Wide Web, la organización que impulsó Berners-Lee, debatieron durante todo el día sobre los principales desafíos que abren los nuevos procesos de transformación digital.

El panel de expertos lo completaban otros perfiles bien reconocidos tanto en España como en el extranjero como Gemma Galdon, fundadora de Eticas; Nerea Luis, doctora y divulgadora en Ciencias de la Computación; o Raquel Jorge, politóloga en el Real Instituto Elcano y especialista en política y diplomacias tecnológicas.

Algunas conclusiones se pueden sintetizar con palabras de la propia Galdon. "La promesa de la tecnología nos ha llevado a esta suerte de autocracia y a vaciar los parlamentos de contenido y sentido". Ahora, hay un desafío inmenso: democratizar los algoritmos. Democratizar toda la tecnología.

Sin voz al decidir qué procesos se automatizan

Gemma Galdon, directora de Eticas Consulting.
Gemma Galdon, directora de Eticas Consulting.

Dani Blanco ARGIA

La discusión sobre el papel de las grandes tecnológicas está más vivo que nunca, y en buena parte se debe a las revelaciones que ha protagonizado estas semanas Frances Haugen, la extrabajadora de Facebook que ha tirado de la manta y filtrado miles de documentos sobre la compañía de Mark Zuckerberg.

Facebook, ahora conocida como Meta, y enfrascada en la creación del metaverso (llamado a ser la siguiente gran revolución de internet), priorizó su interés propio por encima del bienestar de sus usuarios. Las revelaciones de Haugen han vuelto a poner sobre el tapete muchas cosas que ya se sabían desde hace años: Facebook sabía que sus algoritmos polarizan a la sociedad.

"Hay que hacer un esfuerzo por preservar el mundo natural": esto es lo que opina del metaverso de Facebook la autora del libro más importante del año sobre privacidad

La propia Haugen compareció en el Congreso de EEUU hace unas semanas, y lo volvió a hacer hace unos días en la sede del Parlamento Europeo en Bruselas. Sin embargo, siempre que estos desafíos tecnológicos llegan a las grandes cámaras de representación, se hacen ignorando en buena parte la voz de la sociedad civil organizada.

Esto no ocurrió este lunes en Barcelona, donde Judith Membrives, profesora de la Universitat Oberta de Catalunya y especialista en soberanía tecnológica y justicia algorítmica en entidades como Lafede.cat o Algorights, denunció "la ausencia de la participación de ciudadanos en procesos de tomas de decisiones en la automatización de los servicios públicos".

Eticas, la firma de auditoría algorítmica fundada por Gemma Galdon, lanzó en octubre el Observatorio de Algoritmos con Impacto Social, el OASI. En el listado inicial ya aparecían varios algoritmos de inteligencia artificial que automatizan procesos tan críticos como determinar quién puede acceder a una ayuda o si una denuncia es falsa, con consecuencias que pueden resultar discriminatorias.

Ese proceso de IA se conoce como VeriPol y usa el procesamiento del lenguaje natural para analizar llamadas telefónicas a la policía. Predice si la denuncia es falsa o no en función de los detalles que dé el denunciante y la morfosintaxis que emplee al hablar. Eticas denunciaba entonces que un algoritmo como ese podría arrojar falsos positivos en casos de personas con poca formación o no nativas.

Membrives llevó el problema más allá al incidir que muchos procesos como este se están automatizando en el sector público sin identificar riesgos de la mano de organizaciones civiles, como ONG, fundaciones y activistas especialistas en estos ámbitos. Es lo que la propia Membrives señaló como "narrativa del tecnosolucionismo".

Otro problema es que muchas organizaciones sociales "no conocen algoritmos". "Tienen pocos conocimientos: hay una falta de conocimientos y de divulgación y esto afecta a los derechos humanos, que están siendo vulnerados".

Una tecnología que no deje a nadie atrás

Cecilio Angulo, profesor de la Universitat Politecnica de Catalunya, recordaba en su intervención que un algoritmo, por definición, siempre va a ser discriminatorio. Su trabajo es discriminar. "No todos son discriminatorios en el mal sentido", matizó, al tiempo que lanzaba una pregunta: "¿Puede un discriminante no ser discriminatorio?".

Discriminar "es algo inherente a la inteligencia artificial", y se trata de una "cuestión de interpretación" de los seres humanos. "En este último elemento no podemos fiarnos siempre de los gobiernos", descargó el experto. Gobernar la tecnología fue uno de los elementos recurrentes a lo largo de todos los paneles que se celebraron. 

"A nadie se le hubiera ocurrido que en mitad de la pandemia una farmacéutica comenzara a saltarse los ensayos clínicos de sus vacunas. Con la tecnología no se está haciendo ningún tipo de control, a pesar de que las plataformas generan adicciones", lamentó Gemma Galdon.

"Silicon Valley está matando la innovación": por qué hay que empezar a auditar los algoritmos a las tecnológicas para evitar distopías, según una experta

"Aducen que la regulación mina su capacidad de innovación. Hemos pasado de la sociedad del control a la sociedad de la manipulación y no podemos opinar siquiera". En palabras de la fundadora de Eticas, "la promesa de la tecnología nos ha llevado a esta suerte de autocracia y a vaciar los parlamentos de sentido y contenido".

"Los parlamentos son históricamente los espacios de anticipación estratégica, donde protegemos a aquellos que no tienen voz". "Los algoritmos no nos traerán la democracia". Pero para tratar de reivindicar esa democracia por encima de los modelos de IA y las innovaciones tecnológicas que proponen las grandes multinacionales, hay que romper ciertos relatos.

Uno de esos relatos es el de la inevitabilidad de la tecnología. Andrea G. Rodríguez, investigadora del CIDOB (un think tank  que responde al nombre de Centro de Barcelona para Asuntos Internacionales), donde lidera la iniciativa del Global Observatory of Urban Artificial Intelligence. 

En su turno, G. Rodríguez expuso cómo a menudo la sociedad asume que los algoritmos "darán en el clavo" en la guía de la acción política para resolver grandes retos como el cambio climático.

Sin embargo, "tenemos unos problemas de exclusión muy graves". "Pensamos que lo que hacemos es para un conjunto homogéneo de personas", y hoy por hoy la tecnología está dejando a gente atrás: a ancianos y a niños.

El desafío de gobernar la tecnología

Raquel Jorge Ricart, politóloga y experta en políticas tecnológicas públicas.
Raquel Jorge Ricart, politóloga y experta en políticas tecnológicas públicas.

Cedida

Tanto Andrea G. Rodríguez como Raquel Jorge Ricart desgranaron algunos de los desafíos de gobernar la tecnología. Hasta ahora la apuesta ha estado siendo la autorregulación, a pesar de que la propia secretaria de Estado, Carme Artigas, reivindicó en su intervención la confección de la Carta de Derechos Digitales del Gobierno a finales de 2020.

Nerea Luis aportó una frase clave. "La ética no se puede cosificar". Y Jorge Ricart señaló que lo que se ve "a nivel de gobernanza tecnológica y algorítmica es un mosaico de iniciativas por parte de estados, de organizaciones internacionales y de organizaciones de la sociedad civil". 

Andrea G. Rodríguez expuso un estudio en el que se demostraba cómo muchos manifiestos de grandes organizaciones en defensa de una tecnología ética y responsable ni siquiera conversaban entre sí.

Para el cambio climático se organizan cumbres del clima a los que acuden casi 200 países de todo el globo. Para algo tan crucial y complejo como es la preservación de las garantías y derechos digitales no se está haciendo lo mismo. "La gobernanza algorítmica la elevan una serie de países que no llevan esos debates a todo el planeta".

Las tecnológicas están tomando medidas cada vez más controvertidas, y esta experta explica por qué: "La ética ya no es sostenible como discurso, hay que pasar a la acción"

"¿Dónde está el sur global? ¿Dónde está América Latina, dónde está el África subsahariana?". Aunque muchas empresas abrazan en sus discursos la autorregulación tecnológica y algorítmica, y "crean sus propias cláusulas y mecanismos de transparencia", esto no quiere decir que incluyan una "rendición de cuentas".

"Lo que vemos es que se planta la inteligencia artificial no como un medio, sino como un fin positivista", resumió la politóloga del Real Instituto Elcano. "¿Solo queremos gobernar la IA o queremos democratizar todas las tecnologías?".

La pregunta es pertinente en la antesala de la reivindicada nueva revolución de internet: diversos especialistas auguran que el metaverso que cimentan distintas multinacionales tecnológicas podría suponer un antes y un después en la forma en la que los seres humanos interactuamos en esta era digital.

Pero hay problemas que persisten. Uno es el lobbismo en Bruselas. La Unión Europea trabaja en una batería de regulaciones tecnológicas cuyos borradores ya son de por sí ambiciosos, aunque podrían quedar en papel mojado de incurrir en los errores que se cometieron con el Reglamento de Protección de Datos, según algunos expertos.

Hoy se sabe que más de 1.400 lobbistas, liderados por tecnológicas como Google, Microsoft o Facebook gastan hasta 97 millones de euros cada año en su trabajo de lobby en Bruselas. "Es una preocupación muy grande. El poder que tienen las tecnológicas es gracias a nuestros datos. Si no los tuvieran, tendrían menos poder", incide Carissa Véliz.

Pero más allá de Europa, el debate es global y hay modelos antagónicos. Carissa Véliz, como ya hizo en su libro, llama a la acción. "Si China exporta vigilancia, nuestro trabajo será exportar privacidad".

Otros artículos interesantes:

"No va a ser como ir al cielo": el presidente de Microsoft rebaja las expectativas sobre los nuevos metaversos y pide más compromisos a las tecnológicas

Facebook prepara una inteligencia artificial que rastreará todos tus movimientos

Así está la guerra entre Amazon, Microsoft y Google por conseguir el mejor sistema en la nube para que los desarrolladores puedan crear software con inteligencia artificial

Te recomendamos

Y además