Las tecnológicas están tomando medidas cada vez más controvertidas, y esta experta explica por qué: "La ética ya no es sostenible como discurso, hay que pasar a la acción"

Gemma Galdón, fundadora de Eticas Research & Consulting.
Gemma Galdón, fundadora de Eticas Research & Consulting.

Dani Blanco ARGIA

  • Google ha despedido a dos de sus expertas en ética en IA, Amazon contrató a espías, Twitter regula la libertad de expresión en la red: ¿Qué está pasando?
  • Las grandes tecnológicas están tomando medidas cada vez más controvertida en un momento en el que los gobiernos se ponen de acuerdo en regular más.
  • Gemma Galdon, experta en ética tecnológica, destaca que se debe a un proceso de "transformación" en la industria. La ética como discurso ya no es suficiente.
  • Descubre más historias en Business Insider España.

Don't be evil ("No seas malo", en español) es uno de los eslóganes informales más populares de Google. Todo apunta a que tarde o temprano dejará de ser un simple eslogan.

En los últimos meses se han sucedido una serie de noticias que revelan cómo la industria tecnológica se tambalea por aspectos éticos que hasta ahora habían estado latentes ante los ojos de los usuarios.

Justo en el momento en el que Europa se ha comprometido a profundizar en su regulación a las grandes tecnológicas, las multinacionales del sector toman decisiones a la inversa de lo que cabría esperar. Google ha descabezado a su equipo de especialistas en ética tras despedir a una de sus mayores expertas en cuestión de hace unos días.

Es una decisión que se adopta apenas unas semanas después de que sus empleados se hayan visto obligados a formar un sindicato. Amazon ha anunciado que ha instalado unas cámaras para garantizar la seguridad de sus repartidores —los vigilará— en sus furgonetas. Hace un par de meses se supo que la multinacional de Jeff Bezos había contratado espías de Pinkerton para estudiar posibles movimientos sindicales entre sus trabajadores.

"Silicon Valley está matando la innovación": por qué hay que empezar a auditar los algoritmos a las tecnológicas para evitar distopías, según una experta

El asalto al Capitolio del pasado mes de enero también marcó otro hito, cuando las principales redes sociales decidieron bloquear definitivamente la cuenta de Donald Trump en diversas plataformas. El CEO y fundador de Twitter, Jack Dorsey, explicó el movimiento y adujo que a él también le incomodaba. No ha sido suficiente para la CEO de Twitter en España, Nathalie Picquot, que anunció hace días que dejaba la firma.

Desde entonces, incluso el CEO de Apple, Tim Cook, ha responsabilizado a plataformas como Facebook de que en internet hoy impere la desinformación y el discurso del odio. Aunque la marca de la manzana también se las está viendo en Europa con activistas de la privacidad y consumidores, al igual que le pasa a una plataforma de origen chino como TikTok.

Ahora que los consumidores se preocupan cada vez más de la privacidad y de las implicaciones éticas de la tecnología, las grandes tecnológicas parecen emprender el camino contrario. Habla Gemma Galdon, una de las mayores expertas en ética y tecnología de España, fundadora y CEO de Eticas, una firma que audita algoritmos. ¿Son malos tiempos para la ética en la tecnología?

El discurso o el marketing ya no es suficiente

"No. Son buenos tiempos", aclara. "Esto sucede porque estamos ahora mismo en un proceso de transformación en el que se va a acordar qué significa ética, qué parte es legal y qué parte responde a la buena voluntad de las plataformas". Hay muchas incógnitas y dicotomías que se van a ir despejando en este período, incide Galdon. 

Cómo nacen los sesgos tecnológicos que combate Eticas, la consultora que audita algoritmos a empresas e instituciones para evitar que sean discriminatorios

"Qué parte de la ética debe incorporarse para evitar que un producto no sea viable, porque pueda tener consecuencias sociales inaceptables". "O qué parte de la ética puede ser un valor añadido para las empresas. Hay bastante confusión", continúa.

Las grandes tecnológicas obran ahora en contra de lo que siempre habían pregonado con sus discursos de marketing. "Es que venimos de años en los que el tema de la ética solo se había incorporado como discurso, pero el momento es que eso ya no es sostenible y la población empieza a exigir que estas palabras se conviertan en acciones", apunta Galdon.

"No es un mal momento, es parte del proceso". "Cuando ya no eres capaz de sustentar esos compromisos con la equidad, la igualdad y la no discriminación porque luego no los cumples, la gente ve que hay un problema". Por ejemplo, muchas compañías crean equipos de ética "sin visibilidad y sin ningún tipo de impacto en los procesos de negocio", destaca la experta española.

Eticas, la firma española que audita algoritmos a gobiernos y empresas tecnológicas, publica un 'manual de instrucciones' en el que detalla cómo lo hacen

Por eso surgen "fricciones de este tipo". También se refiere a iniciatias gubernamentales, como la del Ejecutivo español. "Vamos a hacer una Carta de Derechos Digitales, una Estrategia Nacional de Inteligencia Artificial. Muy bien. Pero esto ya no sirve". "¿En qué se traduce? ¿Qué derechos protege y cómo los protege? Cuando haya que tomar una decisión difícil, ¿cómo la tomas? ¿Quién la toma?", se pregunta. "Estas son las preguntas que nos debemos hacer ahora".

Los gobiernos llegan tarde

Uno de los mayores debates sobre ética y tecnología es el de la libertad de expresión. Gemma Galdon cree que "no se está gestionando nada bien". "Los gobiernos culpan a las tecnológicas, pero es que las tecnológicas no pueden decir qué es o qué no es la libertad de expresión: les han pedido que ejerzan como gobiernos".

"Los gobiernos han intentado quitarse de encima este marrón, pero de una forma no democrática". Así, tecnológicas y gobiernos se han ido pasando esa 'patata caliente', lo que ha originado "procesos muy imperfectos".

Una de las expertas elegidas por el Gobierno para asesorar la nueva Carta de Derechos Digitales se desmarca del borrador: "Se introdujeron aspectos liberticidas"

"Procesos como que el CEO de una red social decida quitarle la palabra a un presidente o a un expresidente de un país. Si no estás de acuerdo con ese presidente te parecerá fenomenal. Pero cuando ocurra con un presidente con el que sí estás de acuerdo te parecerá fatal", destaca. "No puede ser que el CEO de Twitter se levante un día y se diga que sí, que ya está harto de Trump".

"No es una forma robusta ni legalmente aceptable de gestionar temas sobre la libertad de expresión. Los países no han hecho su trabajo". Por ejemplo, se podía haber exigido a las tecnológicas que contratasen a más personas para moderar contenidos. "Que en función de los ingresos o del volumen de opinión en terabytes se contratase a más personal".

Cómo descargar todos los datos que Google tiene de ti

¿Por qué tarde? "Cuando trabajo con políticos me encuentro con que no saben qué hacer", aclara Gemma. "Hay muy poco conocimiento, y el conocimiento experto no está en política". "No es que los políticos no quieran hacer nada, es que no saben qué hacer", expone.

"Las personas que quizá tengamos las soluciones no estamos en política ni se nos pide esa opinión".

LEER TAMBIÉN: La UE teme que Google o Apple se adelanten con los pasaportes de vacunación si no se dan prisa

LEER TAMBIÉN: Esta startup quiere ayudar a las personas a controlar su imagen en internet a través de precios asequibles y un código ético firme por el que no prestan servicios a políticos o entidades bancarias

LEER TAMBIÉN: Huawei podría lanzar sus primeros coches eléctricos este mismo año para así abrir un negocio que no sufra las restricciones impuestas por EEUU

VER AHORA: Javier Rodríguez Zapatero, presidente de ISDI: “Quien se transforme digitalmente hará un gran servicio tanto a la sociedad como a sí mismo”