El algoritmo de Facebook tiene "sesgos dramáticos": muestra anuncios de mujeres jóvenes con mayor frecuencia a hombres mayores de 55 años
- El algoritmo de Facebook –cuya empresa matriz es Meta, de Mark Zuckerberg– cuenta con "sesgos dramáticos", según un nuevo estudio independiente que ha comparado diferentes campañas publicitarias.
- Los anuncios de mujeres jóvenes se muestran más a hombres mayores de 55 años, mientras que en los anuncios protagonizados por personas negras, la audiencia aumenta entre la población negra.
El algoritmo de Facebook tiene "sesgos dramáticos" en sus anuncios o, al menos, en la audiencia a la que se dirigen. Es la conclusión de un equipo de investigadores, que publican sus hallazgos en la revista Digital Library, de la Asociación de Maquinaria Computacional.
Según el estudio, Facebook –cuya empresa matriz es Meta, de Mark Zuckerberg– cambia la etnia, edad y sexo de las personas protagonistas de sus anuncios en función de la audiencia a la que llegará potencialmente.
En este sentido, los investigadores han descubierto que las imágenes de personas negras se muestran más, precisamente, a personas negras. Mientras tanto, a las mujeres mayores de 55 años se les muestran más anuncios de niños; a los hombres por encima de 55, imágenes de mujeres jóvenes.
"Encontramos sesgos dramáticos en quién ve los anuncios en última instancia basándose únicamente en la demografía de la persona en el anuncio", asegura el equipo en el estudio.
Para ello, los investigadores desarrollaron anuncios con imágenes de personas –con fotos de archivo o en algunos casos con imágenes sintéticas generadas por IA–, invirtieron miles de dólares en la promoción de los anuncios e hicieron un seguimiento de la audiencia alcanzada.
Concretamente, las imágenes de personas negras llegaron a un 81% de la población negra, mientras que con personas blancas protagonistas, la audiencia negra bajaba al 50%. Además, las fotos de adolescentes llegaron a un 57% de la audiencia masculina, y las de mujeres mayores a un 58% de mujeres.
Por su parte, Meta es consciente de este problema. Según ha comentado a Gizmodo Ashley Settle, portavoz de la compañía de Zuckerberg, esta tecnología se está mejorando, ya que es "un problema de toda la industria".
"Hemos hecho esfuerzos significativos para prevenir la discriminación en nuestra plataforma de anuncios, y continuaremos involucrando a grupos clave de derechos civiles, académicos y reguladores en este trabajo", ha asegurado la portavoz de Meta.
No obstante, el paradigma actual puede suponer un problema de inversión publicitaria para Facebook, debido a que muchas compañías apuestan por la diversidad en sus anuncios, con lo cual que el algoritmo segmente de esta forma no tiene mucho sentido.
Además, el algoritmo de Facebook es bastante opaco y no se sabe muy bien cómo funciona. Esto sucede con otros algoritmos, como los estudiados por la consultora Etics. Según esta firma, hay que añadir una discriminación adicional: la realidad socioeconómica.
Un ejemplo de esta discriminación sería la de mostrar anuncios de empleos o en portales de búsqueda –algo que Facebook también tiene–, dependiendo del sexo o la capacidad adquisitiva.
Finalmente, los algoritmos son realmente difíciles de cambiar, ya que su aprendizaje es automático y está basado en millones y millones de imágenes en la nube. Por lo tanto, a Facebook aún le queda mucho camino por recorrer para eliminar estos sesgos.
Otros artículos interesantes:
Descubre más sobre Abraham Andreu, autor/a de este artículo.
Conoce cómo trabajamos en Business Insider.