Pasar al contenido principal

Telefónica acaba de presentar los 5 principios éticos que guiarán su inteligencia artificial (y es de las primeras del mundo en hacerlo)

José María Álvarez Pallete, presidente de Telefónica, en el MWC 2017 durante la presentación de Aura.
Telefónica
  • La teleco española ha comunicado este martes los cinco principios que guiarán su inteligencia artificial (IA), una herramienta que utiliza desde hace años.
  • Se convierte así en una de las primeras empresas del mundo en tener unas pautas éticas de IA.
  • La justicia, los derechos humanos o la transparencia son algunos de los principios que aparecen en la guía.

Este martes, Amazon ha presentado Alexa, su altavoz inteligente que responde a las preguntas del usuario gracias a la inteligencia artificial (IA). Así, aunque puede sonar a robots trabajadores del futuro o a capítulo de Black Mirror, la IA se encuentra presente en cada vez más ámbitos del día a día: está detrás de los vehículos autónomos, de los videojuegos "contra la máquina" o de traductores de textos.

También la utiliza Telefónica para "optimizar" sus "procesos comerciales, mejorar la relación y experiencia del cliente y ayudar a mejorar las operaciones" de las empresas con las que hace negocio, y lo hace "desde hace varios años", según ha comunicado este martes la empresa.

"Tanto el Big Data como la Inteligencia Artificial (IA) están ayudando a las personas, equipos y organizaciones a tomar decisiones más objetivas basadas en grandes cantidades de datos y algoritmos complejos", ha transmitido Telefónica.

Por eso, y para evitar episodios como el que la semana pasada sonrojó a Amazon, que tuvo que retirar una herramienta de IA para ayudar con los procesos de contratación de personal porque discriminaba a las mujeres, Telefónica ha presentado los principios que la empresa persigue al diseñar, desarrollar o utilizar la inteligencia artificial.

Esta iniciativa convierte a la teleco en una de las primeras empresas del mundo en tener unas pautas éticas de IA para garantizar un impacto positivo en la sociedad. Dichos principios hacen hincapié en la igualdad y la imparcialidad, la transparencia, la claridad, la privacidad y la seguridad.

"Nos comprometemos a implementarlos en nuestros productos y servicios. Para ello, estamos desarrollando una metodología 'IA responsable desde el diseño' para implementarla a nivel interno", reza la empresa en su guía de principios, que se enmarcan en los Principios de Negocio Responsable de Telefónica.

Leer más: Robots con valores: los desafíos éticos de la Inteligencia Artificial

La IA está desarrollándose actualmente sobre todo en el terreno de la publicidad, el transporte, las finanzas, la salud, la educación y la industria, según la revista Forbes. Y el gasto mundial en IA alcanzará los 19.100 millones de dólares en 2018, de acuerdo a estimaciones de la consultora IDC, por lo que previsiblemente más empresas tendrán que adaptarse a esta tecnología lo antes posible.

A continuación, los principios éticos de la inteligencia artificial de Telefónica, tal y como los ha establecido la empresa:

Inteligencia artificial justa

Buscamos asegurarnos que las aplicaciones de tecnología de IA produzcan resultados justos. Esto significa que no deben conducir a impactos discriminatorios por razón de raza, el origen étnico, la religión, el sexo, la orientación sexual, la discapacidad o cualquier otra condición de las personas. Aplicaremos la tecnología para reducir al mínimo la probabilidad de que los conjuntos de datos de formación que usemos creen o refuercen un sesgo o una discriminación injusta.

Al optiminar un algoritmo de aprendizaje automático para obtener precisión en términos de falsos positivos y negativos, consideraremos el impacto del algoritmo en el dominio específico.

Inteligencia artificial transparente y explicable

Seremos explícitos con el tipo de datos, personales o no, que utilizan los sistemas de IA, así como la finalidad para la que se van a utilizar estos datos. Cuando las personas interactúen directamente con un sistema de IA, seremos transparentes con ello.

Cuando los sistemas de IA tomen o respalden decisiones, tomaremos las medidas técnicas y organizativas necesarias para garantizar un nivel de comprensión adecuado para el área de aplicación. En cualquier caso, si las decisiones afectaran significativamente a la vida de las personas, nos aseguraremos de que entendemos la lógica que hay detrás de las conclusiones. Eso también será de aplicación cuando utilicemos tecnología de terceros.

Inteligencia artificial centrada en las personas

La IA debería estar al servicio de la sociedad y generar beneficios tangibles para las personas. Telefónica es consciente del hecho de que la implementación de la IA en nuestros productos y servicios no debe, en ningún caso, provocar un impacto negativo enlos derechos humanos o en el logro de los Objetivos de Desarrollo Sostenible de la ONU. Nos preocupa el posible uso de la IA para la creación o propagación de noticias falsas, adicción a la tecnología y en general el potencial refuerzo del sesgo social en los algoritmos. Nos comprometemos a trabajar para evitar estas tendencias en la medida en que se encuentren dentro de nuestro ámbito de control.

Privacidad y seguridad desde el diseño

Los sistemas se basan en datos, y en Telefónica nos comprometemos a respetar el derecho a la privacidad de las personas y sus datos personales. Los datos utilizados en los sistemas de IA pueden ser personales o anónimos/agregados. Al procesar datos personales, y de acuerdo con nuestra política de privacidad, cumpliremos en todo momento con los principios de legalidad, imparcialidad y transparencia, miniminación de datos, exactitud, limitación de almacenamiento, integridad y confidencialidad. Al utilizar datos anónimos o agregados, utilizaremos los principios establecidos en este documento.

Para garantizar el cumplimiento de nuestra política de privacidad, utilizamos una metodología de privacidad desde el diseño. Al construir sistemas de IA, al igual que con otros sistemas, seguimos el enfoque de seguridad desde el diseño de Telefónica.

De acuerdo con nuestra política de privacidad, aplicamos en todas las fases del ciclo de procesamiento, las medidas técnicas y organizativas necesarias para garantizar un nivel de seguridad adecuado al riesgo al que puede exponerse la información personal y, en cualquier caso, de conformidad con las medidas de seguridad establecidas en la legislación vigente en cada uno de los países o regiones donde trabajamos.

Trabajando con socios y terceros

Cuando ofrecemos a nuestros clientes productos y servicios basados en IA en colaboración con socios o terceros, nos reservamos el derecho contractual de comprobar con nuestros proveedores que la lógica y los datos utilizados son ciertos, tal como estos declaran. 

Y además