El Papa une fuerzas con Microsoft e IBM para crear una doctrina ética a la IA y el reconocimiento facial

El Papa Francisco apoya la tecnología, pero también advierte sobre las consecuencias.
El Papa Francisco apoya la tecnología, pero también advierte sobre las consecuencias.ANDREAS SOLARO/AFP via Getty Images
  • El Vaticano pide una regulación más fuerte en el uso de inteligencia artificial en un plan anunciado el viernes, según la información de Reuters.
  • El documento también afirma que las herramientas de IA deberían funcionar de manera justa, transparente, segura y con respeto por la vida humana y el medio ambiente.
  • Microsoft e IBM se han unido al Papa Francisco para respaldar el documento, según Reuters.
  • Esta no es la primera vez que Francisco interviene en los problemas morales y éticos que acompañan a las nuevas tecnologías.
  • Descubre más historias en Business Insider España.

El Papa Francisco quiere que el reconocimiento facial, la inteligencia artificial y otras nuevas tecnologías sigan una doctrina de principios éticos y morales.

En un documento conjunto publicado el viernes, el Papa, junto a IBM y Microsoft, ha expuesto una visión que describe principios para las nuevas tecnologías y exige nuevas regulaciones, ha informado Reuters.

El documento del Vaticano Rome Call for AI Ethics afirma que las herramientas de inteligencia artificial deben construirse "con el enfoque no en la tecnología, sino más bien en la humanidad y el medio ambiente" y considerar las "necesidades de aquellos que son más vulnerables".

Leer más: Telefónica acaba de presentar los 5 principios éticos que guiarán su inteligencia artificial (y es de las primeras del mundo en hacerlo)

La "ética algorítmica" descrita en el documento incluye transparencia, inclusión, responsabilidad, imparcialidad, confianza, seguridad y privacidad. Alude a los debates que han surgido en torno a temas como el sesgo algorítmico y la privacidad de los datos.

En ese sentido, pide nuevas regulaciones en torno a "tecnologías avanzadas que tienen un mayor riesgo de afectar a los derechos humanos, como el reconocimiento facial". La tecnología de reconocimiento facial en particular ha despertado preocupaciones en los últimos años por la investigación que muestra sus problemas con el sesgo racial y la falta de transparencia de las empresas que lo desarrollan.

El documento, que es respaldado por Microsoft e IBM, no es la primera vez que Francisco interviene en cuestiones éticas relacionadas con la tecnología. En una conferencia en el Vaticano en septiembre, el pontífice advirtió que el progreso tecnológico, si no se controla, puede llevar a la sociedad a "una desafortunada regresión a una forma de barbarie".

Otros, tanto dentro como fuera de la comunidad tecnológica, han implementado planes para abordar los efectos secundarios de la IA. En enero, la administración Trump reveló unas reglas vinculantes que las agencias federales deben seguir al diseñar políticas de IA, mientras que la Unión Europea anunció sus principios no vinculantes en abril.

Varias personas y organizaciones dentro de la industria tecnológica se han pronunciado sobre la regulación de la IA, como el CEO de Tesla, Elon Musk, y el CEO de Alphabet, Sundar Pichai, así como los grupos de ética AI Now y OpenAI.

Conoce cómo trabajamos en Business Insider.