Pasar al contenido principal

Por qué el polémico 'Proyecto Maven' ha generado una crisis de identidad a Google

Google Maven
Getty Images
  • La participación de Google en el "Proyecto Maven" del Pentágono para el uso de inteligencia artificial con fines militares provocó una revuelta en la compañía en la que miles de empleados firmaron una carta pidiendo al director ejecutivo Sundar Pichai que abandonara el contrato.
  • La compañía respondió en un primer momento que se trataba de un contrato menor por valor de 9 millones de dólares y aseguró a Business Insider que el uso que se le daría era exclusivamente "no ofensivo", además, se ha comprometido a establecer una normativa ética que supuestamente excluirá el uso de inteligencia artificial para fines militares, según el New York Times.
  • Según unos correos internos filtrados a The Intercept, Google esperaba que los ingresos por el desarrollo de inteligencia artificial en drones de uso militar pasaran de unos eventuales 15 millones de dólares a 250 millones de dólares anuales.

Una filtración de correos electrónicos publicados en The Intercept ha echado más leña al fuego que acecha a Google con motivo de su participación en el "Proyecto Maven". En estos emails obtenidos por la publicación se afirma que más allá de ser un contrato menor de "solo" nueve millones de dólares ─tal y como afirmó según el New York Times la directora ejecutiva de Google Cloud Diane Greene en una reunión interna de empleados de Google─ el área de desarrollo de negocio de Google esperaba que la participación de la compañía en el contrato con el Pentágono llegara a aportar 250 millones de dólares al año

Desde su fundación en el año 1998, el lema de Google "Do not be evil" (no seas malvado) ha permanecido inmutable. Pero recientemente, la compañía ha asistido a todo un terremoto interno causado por un conflicto ético. ¿Ha estado siendo Google malvado? 4.000 empleados de los 70.000 trabajadores que tiene en todo el mundo creen que sí y han pedido cambios en el rumbo de la compañía mediante una carta abierta dirigida al CEO de la empresa, Sundar Pichai. El origen de la división interna ha sido el polémico "Proyecto Maven".

El "Proyecto Maven" es un contrato de colaboración con el Pentágono para implementar el uso de la inteligencia artificial con fines militares. Concretamente, la función de Google ha sido la mejorar el sistema de interpretación de imágenes de vídeo de los drones y facilitar el trabajo a sus pilotos mediante inteligencia artificial. Esta función "no tendría un uso ofensivo" y serviría para "salvar vidas y ahorrar trabajo", de acuerdo a las declaraciones realizadas por Google a Business Insider.

A pesar de ello los críticos consideran que puede ser utilizado para mejorar el disparo de los drones e, incluso, llegar a posibilitar un sistema de armas autónomo que no requiriera de un humano apretando el gatillo.

Otros gigantes tecnológicos también pujaron por el contrato

Además de aumentar sustancialmente el valor de los contratos de la participación de Google en el "Proyecto Maven" respecto a lo que Greene había dicho, la cadena de correos filtrada habla de la competencia con el resto de gigantes de la tecnología para hacerse con el contrato del "Proyecto Maven". Según uno de los ejecutivos de Google que formó parte de las negociaciones, Amazon también habría optado al contrato. 

Según el testimonio de los ejecutivos que recoge The Intercept, más que tratarse de un experimento menor de los militares, el "Proyecto Maven" está "directamente relacionado" con un enorme contrato de informática en la nube por valor de miles de millones de dólares por el que varias empresas de Silicon Valley están compitiendo.

Leer más: La empresa española que quiere dar lecciones de ética a las máquinas de inteligencia artificial

La cadena de correos electrónicos filtrada y publicada en The Intercept corresponde al mes de septiembre de 2017, y recoge la conversación entre Scott Frohman y Aileen Black, dos integrantes del equipo de ventas de Google, Fei-Fei Li, el director científico de Google Cloud y a más miembros del equipo de comunicaciones.

En ella, Black entregó un sumario que explica el acuerdo del "Proyecto Maven", al cual describía como "una carrera de cinco meses de duración contra los pesos pesados de la inteligencia artificial". "El trato final oscilará entre los 25 y 30 millones de dólares, 15 millones para Google durante los próximos 18 meses", escribió. "A medida que el programa crezca, el límite de presupuesto está establecido en los 250 millones de dólares al año".

Preocupación por su filtración a la prensa

Según detalla The Intercept, los ejecutivos debatieron sobre el potencial riesgo para la imagen pública de Google que podría implicar el "Proyecto Maven". Hacerlo público o no era uno de los puntos de su preocupación.

"Esto es un caramelo para los medios de comunicación, a los que daría una manera de dañar a Google. Probablemente hayáis oído los comentarios de Elon Musk diciendo que la Inteligencia Artificial causará la tercera guerra mundial", escribió Fei-Fei.

"No sé lo que pasaría si los medios de comunicación publican que Google está secretamente construyendo armas de inteligencia artificial o tecnologías de inteligencia artificial para producir armas para la industria de defensa", continuó. "Google Cloud ha estado construyendo su imagen en la democratización de la inteligencia artificial en 2017, y Diane y yo hemos estado hablando sobre la inteligencia artificial humanística para las empresas. Tendría mucho cuidado de proteger esas imágenes tan positivas".

El equipo de Google afirmó que no tenían ningún plan de comunicación para la publicación del contrato y acordaron que la compañía debería trabajar para acordar el "discurso" lo antes posible. El "ruido" generado por el contrato podría ser positivo, opinó Black.

Leer más: Los peligros de la inteligencia artificial llevada al extremo

A pesar del secretismo, Black advirtió de que podría llegar a filtrarse y que la información sobre el proceso de contratación podría obtenerse de manera pública gracias a la Ley de Libertad de Información —una ley que permite a los ciudadanos estadounidenses puedan acceder a la información del Gobierno federal—. La vinculación de Google con el "Proyecto Maven" "saldrá algún día a la luz", advirtió Black. "¿No sería mejor sacarlo a la luz bajo nuestro criterio?.

Como señala The Intercept, la participación de Google en el "Proyecto Maven" no fue anunciado públicamente hasta que la noticia salió a la luz en marzo de 2018. Como consecuencia de las presiones recibidas tanto dentro como fuera de la compañía, según explica el New York Times, Google se ha comprometido a elaborar una guía ética que aclarará la postura de la empresa respecto a su colaboración con la industria armamentística y aseguró que "los nuevos principios de inteligencia artificial excluirá su uso en armamento".

Te puede interesar