El plan secreto de DeepMind para romper con Google, al descubierto

DeepMind BI

DeepMind/Google

  • DeepMind y Google juntaron sus caminos en una relación que parecía beneficiosa para ambas partes.
  • En el seno de DeepMind, no obstante, siempre se ha temido el uso que Google pueda hacer de su tecnología.
  • Por ese motivo, ejecutivos de DeepMind han trabajado durante años para separarse de Google.
  • Descubre más historias en Business Insider España.

Durante un tiempo, algunos empleados de DeepMind se referían al tema bajo el nombre de "Sandía". Más tarde, los ejecutivos le llamaron "Mario". Ambos nombres en código hacían referencia a lo mismo: el plan secreto para romper con la compañía matriz, Google.

DeepMind temía que, un día, Google utilizara su tecnología de forma inapropiada.

Por ese motivo, los ejecutivos trabajaron durante años para distanciar a la empresa de inteligencia artificial de su propietario, de acuerdo a 9 trabajadores y extrabajadores que estaban en contacto directo con los planes de la empresa.

Parte de los planes incluían el logro de un estatus legal independiente que distanciara el trabajo del grupo del de Google, cuentan los empleados, que han solicitado permanecer anónimos.

Uno de los principales puntos de fricción en DeepMind era que había vendido el negocio a gente en la que no confiaba, asegura uno de los empleados. "Todo lo ocurrido a partir de ese momento ha tenido que ver con el hecho de que se han cuestionado su propia decisión", añade el empleado.

Los esfuerzos para separar a DeepMind de Google acabaron sin llegar a un acuerdo en abril, según informaba el Wall Street Journal.

El rol del humano en la era de la inteligencia artificial: esto es lo que opinan los grandes líderes

Los años de negociaciones, al igual que el reciente baile de puestos dentro de la división de inteligencia artificial de Google, deja en duda si el gigante de las búsquedas online puede mantener el control sobre una tecnología tan vital para su futuro.

"La estrecha relación de DeepMind con Google y Alphabet desde su compra ha sido extraordinariamente exitosa", asevera un portavoz de DeepMind en un comunicado. "Con su apoyo, hemos llevado a cabo investigaciones que han transformado el campo de la inteligencia artificial y que están revelando algunas de las mayores preguntas de la ciencia", añade.

"A lo largo de los años, hemos debatido y explorado diferentes estructuras dentro del grupo Alphabet, para encontrar la forma óptima de dar soporte a nuestra misión de investigación a largo plazo".

"No podríamos estar más orgullosos de trabajar en esta misión increíble mientras continuamos teniendo tanto autonomía operativa como todo el apoyo de Alphabet", concluye el comunicado.

A de Alphabetización

Cuando Google se hizo con DeepMind en 2014, todo el mundo pensaba que ambas empresas salían ganando. Google obtuvo una organización líder en investigación en inteligencia artificial (IA), mientras que los londinenses DeepMind lograban apoyo financiero en su tarea de construir IA que pueda aprender diferentes tareas de la manera en que lo hacen los humanos.

La relación, no obstante, comenzó a tensarse al poco tiempo de iniciarse.

Algunos empleados han descrito un conflicto cultural entre investigadores que se veían principalmente como académicos, y la burocracia a veces desproporcionada del negocio colosal de Google. Otros empleados aseguran que la plantilla pronto sintió aprensión por el hecho de poner el trabajo de DeepMind bajo el control de un gigante tecnológico.

Durante un tiempo, algunos empleados animaban a comunicarse utilizando apps de mensajería encriptada, ante el miedo de que Google espiara su trabajo.

Elon Musk está aterrorizado ante la posibilidad de que la inteligencia artificial se apodere del mundo y teme, por encima de todo, al proyecto DeepMind de Google

Llegado un punto, los ejecutivos de DeepMind descubrieron que el trabajo publicado por el grupo de investigación IA interno de Google tenía código base parecido al de DeepMind, sin citar a la fuente, asegura una persona cercana a la situación.

"Eso cabreó a Demis", asegura la misma persona, refiriéndose a Demis Hassabis, CEO de DeepMind. "Esa fue una de las razones por las que DeepMind comenzó a proteger más su código".

Después de que Google se reestructurara como Alphabet en 2015 para dar más libertad a sus proyectos más arriesgados, el liderazgo de DeepMind comenzó a perseguir un nuevo estatus.

Pretendían ser una división independiente dentro de Alphabet, con su propio balance de ganancias y pérdidas, según información publicada por The Information.

DeepMind ya contaba con gran autonomía operativa dentro de Alphabet, pero el grupo quería autonomía legal, y se preocupaba del posible uso inapropiado de su tecnología, sobre todo en caso de que DeepMind consiguiera lograr su misión.

Internamente, la gente de la empresa comenzó a llamar "Sandía" al plan para ganar mayor autonomía, según 3 antiguos empleados. El plan pasó más tarde a llamarse "Mario" entre el liderazgo de DeepMind, afirman estos mismos extrabajadores.

"Su perspectiva es que la tecnología sería demasiado poderosa para estar bajo el control de una empresa privada, por lo que necesita alojarse en otro tipo de entidad legal, separada del interés de los accionistas", explica un antiguo empleado cercano a las negociaciones con Alphabet.

"Enmarcaban su propuesta como un beneficio para la sociedad", añade.

Demis Hassabis, CEO de DeepMind Technologies.
Demis Hassabis, CEO de DeepMind Technologies.

REUTERS/Kim Hong-Ji

En 2017, durante un retiro de empresa en el resort Macdonald Aviemore en Escocia, el liderazgo ejecutivo de DeepMind reveló a sus empleados el plan para separarse de Google, detallan 2 personas presentes en ese momento.

A la vez, el liderazgo de DeepMind aseguraba internamente que la compañía pretendía convertirse en "una empresa de interés global", matizan 3 fuentes cercanas a la situación. El objetivo, más que para obtener un estatus legal oficial, pretendía reflejar las ramificaciones mundiales que DeepMind creía que su tecnología podría llegar a tener.

Más tarde, durante las negociaciones con Google, DeepMind trató de conseguir un estatus como compañía de garantía limitada, una estructura corporativa sin accionistas que en ocasiones utilizan las ONG.

El consenso implicaba que Alphabet continuaría apoyando financieramente a la firma y obtendría una licencia exclusiva de la tecnología, revelan 2 fuentes involucradas en las negociaciones. Había una condición, eso sí: Alphabet no podía pasar ciertas líneas rojas éticas, como utilizar la tecnología de DeepMind en armas militares o vigilancia.

"Mi robot es inocente, señoría": los expertos apuestan por juzgar la inteligencia artificial con leyes flexibles y fundamentadas en la ética

En 2019, DeepMind registró una nueva empresa llamada DeepMind Labs Limited, así como un holding de empresas, como prueban diferentes archivos en el registro de empresas del Reino Unido. Este movimiento se realizó como anticipación a una separación de Google, matizan dos empleados que estuvieron involucrados en los registros.

Las negociaciones con Google tuvieron altos y bajos a lo largo de los años, pero volvieron a coger fuerza en 2020, sostiene una fuente. Un equipo senior de DeepMind comenzó a reunirse con abogados externos y con Google para discutir a fondo los detalles de lo que una teórica nueva formación supondría en la relación de las 2 empresas.

Algunos puntos tratados eran si ambas compartirían un código base, métricas de rendimiento internas, y gastos de software, recapitulan 2 fuentes.

Los cofundadores de Google Page y Brin sonríen durante una conferencia de prensa en Mountain View
Los cofundadores de Google Page y Brin sonríen durante una conferencia de prensa en Mountain View
Reuters

Los desencuentros de DeepMind y Google sobre la ética de la IA

Desde el principio, DeepMind tenía dudas sobre posibles dilemas éticos de su acuerdo con Google. Antes de que la adquisición de 2014 se cerrara, ambas empresas firmaron un "acuerdo de revisión de ética y seguridad" que impediría que Google tomara el control de la tecnología de DeepMind, según revelaba The Economist en 2019. Parte del acuerdo incluía la creación de una junta ética que supervisara la investigación.

Pese a los años de discusiones internas acerca de quién debería formar parte de la junta, así como de vagas promesas a la prensa, el grupo "nunca existió, nunca se reunió, y nunca resolvió problemas éticos", lamenta un antiguo empleado cercano a las negociaciones.

Un representante de DeepMind ha declinado hacer comentarios sobre este tema.

DeepMind persiguió una idea diferente: una junta independiente de revisión que se reuniera en caso de que la separación de Google ocurriera, relatan 3 fuentes cercanas a los planes.

La junta estaría compuesta por ejecutivos de Google, de DeepMind, y también de miembros independientes. Una de las personas marcadas como objetivo para la junta fue el expresidente de Estados Unidos, Barack Obama, argumenta una fuente con acceso al listado de candidatos.

Mustafa Suleyman, cofundador de DeepMind, ha ascendido en Google a pesar de sus polémicas por su comportamiento con los trabajadores

DeepMind también creó una carta ética que incluía las prohibiciones del uso de tecnología para armas militares o vigilancia, así como una regla obligando a que se usara de forma beneficiosa para la sociedad.

En 2017, DeepMind formó una unidad dedicada a la investigación en ética de la IA, que estaba compuesta por empleados de la empresa e investigadores externos asociados. La meta de esta división era "cimentar el camino hacia una inteligencia artificial realmente beneficiosa y responsable".

Unos meses más tarde, un polémico contrato entre Google y el Pentágono salió a la luz, levantando un importante revuelo interno en el que los empleados acusaron a Google de entrar "en el negocio de la guerra".

El contrato de Google con el Pentágono, llamado Proyecto Maven, "hizo saltar la alarma" dentro de DeepMind, asegura un exempleado. Posteriormente, Google publicó un listado de principios que rigieran su trabajo en el campo de la IA.

Los principios seguían unas pautas similares a la carta ética que DeepMind ya había puesto en marcha internamente, un hecho que irritó al grupo de líderes de DeepMind, desvelan 2 antiguos empleados.

Sundar Pichai, CEO de Google y Alphabet
Sundar Pichai, CEO de Google y Alphabet
REUTERS/Stephen Lam

¿Quién controlará la IA?

En abril, Hassabis informó a los empleados de DeepMind en una reunión general que las negociaciones para separarse de Google se habían acabado. DeepMind mantendría su actual estatus dentro de Alphabet.

El trabajo futuro de DeepMind estaría supervisado por el Consejo de Revisión de Tecnología Avanzada de Google, que incluye a dos ejecutivos de DeepMind, al jefe de IA de Google, Jeff Dean, y al vicepresidente legal senior, Kent Walker.

La pelea de años por parte del grupo de IA para conseguir más independencia, sin embargo, presenta dudas sobre su futuro dentro de Google, así como el compromiso del propio Google con la investigación en IA.

Google prescindió en febrero de dos de sus investigadores de mayor rango en ética de la IA, propiciando una reacción airada de la industria que dejaba en el aire si la empresa permitiría investigaciones realmente independientes.

Ali Alkhatib, un investigador del Centro de Ética y Datos Aplicados, ha detallado a Business Insider que "se necesita desesperadamente" una mayor responsabilidad pública para regular la carrera de las grandes tecnológicas en la inteligencia artificial.

Para Google, su inversión en DeepMind por fin puede estar dando sus frutos.

A finales del año pasado, la empresa controlada por Google anunció una investigación pionera para ayudar a los científicos a mejorar el entendimiento de las proteínas microscópicas, que tiene potencial para revolucionar el descubrimiento de fármacos.

En DeepMind, mientras tanto, Hassabis continúa firme en su creencia de que la tecnología de inteligencia artificial no debería estar controlada por una sola corporación.

Durante una ponencia en el foro de inteligencia artificial responsable organizado por Tortoise, Hassabis propuso un "instituto mundial" de inteligencia artificial.

El organismo estaría bajo la jurisdicción de las Naciones Unidas, teorizaba Hassabis, y estaría compuesto por los mejores investigadores del sector.

"Sé es mucho más fuerte en el liderazgo cuando se predica con el ejemplo", defendía ante el público, "y espero que DeepMind pueda ser parte de este asentamiento de bases que marque un modelo a seguir para industria".

Este artículo fue publicado originalmente en BI Prime.

Otros artículos interesantes:

Elon Musk está aterrorizado ante la posibilidad de que la inteligencia artificial se apodere del mundo y teme, por encima de todo, al proyecto DeepMind de Google

Pizza Hut está desarrollando su propio sistema de inteligencia artificial que te recomendará comida en función del tiempo que haga en tu ubicación

Te recomendamos

Y además