Amazon avisa a sus empleados: prohibido usar modelos de IA generativa en el trabajo

Amazon está advirtiendo a sus empleados de que no utilicen herramientas de inteligencia artificial generativa de terceros para trabajar, según varias directrices internas que han sido consultadas por Business Insider.

"Si bien podemos encontrarnos usando herramientas de IA, especialmente cuando parece hacernos la vida más fácil, debemos asegurarnos de no usarlas para el trabajo confidencial de Amazon", ha señalado la empresa a sus trabajadores a través de un correo electrónico reciente. 

"No compartas ningún dato confidencial de Amazon, de sus clientes o de sus empleados cuando utilices herramientas de inteligencia artificial generativa de terceros", ha recomendado la tecnológica. "Generalmente, los datos confidenciales serían datos que no están disponibles públicamente".

La política interna de uso e interacción de IA generativa de terceros de Amazon, a la que ha tenido acceso este medio de comunicación, advierte que las compañías que ofrecen servicios de inteligencia artificial pueden tomar una licencia o propiedad sobre cualquier cosa que los trabajadores introduzcan en herramientas como ChatGPT, de OpenAI.

"Esto significa que cualquier salida como correo electrónico, PRFAQs, wiki internas, código fuente, información confidencial, documentación, materiales prelanzamiento y estrategia pueden ser extraídos, revisados, utilizados y distribuidos por los propietarios de la IA generativa", afirma la política interna de Amazon. 

"Como tal, todos los amazonianos [empleados de Amazon] deben acatar nuestras políticas estándar sobre información confidencial y seguridad para cualquier aportación a la inteligencia artificial".

"Nuestros usuarios quieren que Alexa esté en todos lados": este es el futuro del asistente virtual, según una alta ejecutiva de Amazon

Esas empresas también pueden reclamar los derechos de cualquier cosa que produzcan sus modelos, según la política.

El año pasado por estas fechas, un abogado de Amazon le recomendó de manera informal a la plantilla de la tecnológica que no proporcionase a ChatGPT "ninguna información confidencial de Amazon" (incluido el código fuente en el que estuviesen trabajando), haciendo referencia a que se habían dado casos de respuestas de ChatGPT similares a datos internos de Amazon. 

Según mensajes internos, los trabajadores de la compañía dirigida por Andy Jassy indicaron entonces que ya estaban utilizando la herramienta de IA como un "asistente de programación" de software.

Las cuestiones sobre cómo las empresas de inteligencia artificial generativa manejan la información confidencial —y quién es el propietario de la información que entra y sale de un modelo— siguen en gran medida sin resolverse mientras el uso de los chatbots se generaliza. 

Amazon puede ser especialmente sensible a este fenómeno, ya que su principal rival, Microsoft, ha invertido muchos recursos en OpenAI y tiene sus propios productos de IA generativa.

El gigante del comercio electrónico se ha caracterizado por mantener a sus empleados alejados de los sistemas de la firma de Redmond, pero últimamente se ha relajado en ese sentido. Amazon firmó recientemente un acuerdo de cinco años de duración para utilizar las licencias de Microsoft 365.

La política interna de inteligencia artificial de Amazon establece que los trabajadores pueden utilizar modelos de terceros en su trabajo si obtienen la aprobación de su responsable y si cumplen con las revisiones de seguridad aplicables. El reciente correo enviado por la compañía afirma que algunos empleados ya tienen acceso a la herramienta de Amazon, Bedrock, "una alternativa más segura".

Adam Montgomery, portavoz de Amazon, ha declarado a Business Insider que la empresa ha estado desarrollando IA generativa y grandes modelos de aprendizaje automático durante mucho tiempo y que los trabajadores utilizan sus modelos de IA todos los días.

"Tenemos salvaguardas para el uso de estas tecnologías por parte de los empleados, incluida la orientación sobre el acceso a servicios de inteligencia artificial generativa de terceros y la protección de la información confidencial", ha asegurado Montgomery.