Una persona logra entrar en su cuenta bancaria con una voz generada por IA: así funciona este método que puede ser utilizado por los delincuentes

Llamada oculta

Christian Horz / Getty Images

  • Las herramientas de inteligencia artificial generativa pueden ser utilizadas en infinidad de situaciones, entre ellas, el robo y la delincuencia. 
  • Joseph Cox, periodista de Vice, ha relatado en este medio de comunicación cómo consiguió entrar en su cuenta bancaria utilizando una voz que imitaba a la suya, pero que estaba generada por inteligencia artificial. 

El auge de la inteligencia artificial generativa parece que va a suponer una auténtica revolución en infinidad de sectores y puede que —lamentablemente— la delincuencia sea uno de ellos. 

Desde que comenzaron a despuntar a mediados del año pasado, las herramientas de contenido generado por IA han levantado suspicacia entre los expertos y los organismos reguladores. Estas tecnologías se han movido siempre en una especie de vacío legal en el que nutren sus bases de datos de contenidos que no pertenecen a las organizaciones que las desarrollan. 

Se trata de una situación que ha sido reprochada por los colectivos que se han visto afectados por ella. Es el caso de los artistas gráficos, que han denunciado por activa y por pasiva que herramientas como Dall-E o Stable Diffusion son poco más que "lavadoras de propiedad intelectual"; o de los actores de doblaje, que reclaman cómo se les está pidiendo que cedan los derechos de sus voces

Sin embargo, lejos de este tipo de circunstancias, herramientas como el ya famoso generador de texto ChatGPT están siendo empleadas directamente para cometer delitos. Los ciberdelincuentes están utilizando la tecnología impulsada por Microsoft, por ejemplo, para desarrollar estafas o para crear programas maliciosos

Microsoft Hololens 2

Joseph Cox, periodista de Vice, ha relatado en este medio de comunicación cómo las voces generadas por inteligencia artificial podrían ser empleadas en un futuro cercano para sortear las barreras que permiten acceder a toda clase de datos bancarios.

"El miércoles llamé a la línea de atención telefónica de mi banco. Para empezar, el banco me pidió que dijera con mis propias palabras por qué llamaba", cuenta Cox. "En lugar de hablar en voz alta, hice clic en un archivo de mi portátil para reproducir un clip de sonido: 'Comprobar mi saldo', decía mi voz, pero en realidad no era mi voz, era un clon sintético que había creado con IA".

El periodista relata que entonces su banco le pidió que introdujese su fecha de nacimiento y, una vez introducida, le pidió que dijese: "Mi voz es mi contraseña". 

"De nuevo, reproduje un archivo de sonido de mi ordenador. 'Mi voz es mi contraseña', dijo la voz. El sistema de seguridad del banco tardó unos segundos en autenticar la voz", asegura Cox. "'Gracias', dijo el banco. Ya estaba dentro".

Como indica este periodista especializado, que utilizó el software de creación de voces gratuito ElevenLabs, multitud de bancos europeos y estadounidenses utilizan la verificación por voz como método de acceso telefónico a las cuentas bancarias

"Recomiendo a todas las organizaciones que aprovechan la 'autenticación' por voz que cambien a un método seguro de verificación de identidad, como la autentificación multifactor, lo antes posible", aconsejó Rachel Tobac, directora general de la compañía de ciberseguridad SocialProof Security, al ser consultada por Cox.

Descubre más sobre , autor/a de este artículo.

Conoce cómo trabajamos en Business Insider.