Teclear con la pupila, disparar alarmas cerrando la mano o diseñar webs con dibujos: así son los 'juegos' de Ideas Locas, el departamento más curioso de Telefónica

Chema Alonso volvió a las tablas de la RootedCON, el mayor congreso de ciberseguridad de España, y lo hizo para explicar en qué proyectos trabaja uno de los departamentos más singulares de Telefónica Tech: el departamento de Ideas Locas.

Como su propio nombre indica, Ideas Locas es el departamento en el que un equipo de Alonso juega con la tecnología "sin ninguna restricción". Según el ponente, Ideas Locas es una de las dos cosas que la multinacional española todavía le 'consienten'. La otra: "Llevar gorro".

"A veces salen cosas chulas, a veces salen cosas que no funcionan. A veces salen patentes, a veces salen cosas que sencillamente nos divierten", explicó el hacker español ante el abarrotado auditorio de la sala 25 de Kinépolis Madrid, con un aforo cercano al millar de butacas. "Nos gusta probar nuevas tecnologías. A los que nos interesa la tecnología, esta época es el paraíso".

La charla, en esta ocasión, versó sobre los servicios cognitivos de la inteligencia artificial. Cuando se habla de servicio cognitivo en modelos de inteligencia artificial en realidad se está hablando de un algoritmo o modelo de algoritmos con la capacidad de emular una cualidad humana. El reconocimiento facial, el reconocimiento del habla, e incluso de sentimientos serían servicios cognitivos.

"En los últimos años hemos visto una eclosión de la inteligencia artificial y de la web3. Esta última ha llegado al mainstream gracias a una palabra: metaverso. La palabra metaverso ha hecho mucho bien a tecnologías como el blockchain, las entidades autónomas descentralizadas (DAO) o las criptomonedas", consideró el hoy Chief Digital Officer de Telefónica.

Esos "servicios cognitivos" supusieron "una revolución" cuando empezaron a ponerse "de moda", pero hoy son "muy maduros" y se encuentran "en todos los rincones". Han sido, a juicio de Chema Alonso, "un paso relevante dentro del mundo de la tecnología". Aunque se comenzó a hablar de inteligencia artificial a mediados del siglo pasado, hoy se vive "una revolución".

"Hay como una carrera por poner la banderita, como quien escala un 8.000", insistió el directivo de la teleco española, quien se refirió a un concepto clave en servicios cognitivos de IA: "la paridad humana". Esta "paridad humana" es el concepto por el que "un servicio cognitivo ha demostrado tal nivel de madurez que tiene menos tasa de error que la media de errores de los seres humanos".

Del nacimiento de la Cuarta Plataforma a Telefónica Kernel: Chema Alonso desvela cómo ha sido el camino para crear el hogar más conectado en plena de guerra de precios y con el metaverso en el horizonte

Algunos servicios cognitivos que han alcanzado la paridad humana son modelos de IA entrenados para reconocer idiomas ante un interlocutor. "Hay uno en contact centers que se equivoca menos que un ser humano al reconocer si su interlocutor habla en inglés o en chino", avanzó Alonso. También en modelos de IA capaces de emular la comprensión lectora de los seres humanos.

Algunos servicios cognitivos ya han alcanzado esa paridad humana, como por ejemplo modelos de IA capaces de reconocer celebridades en fotos (2016) o leer labios (2019). Aunque el propio Alonso advirtió de lo espeluznante que puede resultar un servicio cognitivo en una IA lo suficientemente entrenada como para superar esa paridad humana.

En los ciclos de hype que grandes consultoras realizan sobre tecnología se suele hablar de otro término, el de valle inquietante o uncanny valley. Esos ciclos dibujan sobre una gráfica la evolución del interés social por una tecnología. Tras alcanzar su primer punto álgido, el interés se torna en preocupación y se hunde sobre ese uncanny valley del que saldrá más adelante.

"Es cuando te deja de hacer tanta gracia que una IA sea capaz de parecerse tanto a un ser humano. Es como con un robot: cuando es como R2D2, qué guay. Cuando se parece tanto a mí, ya no hace tanta gracia".

Parte del auge de estos servicios cognitivos se debe también al enorme trabajo que se ha apostado en crear algoritmos de aprendizaje. "Antes le explicábamos a un algoritmo qué era una vaca, le decíamos que era un animal con cuatro patas que podía tener manchas o no, que podía tener pelo o no, que podía tener cola o no", avanza Chema Alonso. "Eran sistemas con limitaciones".

Pero fruto de esos nuevos modelos de aprendizaje también está la aparición de los sesgos algorítmicos, sobre los que Business Insider España ha escrito en múltiples ocasiones con expertas de la talla de Gemma Galdon, que en alguna ocasión ha explicado cómo detectarlos y cómo combatirlos. Alonso expuso uno de los sesgos más habituales: el de un traductor como el de Google.

Cuando en el traductor de Google se escribía an engineer o a nurse, los resultados que arrojaba el servicio eran disparejos: "un ingeniero" y "una enfermera". La IA asumía el género de la profesión. "Es un problema fácil de entender. El aprendizaje se alimentaba con textos en los que hay un contexto y los personajes tienen nombre, género y apellidos. Los algoritmos se limitan a jugar".

Con todo este pretexto, Chema Alonso se dispuso a contar cuáles son algunos de los proyectos de servicios cognitivos que han ideado en Ideas Locas de Telefónica.

Controlar el móvil con tu pupila

El gigante de los juguetes es un cuento infantil que Chema Alonso leía a sus hijos. Ante la idea de que los niños pudiesen acceder de una forma más sencilla a contenidos educativos en sus dispositivos digitales, planteó la posibilidad de que fuese el terminal (el móvil o la tableta) la que permitiese controlar la interfaz de usuario con la pupila.

No se trata de una tecnología revolucionaria: ya existe y se aplica en entornos controlados. Pero las aplicaciones prácticas que el departamento de Ideas Locas desarrolló vario desde la posibilidad de que los niños pudiesen leer los cuentos mirando dibujos y que apareciesen bocadillos de diálogo cuando la mirada del niño se posase en un personaje.

Hasta otros ámbitos más críticos, como el pago con tarjeta de crédito o un cajero automático. Es habitual que al pagar con tarjeta o al operar con un cajero los usuarios tengan que introducir su código PIN de cuatro dígitos ocultando sus dedos con la palma de la otra mano, para evitar que miradas indiscretas puedan adivinar su clave secreta.

La propuesta que desde Ideas Locas se hace sería el de aplicar teclados con una cámara que obtuviese la información de hacia dónde estaba mirando el usuario la interfaz. Mirar el número 3 de un teclado numérico, y pestañear para introducir el número 3. Mirar al 9, y pestañear para introducir el 9.

No es ciencia ficción: es tecnología perfectamente aplicable e incluso plausible que se despliegue en los años inmediatos siempre que se den unas condiciones óptimas de luminosidad para que la cámara que vigila la pupila del usuario pueda trabajar mejor.

Reconocimiento de símbolos: código morse moviendo los brazos

"Ya que muchas calles y en muchas casas ya tenemos visión artificial, podemos idear comandos para comunicarnos con nuestros servicios mirando a cámara". Bajo esa premisa Chema Alonso desgrana otro de los proyectos sobre los que ha trabajado Ideas Locas, de Telefónica: la posibilidad de que una cámara pueda, en lugar de reconocer rostros, como se hace habitualmente, reconocer gestos.

Gestos tan variopintos como abrir la mano, poner una mano sobre un hombro o cruzar los brazos, lo que permitían a un especialista de este departamento de Telefónica demostrar en una demo pregrabada que podía escribir la palabra HACKER en código morse tan solo con una serie de gestos.

Una empresa española libera un dispositivo para demostrar cómo se pueden 'hackear' los contadores y dejar sin luz a barrios enteros después de que las eléctricas hayan ignorado sus avisos durante años

Una sugerencia llegó desde el mismo auditorio. Román Ramírez, uno de los fundadores de la RootedCON, sugirió a Chema Alonso que el despliegue de ese desarrollo en las cámaras de vigilancia de las grandes ciudades podría permitir a víctimas de violencia de género advertir a las autoridades de que algo no iba bien con el gesto que se ha viralizado en redes sociales.

O, en caso de que en casa se sufra algún problema que exija mantener la calma y el silencio: con solo mirar a una cámara domótica, cerrar el puño para disparar una alarma silenciosa. Las posibilidades son, igual que en el proyecto anterior, una demostración de que la tecnología del futuro ya está aquí.

Un paso más allá: dibujar tus proyectos

"Reaprovechemos el reconocimiento de la escritura o del dibujo que tienen los servicios cognitivos", propuso Alonso en su charla de la Rooted. Por eso planteó un proyecto que incluso se han propuesto patentar. "Crear una infraestructura DMZ" con tan solo un lápiz.

Por eso desde Ideas Locas se han desarrollado iniciativas como Draw your DMZ. DMZ son las siglas en inglés de "zona desmilitarizada". "Para minimizar los riesgos derivados de un servidor con acceso desde Internet que pudiera comprometer la seguridad de la organización se debe usar un cortafuegos y una red local DMZ", explica el Instituto Nacional de Ciberseguridad (INCIBE).

El problema es que diseñar la arquitectura de esa DMZ puede ser una labor tediosa que a menudo se resuelve de una forma más sencilla en una reunión en la que se va dibujando y esquematizando todos los elementos necesarios para dicha red. "Que levante la mano quien no ha terminado una reunión y al final ha acabado haciendo una foto a la pizarra", preguntó el propio Alonso.

Por eso, Draw your DMZ busca precisamente impulsar el diseño de esas infraestructuras digitales con dibujos. Y las alternativas son varias. Además de Draw your DMZ, el departamento de Ideas Locas ha trabajado en otros proyectos como Draw my Web, Draw Your Cloud, Draw Your Neuronal Network, Draw Your Database o Draw Your Pentest.

"Ante el auge del metaverso y el web3 el lowcode o incluso el nocode son enormes tendencias y en el mundo de la seguridad nos vamos a encontrar con que dentro de poco estaremos haciendo los tests de penetración como Ironman, moviendo las manos", avanzó Alonso entre risas.

Generar una huella de seguridad con tu forma de teclear

El último proyecto que Ideas Locas presentó en la RootedCON recibe el nombre de PianoWord y se trata de un proyecto que algunas startups de ciberseguridad ya están comercializando para entidades financieras. En un sencillo formulario para iniciar sesión, Chema Alonso y su equipo de especialistas proponen que introduzcas tu contraseña cinco veces.

Una vez lo has hecho, ya puedes iniciar sesión como es habitual. Pero te das cuenta de repente que el servicio no te deja acceder a tu cuenta a pesar de que has escrito correctamente la misma contraseña que antes. ¿Por qué?

PianoWord propone crear una huella de seguridad sobre la forma en la que los usuarios escriben sus credenciales. Una inteligencia artificial es capaz de esbozar el tiempo medio que una persona tarda en escribir su contraseña. Cuenta los milisegundos que transcurren entre que una persona escribe la primera letra de la clave y la segunda, la primera y la tercera, la primera y la cuarta...

Si no tardas lo mismo que sueles tardar al escribir tu contraseña, el sistema detectará que probablemente no seas tú el usuario que pretende iniciar sesión. "Incluso con la contraseña correcta", incide Alonso. 

"Así evitamos de un plumazo los ataques de fuerza bruta", esos sistemas que con una impresionante capacidad de computación tratan de adivinar la contraseña proponiendo miles de combinaciones.

Pruebas de concepto para un futuro prometedor

El público de la charla encontró peros a algunas de las demos y propuestas que el propio Alonso presentó en la jornada de la RootedCON. Con todo, el propio hacker de Telefónica recordaba que se trataban de meras pruebas de concepto y demostraciones de tecnologías que en definitiva ya existen y son perfectamente desplegables en muchos casos.

En esos términos Alonso se refirió al enorme "tsunami tecnológico" que se está viviendo, con un montón de desarrollos que a día de hoy son ciencia ficción pero que cada vez están más cerca: nanobots enfermeros, autopistas solares, enjambres robóticos, ropa conectada...

Ya hay sistemas en los que la IA no solo ha alcanzado la paridad humana, sino que la ha superado ampliamente. "En juegos como el ajedrez, por ejemplo, gracias a que las inteligencias artificiales pueden entrenarse las unas a las otras han llegado mucho más lejos que los seres humanos", explicitó.

La tecnología sigue, mientras tanto, "creciendo exponencialmente". El matemático John von Neumann dejó dicho a finales de los 50 que "el continuo y acelerado progreso de la tecnología y los cambios en la forma de vida de los humanos muestran sig­nos de aproximarse a una especie de singularidad esencial en la historia de la especie".

El propio Alonso, al término de su intervención en la RootedCON, fue claro. "No quedan tantos años".