Los expertos en inteligencia artificial dudan que Halo, la nueva pulsera de Amazon, pueda interpretar con precisión las emociones humanas y alertan de los riesgos en cuanto a la privacidad

Amazon presentó este jueves Amazon Halo, una pulsera para competir con Fitbit y Apple Watch. Al igual que sus competidores, Halo puede medir la frecuencia cardíaca y los patrones de sueño, pero también busca diferenciarse con una característica peculiar: juzgar tu estado emocional a partir de tu tono de voz.

La función "Tono" (Amazon Tone) asegura poder decirte cómo suenas para los demás. Utiliza "el aprendizaje automático para analizar la energía y la positividad en la voz de un cliente para que pueda entender mejor cómo suena a los demás, ayudando a mejorar su comunicación y sus relaciones", reza el comunicado de prensa de Amazon sobre Halo.

A modo de ejemplo, el director médico de Amazon, Maulik Majmudar, señala que es posible obtener información de Tone como: "Por la mañana parecías tranquilo, a gusto y afectuoso". Según Majmudar, la función analiza cualidades vocales como tu "tono, intensidad, tempo y ritmo" para decirte cómo cree que suenas para los demás.

Los expertos con los que Business Insider ha hablado dudan de que un algoritmo pueda analizar con precisión algo tan complejo como las emociones humanas y también están preocupados de que los datos de esta función puedan acabar en manos de terceros.

Los expertos dudan que un algoritmo pueda capturar los matices del habla humana

"Tengo mis dudas de que la tecnología actual sea capaz de descifrar el complejísimo código humano de la comunicación y el funcionamiento interno de las emociones", afirma la doctora Sandra Wachter, profesora adjunta de ética de inteligencia artificial en la Universidad de Oxford.

"La forma en que usamos nuestra voz y nuestro lenguaje está muy influida por las expectativas sociales, la cultura y las costumbres. Esperar que un algoritmo sea capaz de leer y entender todas esas sutilezas parece más bien una aspiración", asegura.

Wachter añade que afirmar que el algoritmo puede decirte cómo otras personas están juzgando tu voz enreda todavía más las cosas.

Leer más: Todo lo que debes saber sobre la presentación en directo del chip cerebral con IA de Neuralink que, según Elon Musk, algún día curará la parálisis y permitirá la telepatía

"Aquí la máquina tiene que entender cómo habla una persona (y lo que dice) Y deducir cómo la otra persona entiende e interpreta estas palabras. Esta es una tarea aún más compleja porque tienes que leer dos mentes. Un algoritmo a modo de mediador o intérprete parece muy extraño, dudo que un sistema (al menos en este punto) sea capaz de descifrar este complejo código social", explica.

Su colega de Mozilla Frederike Kaltheuner coincide en que el análisis de la voz tiene limitaciones intrínsecas. Los sistemas de reconocimiento de voz también han sufrido a lo largo de la historia con diferentes tipos de voces, apunta. "La precisión es habitualmente menor para las personas que hablan con acento o en su segundo idioma".

Amazon asegura que la función de Tono no supone un riesgo para la privacidad, pero los expertos no están tan seguros

Amazon explica que la función de Tono es voluntaria para los propietarios de la pulsera Halo. Una vez la activas se ejecuta en segundo plano, grabando pequeños fragmentos de tu voz a lo largo del día para su análisis. También existe una opción para encender la función en conversaciones concretas de hasta 30 minutos de duración.

Amazon dice que todos estos datos se mantienen a salvo y seguros, con todo el procesamiento realizado de forma local en tu móvil, que luego borra los datos. "Las muestras de voz nunca se envían a la nube, lo que significa que nadie las oye, y tienes el control total de tus datos de voz", según ha informado Majmudar.

La insistencia de Amazon en que los empleados humanos no escucharán ninguna de las grabaciones realizadas por esta función parece aludir al momento en el que Amazon, junto con las otras grandes empresas, se vio envuelta en un escándalo después de que varios reportajes revelaran que se estaban enviando grabaciones sensibles de Alexa para su análisis a humanos, que ni siquiera eran empleados directos de Amazon sino que estaban subcontratados por otras empresas.

Pero los expertos afirman que incluso sin que haya seres humanos escuchando los registros de audio de Tono, existen importantes implicaciones en cuanto a la privacidad.

La experta en políticas de privacidad Nakeema Stefflbauer explica a Business Insider que Halo podría ser la antesala para que Amazon se introduzca en la tecnología de los seguros. "Mi primera impresión es que es casi como si Amazon se estuviera moviendo lo más rápido posible para adelantarse a las revelaciones públicas sobre sus propias incursiones en el ámbito insurtech", afirma Stefflbauer.

"Me alarma cuando escucho que este tipo de evaluaciones se registran, porque, aunque no veo ningún beneficio en ello, los empresarios sí podrían. Las aseguradoras sin duda podrían. Las administraciones públicas que supervisan las prestaciones (como las del desempleo) definitivamente podrían", añade. 

Leer más: Colocan una guillotina delante de la mansión de Jeff Bezos para reclamar una subida de sueldo para los trabajadores de Amazon

"La señal definitiva para mí de que tú, como cliente, no eres el objetivo final de los datos recogidos es que Amazon ya tiene alianzas con aseguradoras como John Hancock y compañías de registros médicos como Cerner", añade Stefflbauer.

John Hancock anunció el jueves que sería la primera aseguradora de vida en integrarse con Amazon Halo. "A partir de este otoño, todos los clientes de John Hancock Vitality podrán vincular la pulsera de Amazon Halo al programa para ganar Puntos de Vitalidad por los pequeños pasos diarios que dan para tratar de vivir una vida más larga y saludable", dijo la aseguradora en un comunicado de prensa.

Kaltheuner dice que es bueno que la función de Tono sea optativa, pero los datos anónimos de Halo podrían seguir siendo compartidos a gran escala con terceros. "Incluso si es información agregada y anónima, puede que no sea algo que quieras que tu reloj haga", sentencia.

"Nuestras emociones son uno de los aspectos más íntimos y personales de nuestra personalidad"

Chris Gilliard, experto en vigilancia y privacidad del Laboratorio de Pedagogía Digital, ha explicado a Business Insider que las afirmaciones de privacidad de Amazon le parecen poco convincentes.

"Amazon experimentó la presión cuando se descubrió que humanos reales estaban escuchando las grabaciones de Alexa, por lo que este es su intento de cortocircuitar esa crítica en particular, pero decir que estos sistemas serán 'privados' estira el significado de esa palabra más allá de su propio significado", comenta.

Wachter dice que si, como afirma Amazon, un algoritmo es capaz de analizar con precisión la emoción en la voz de la gente, podría plantear un problema potencial de derechos humanos.

Leer más: Los 20 delitos más peligrosos que va a crear la inteligencia artificial

"Nuestros pensamientos y emociones están protegidos por la ley de derechos humanos, por ejemplo, la libertad de expresión y el derecho a la privacidad", dice Wachter.

"Nuestras emociones y pensamientos son uno de los aspectos más íntimos y personales de nuestra personalidad. Además, a menudo no somos capaces de controlar nuestras emociones. Nuestros pensamientos y emociones internas son al mismo tiempo muy importantes para formar opiniones y expresarlas. Esta es una de las razones por las que la ley de derechos humanos no permite ninguna intrusión en ellos".

"Por lo tanto, es muy importante que no se invada esta barrera y que se respete esta frontera", sentencia.