Pasar al contenido principal

Uno de los 'visionarios silenciosos' más importantes de Alemania comparte su visión sobre la ética de la inteligencia artificial

Markus Noga
SAP
  • Hablamos con Markus Noga, vicepresidente senior de Machine Learning en SAP, asesor de la Unión Europea para el desarrollo de la inteligencia artificial y considerado uno de los "innovadores silenciosos" más importantes para el futuro de la ciencia y la tecnología en Alemania.
  • Noga apela a la importancia de que la inteligencia artificial vaya calando en distintos casos de uso y de que las nuevas capacidades de IA se integren y convivan con las tecnologías ya existentes.
  • También apela a la necesidad de cambiar los modelos de entrenamiento de los algoritmos para evitar sesgos, especialmente aquellos derivados de haber sido modelados con información de terceras compañías.
  • Descubre más historias en Business Insider.

La apariencia de Markus Noga es la del típico ingeniero alemán. Puntual, pulcro y comedido en sus comentarios. Ataviado con una camisa que guarda la informalidad planificada de su formalidad. Con sus inseparables gafas y un acento marcado cuando habla en, por otro lado, perfecto inglés. 

Pero él es algo más que un ingeniero al uso. Noga es actualmente el vicepresidente senior de Machine Learning en SAP, la multinacional también germana responsable del ERP (software de gestión de recursos empresariales) más usado en todo el mundo. También es asesor de la Unión Europea para el desarrollo de la inteligencia artificial (y su ética) en el Viejo Continente. Y por todo ello fue nombrado por la publicación Handelsblatt como uno de los "innovadores silenciosos" más importantes para el futuro de la ciencia y la tecnología en Alemania.

Leer más: Así es la inteligencia artificial ética que Pedro Sánchez propone desarrollar en España

Para Markus Noga, que se reúne con este medio en el marco del SAPPHIRE NOW 2019, la clave del actual estado del arte en torno a la inteligencia artificial tiene que ver con la omnipresencia de esta tecnología en servicios y capacidades de lo más cotidianas. "Integrar la IA en todos los casos de uso, en todas las familias de soluciones, estableciendo ejemplos en todas las capacidades, desde los niveles más altos de automatización hasta usos básicos como el reconocimiento de productos o de objetos en tiempo real", promulga cual mantra el visionario germano.

Pero si esa omnipresencia es un rasgo fundamental de la actual ola de la IA, no lo es menos la facilidad que muchos proveedores de software clásicos están ofreciendo a la hora de explotar sus datos o conectarse con sus sistemas bien asentados en el mercado. "Algo que hemos aprendido con los distintos modelos de desarrollo es que los clientes tienen una gran cantidad de datos que, a su vez, son muy diversos. Y cada científico de datos, cada equipo, viene con sus propias preferencias y herramientas geniales que ya usaban en el pasado", explica Markus Noga.

"Y si uno está acostumbrado, por ejemplo, a trabajar en R queremos seguir permitiéndole hacerlo, también a la hora de explotar los datos mediante inteligencia artificial. Si impedimos eso y les obligamos a elegir otra tecnología, tendríamos un problema grave. hay que ser flexibles", sentencia.

El propio Noga no es ajeno a la sucesión de compañías, incluso la propia SAP, que juegan al uso generoso y confuso del término inteligencia artificial a la hora de asignar cualquier funcionalidad relacionada con la automatización o algún algoritmo básico. Si introducimos el concepto de machine learning a la ecuación, el problema se vuelve mayúsculo. "Es una tendencia muy amplia de la industria de denominar las tecnologías en el marco más amplio. Es algo simbólico, pero sin duda tenemos que descubrir no sólo que lo llamamos correctamente", admite el directivo de la firma alemana.

Acerca de los sesgos y la ética

Markus Noga, más allá de sus funciones al frente de la estrategia de SAP en materia de inteligencia artificial, también es uno de los miembros del comité asesor de la Unión Europea en materia de ética aplicada en estas lides. Y, como era pertinente, este tema centró gran parte del encuentro que Business Insider España mantuvo con él.

Empezamos por lo más acuciante, a tenor de las numerosas publicaciones al respecto y el impacto que ya hoy, hablando en presente, está teniendo: la preponderancia de sesgos discriminatorios en muchas soluciones de inteligencia artificial, especialmente en lo que tiene que ver con reconocimiento facial. "Algunas de estas herramientas destinadas a reconocer rostros humanos solo son entrenados con rostros de hombres blancos. Y, obviamente, tienen problemas cuando tratan de reconocer la imagen de alguien que no es un hombre blanco", dice Noga. "Esto requiere una mejor afinación mayor, un esfuerzo por entrenar no solo más, sino mejor, los algoritmos".

En ese sentido, Markus Noga aboga por realizar esas labores de entrenamiento de manera individualizada, con modelos genéricos que se alimentan de la base de datos propia de cada compañía, previamente filtrada y limpiada para evitar posibles sesgos en origen. "Usando los datos propios de cada empresa, en lugar de optar por sistemas entrenados con datos de terceros o fuentes anónimas, evitamos los sesgos ajenos que se pueden incorporar al sistema", detalla el experto.

Igualmente, Noga propone guardar ciertas reservas alrededor de la fiabilidad máxima y seguir trabajando para conseguir la mayor perfección en estos modelos: "La precisión actual de la IA es buena... dependiendo para lo que la quieras. Podemos estar hablando de que estos sistemas de reconocimiento de imágenes pueden ser fiables en el 85% de las imágenes. Y eso puede ser suficiente para un negocio de consumo, pero quizás sea completamente inadecuado cuando se trata de un fabricante que usa la IA para detectar errores de calidad o para organizaciones policiales o militares".

Y la única forma de abordar este fenómeno de una manera lógica y asequible para las compañías es, en opinión de Markus Noga, integrar soluciones que se entrenen a sí mismas. De nuevo, volviendo al machine learning como imperativo absoluto. "Hay que buscar las funciones de negocio repetibles y optar por soluciones que automaticen el entrenamiento. Las arquitecturas y los modelos ya están ahí, simplemente se necesitaría entrenar el sistema con los datos en el momento de usarlo y evitar así sesgos inducidos por nosotros o por terceros".

En cualquier caso, Markus Noga es tremendamente optimista de cara al futuro inmediato de la inteligencia artificial, aunque advierte de la necesidad de seguir evolucionando con fuerza para lograr dominar la IA. "Para conseguir llegar al siguiente nivel necesitamos cinco órdenes de magnitud de más potencia de cálculo. Ahora mismo ya podemos hacer cosas muy útiles con la IA y creo que podremos seguir desarrollando este camino en la próxima medica década o década completa antes de que necesitemos una nueva teoría o que hablemos de inteligencia artificial general u otras cosas por el estilo".

Y además