Javier Fernández Castañón, el físico español que trabaja en Palantir y dirigirá el futuro debate sobre los riesgos de la IA en salud
- Javier Fernández Castañón trabaja para Palantir y lidera el área de Salud Digital de OdseIA, un observatorio que liderar el debate sobre la inteligencia artificial en España.
- Fernández cuenta a Business Insider España toda su trayectoria para explicar cómo un físico de partículas ha terminado iniciando la conversación sobre la ética de la tecnología aplicada a la salud.
- Descubre más historias en Business Insider España.
Javier Fernández Castañón es físico de formación. Estudió en Oviedo y se especializó en el ámbito de física de partículas y física nuclear y de partículas. El español trabaja ahora para Palantir, la secreta compañía que vende software a las agencias gubernamentales y de Wall Street.
La conversación con Business Insider España no puede ir por esos derroteros, pero el físico ha compartido su trabajo reciente en OdiseIA, un observatorio español que busca liderar el debate sobre la inteligencia artificial y la ética en la tecnología en todos los sectores en España.
¿Cómo terminó un físico como responsable de Salud Digital en OdiseIA?
Para él, el cambio hacia la salud fue muy natural. Fernández recibió una beca europea para investigar en neutrones.
"Investigación fundamental que luego se puede aplicar al ámbito farmacéutico y al tema médico", asegura el físico, como, por ejemplo, el desarrollo de nuevos fármacos.
Durante ese periodo, Fernández también montó una empresa social en Uganda dedicada a la plantación de café con la idea de que los agricultores fueran los únicos propietarios de la compañía.
"La idea era que el 100 por 100 de los beneficios se reinvirtieran en la comunidad donde estaban todos esos agricultores con los que trabajábamos", señala Fernández.
El proyecto cuenta actualmente con 1.600 agricultores, pero Fernández se desvinculó de él una vez constituyó un equipo completamente ugandés para hacerse cargo de la compañía.
El siguiente paso en su carrera fue hacer un máster en Bristol y luego inició tres años de doctorado en Roma con la prestigiosa beca de investigación Marie Curie. Durante los años de doctorado entre la Universidad de Roma y la Universidad de Cambridge en Reino Unido, Fernández se dedicó a la programación de ADN.
"La idea era ser capaz de programar el ADN para que, metiendo las cadenas individuales que forman la doble hélice del ADN en agua, ellas estuvieran ya programadas para formar cualquier tipo de estructura", explica.
El último año de doctorado se presentó la decisión fundamental sobre su siguiente paso. "Podía seguir en la universidad haciendo un postdoc, que luego se me iba a convertir en otro y luego en otro... hasta que aparecería una plaza de profesor en alguna universidad del mundo", reflexiona.
Fernández decidió quedarse en una startup que desarrolla técnicas de machine learning y de inteligencia artificial para farmacéuticas.
Sus clientes utilizaban la tecnología para predecir ventas, predecir stock, evaluar la oferta de fármacos o analizar la eficiencia de las campañas de publicidad, explica el físico.
También ayudaba a optimizar los procesos para desarrollar fármacos en menos tiempo y con menos coste.
"De ahí seguí dentro del mundo de la IA en Babylon, que es una empresa que está aquí en Londres", explica. La empresa ofrece una aplicación que está aliada con el sistema de salud de Reino Unido (NHS, por sus siglas en inglés), y así "puedes tener tu médico de Babylon que es virtual, y luego tienes la posibilidad también de tener médicos humanos que te van a que te van a llevar tu caso si es necesario".
La idea, explica Fernández, es que el primer filtro sobre una consulta lo realice la aplicación. "En función de eso te dice lo que tienes que hacer es: si contactar con un medio humano, si es ir a un hospital inmediatamente o si en realidad te puedes quedar en casa y entonces con Amazon te mandan el fármaco que necesitas".
La estancia en Babylon fue muy corta, porque enseguida recibió la llamada de Palantir y decidió abandonar la compañía.
La salud le dio la oportunidad de ver cómo su trabajo podía tener impacto en la vida real
"Me di cuenta de que uno de los campos donde más se podía avanzar era en el campo médico" asegura Fernández, sobre su investigación.
"Se trabaja con aproximaciones, con modelos, y esos modelos normalmente se basan en modelos físicos", explica. "Así terminé en la programación de ADN, sin tener ningún tipo de experiencia previa genética ni en biología. Entonces para mí el ADN no era más que un montón de átomos que se juntaban formando esa molécula", señala.
"Yo trabajaba con biólogos y veíamos dónde podemos ayudarnos uno a otro", señala.
"Mi frustración cuando hacía física de partículas a secas era que trabajaba en problemas superinteresantes como el bosón de Higgs, pero que estaban completamente en una dimensión paralela al mundo en el que vivía", reflexiona.
La polifacética ingeniera española que maneja los hilos de Amazon Business en Europa
"Siempre quise tener ese impacto, el poder decir que lo que yo hago vale para algo", añade. "Y ahí fue donde encontré que esa parte de la investigación aplicada a la medicina o a la salud me interesaba más", concluye.
Desde OdiseIA, Fernández busca anticiparse a los desafíos que va a presentar la IA en el ámbito de la salud
"Mientras estaba en Babylon escuché una entrevista de hoy Idoia Salazar, que es la fundadora de OdiseIA, junto con Richard Benjamin, Chief AI & Data Strategist de Telefónica", recuerda Fernández.
"Entre ellos dos se juntaron, formaron este observatorio y le empezaron a dar impulso. Una de las primeras áreas que estaban comentando que sería interesante lanzar era el de salud", explica el físico.
Fernández se puso en contacto con Idoia Salazar y terminó haciéndose cargo del equipo de salud, aunque al poco tiempo contó con el apoyo del médico Javier Mendoza, que trabaja para la empresa española Savana Médica.
"Nos complementamos bastante bien porque yo necesitaba alguien que supiera más de medicina que yo", asegura.
"Estamos intentando ver cuál es la situación de la inteligencia artificial en el campo médico en España, a ver dónde lo podemos llevar ya de una manera práctica", asegura.
El físico asegura que la IA es ya una realidad y "no se trata de meter miedo, sino de aportar conocimiento", señala, asegurando que ya se está aplicando en todos los ámbitos.
"Si te dan un crédito en el banco, es muy probable que lo decida un algoritmo de inteligencia artificial. Si te van a dar una hipoteca, lo mismo. E incluso en entrevistas de trabajo se están haciendo temas de reconocimiento facial en función de la expresión que tienes", enumera.
"Hay que explicar, hay que darles visibilidad y transparencia a esos procesos y a esos algoritmos", asegura.
"Además, hay que saber quién se responsabiliza de si el algoritmo falla", concluye.
Y es que Fernández tiene claro que la IA no es infalible y, en el campo de la salud, esos fallos marcan una diferencia decisiva entre la vida y la muerte.
"Vamos a pensar un algoritmo decida si una persona tiene cáncer. El oncólogo tiene que decidir en ese momento si se fía al 100 por ciento de lo que ha dicho algoritmo y empezar en ese instante con una quimioterapia con este paciente. Yo te digo que hay muy pocos oncólogos que vayan a utilizar, que se vayan a fiar de ese algoritmo", concluye.
La inteligencia artificial en el ámbito de la salud necesita de lo que Fernández llama "explicabilidad".
Si no están 100 por ciento seguros de no de lo que ha dicho, va a morir. Eso te lo va a decir, sino de cómo el algoritmo ha llamado a esa decisión.
Y ahí es donde entra una de las partes que nosotros desde la historia queremos dar más, aparte de la parte legal y de la parte de responsabilidad.
Para Fernández, la explicabilidad consiste en conseguir "que el ser humano sea capaz de interaccionar con la inteligencia artificial, de manera que la inteligencia humana y la inteligencia artificial sumen y ayude al otro", señala.
"La inteligencia artificial es muy buena en unas cosas. La inteligencia humana es muy buena en otras", asegura, rechazando la idea de que la tecnología sustituirá a los profesionales.
"No hay una persona humana capaz de analizar los datos al nivel que puede hacerlo la IA, pero un oncólogo luego será el que tome las mejores decisiones basándose en esos datos", señala.
Fernández aborda también los sesgos raciales que se han detectado en toda la industria: "Te puedo garantizar casi al 100 por 100 que un algoritmo de inteligencia artificial del campo médico aplicado a la salud va a predecir mejor las enfermedades que tiene un hombre blanco que las que tiene una mujer negra"
En ese sentido, "hay que intentar encontrar una buena manera de regular esta inteligencia artificial, de manera que no se frene su desarrollo", reflexiona.
"Hay que ver cómo se consigue encontrar un acuerdo que satisfaga a todos, que va a ser difícil", concluye.
Otros artículos interesantes:
Descubre más sobre Ana Zarzalejos, autor/a de este artículo.
Conoce cómo trabajamos en Business Insider.