El Dr. Ángel L. Martín de Francisco, catedrático de Medicina jubilado que presenta su nuevo libro sobre IA el 10 de noviembre en el Colegio, reflexiona sobre la revolución de la inteligencia artificial, sus oportunidades y sus riesgos, y sobre cómo deberíamos formar a los médicos del futuro
Después de una larga trayectoria dedicada a la asistencia clínica, la docencia y la investigación, el profesor Ángel L. Martín de Francisco no
parece haber encontrado en la jubilación demasiados motivos para dejar de trabajar. Más bien al contrario. En esta nueva etapa ha dedicado buena parte de su actividad intelectual a estudiar las posibilidades de la Inteligencia Artificial en Medicina, hasta el punto de participar en la publicación de cinco libros sobre esta tecnología, con especial atención a la Nefrología y las Urgencias Hospitalarias. El último, escrito junto a los doctores Víctor Lorenzo Sellarés y Juan Manuel López Gómez, lleva por título “Inteligencia Artificial en Educación Médica. Guía práctica de formación clínica, docencia universitaria y aprendizaje en medicina y enfermería”, una obra que presentará en el Colegio de Médicos
el martes 10 de Noviembre, a las 19 horas, y que plantea una cuestión que empieza a preocupar seriamente a las facultades de Medicina: cómo enseñar a pensar a los futuros profesionales sanitarios cuando una máquina puede proporcionar respuestas aparentemente excelentes en segundos.
En esta entrevista para el COM Cantabria hablamos con él sobre esta transformación, sus riesgos, las nuevas formas de aprender y evaluar, y el papel que seguirá teniendo el médico en una profesión cada vez más tecnológica.
-Después de toda una vida dedicada a la Medicina, uno podría pensar que la jubilación era el momento de descansar. Sin embargo, lleva cinco libros sobre inteligencia artificial. ¿Qué le ha pasado?
Pues que me he encontrado con algo extraordinariamente interesante justo cuando tenía más tiempo para estudiarlo. La jubilación te libera de muchas obligaciones, pero no necesariamente de la curiosidad. He vivido grandes transformaciones en Medicina. Recuerdo la época en la que buscábamos información en libros y revistas impresas, después llegaron los ordenadores, internet, PubMed… Pero la inteligencia artificial me parece un cambio de otra dimensión. Por primera vez podemos conversar con una herramienta que maneja una cantidad inmensa de información y que, además, puede ayudarnos a organizarla, interpretarla y discutirla. Eso, para alguien que ha dedicado su vida a enseñar y aprender Medicina, resulta fascinante.
-Tenemos a nuestra disposición herramientas como ChatGPT, Claude, Gemini y otras muchas. Pero ¿cómo podemos conseguir que sus respuestas sean realmente fiables en Medicina? ¿Es suficiente con hacerles una buena pregunta?
No, y este es uno de los aspectos más importantes que debemos aprender. Estos modelos trabajan con lenguaje natural. Imaginemos ese
lenguaje como un enorme vagón lleno de palabras, conceptos y conocimientos que se han ido relacionando durante su entrenamiento.
Cuando hacemos una pregunta, la inteligencia artificial construye una respuesta a partir de esas relaciones. Pero una respuesta bien construida no tiene por qué ser científicamente correcta. Piense que esas palabras lo mismo vienen del New England Journal of Medicine que de un comentario sobre la tensión arterial del Lecturas. Por eso es tan importante el prompt, es decir, las instrucciones que damos a la máquina. En Medicina no basta con preguntar: «¿Cuál es el tratamiento de esta enfermedad?». Tenemos que delimitar el terreno en
el que queremos que busque y razone. Podemos indicarle, por ejemplo: «Responde utilizando exclusivamente evidencia procedente de
publicaciones científicas revisadas por pares, guías clínicas actualizadas y consensos de sociedades científicas internacionales, como KDIGO, ESC, AHA o ADA. Prioriza revisiones sistemáticas y ensayos clínicos relevantes. Identifica las fuentes, distingue la evidencia sólida de la opinión de expertos y reconoce cuando no existan datos suficientes». De esta forma intentamos que, de ese inmenso vagón de palabras, la IA seleccione únicamente las que están relacionadas con el conocimiento científico que consideramos válido.
Ahora bien, hay una advertencia fundamental: poner límites en el prompt no garantiza que la máquina los respete. Puede citar incorrectamente, inventar referencias o utilizar información que no procede de las fuentes solicitadas. Por eso, cuando necesitamos rigor, conviene utilizar herramientas de inteligencia artificial y buscadores científicos que permiten localizar publicaciones médicas reales, consultar su contenido y comprobar que las conclusiones están respaldadas por la evidencia original. Me refiero a Pubmed, Cochrane Library, Open Evidence, Elicit, Scite, Notebook LM o Chat GPT con investigación profunda. La calidad de una respuesta médica no depende de lo convincente que resulte, sino de la evidencia que la sostiene. Y eso sigue siendo responsabilidad del médico.
-¿Estamos entonces en ese salto similar a Internet que lo revolucionó todo?
Más . Y hay una diferencia importante. Internet nos permitió acceder a la información. La inteligencia artificial nos permite trabajar con ella de una manera completamente distinta. Antes buscábamos artículos, los leíamos y elaborábamos nuestras conclusiones. Ahora podemos pedir a una IA que compare estudios, proponga diagnósticos diferenciales, critique un proyecto de investigación o simule un paciente para entrenar a un estudiante. Eso es extraordinario, aunque conviene no confundir la capacidad de producir una respuesta convincente con la capacidad de tener razón. La IA puede equivocarse y hacerlo con una seguridad verdaderamente admirable, como algunas personas que conocemos…., por eso hay que aprender a utilizarla, pero también, como de esas personas, a desconfiar de ella cuando corresponde.
-Y como nefrólogo, ¿realmente ve utilidad clínica o estamos todavía jugando con una tecnología muy llamativa?
Veo utilidad, desde luego. Imagine un paciente con insuficiencia renal, múltiples enfermedades, diez medicamentos y una alteración electrolítica. La IA puede ayudarnos a revisar interacciones, ordenar hipótesis diagnósticas, consultar recomendaciones y detectar aspectos que quizá no habíamos considerado. También puede facilitar enormemente la actualización científica y la preparación de sesiones clínicas. Asimismo facilitar con machine learning estudios predictivos o triaje en urgencias, o con deep learning análisis de imágenes radiológicas. Pero hay algo fundamental: yo no pondría al paciente en manos de una respuesta automática. La IA no conoce necesariamente todos los matices del enfermo, puede interpretar mal un dato y no siempre distingue adecuadamente entre evidencia sólida y recomendaciones débiles. Es una ayuda para el médico, no una autorización para dejar de ejercer como médico.
-Vamos a una pregunta incómoda: ¿y si la inteligencia artificial llega a diagnosticar mejor que los médicos?
Pues habrá que reconocerlo allí donde se demuestre. Sería absurdo rechazar una herramienta que mejora resultados clínicos por defender
nuestro orgullo profesional. Pero diagnosticar no es simplemente acertar el nombre de una enfermedad. Es decidir qué pruebas solicitar, valorar incertidumbres, interpretar los resultados en una persona concreta, explicar lo que ocurre y acompañar al paciente en las decisiones.
Si una máquina nos ayuda a equivocarnos menos, bienvenida sea. Lo preocupante sería utilizarla sin comprender por qué propone una
determinada decisión. Un médico debe poder justificar lo que hace, también cuando se apoya en una IA.
-Hay una expresión que utiliza en sus trabajos y que me ha llamado la atención: descarga cognitiva. ¿Nos la puede explicar de una forma sencilla?
Claro. Descargamos trabajo mental en herramientas externas. Antes recordábamos los números de teléfono; ahora los guarda el móvil. Antes
hacíamos muchas operaciones de cabeza; ahora usamos una calculadora. Eso no es necesariamente malo. El problema aparece cuando
descargamos precisamente las funciones que necesitamos ejercitar. En Medicina no me preocupa que un estudiante utilice la IA para buscar
información. Me preocupa que le pida directamente el diagnóstico de un caso clínico sin haberse detenido a pensar qué le ocurre al paciente, es decir sin ejercer el razonamiento crítico. Porque el razonamiento crítico se aprende razonando, cometiendo errores, discutiendo alternativas y corrigiéndolos. Si evitamos sistemáticamente ese esfuerzo, podemos terminar debilitando una competencia esencial, y ahí viene lo más grave: pérdida de habilidades, falta de adquisición de habilidades o aún peor, adquisición errónea de habilidades
-Dicho de otra forma, ¿podemos fabricar médicos que sepan preguntar a ChatGPT, pero no sepan pensar sin él?
Ese es uno de los riesgos que debemos prevenir. No significa que vaya a ocurrir inevitablemente, pero merece mucha atención. Imagine un estudiante que recibe un caso clínico, lo introduce en una IA y obtiene en segundos un diagnóstico diferencial magnífico. Después lo
presenta en clase. Todo parece perfecto. Pero pregúntele por qué descartó una enfermedad, qué dato es el más importante o qué haría si
apareciese una nueva alteración analítica. Hoy un alumno puede presentar un texto impecable, una revisión bibliográfica excelente o un
razonamiento clínico aparentemente sofisticado sin haber recorrido personalmente el proceso intelectual necesario para producirlo. La
respuesta puede ser brillante y el aprendizaje, prácticamente inexistente. Por eso defiendo una regla muy sencilla: primero piensa tú, después
informa a la IA de tus planteamientos, pregunta qué te faltó de posibilidades diagnósticas o pruebas ( y que te sobró también), consulta a
la IA sin pedirle aún el diagnóstico, y finalmente discute críticamente lo que te ha respondido, para finalmente llegar al diagnóstico probable.
-Y está claro que no podemos pedir a los estudiantes que renuncien a una herramienta que van a utilizar durante toda su vida…
Por supuesto que no. Sería tan absurdo como prohibir internet. Lo que tenemos que hacer es enseñarles a utilizar la inteligencia artificial
correctamente. Yo propondría por ejemplo, dar un caso clínico a los alumnos y pedirles primero que elaboren sus hipótesis. Después pueden
consultar una IA, comparar sus respuestas y discutir qué han pasado por alto, en qué se han equivocado ellos y en qué se ha equivocado la
máquina. Ahí la IA se convierte en una herramienta docente excelente. No sustituye el pensamiento, lo provoca. Ahora estamos acabando 15 volúmenes con 150 casos clínicos de Aprendizaje basado en problemas (ABP) en nefrología, una metodología de enseñanza basada en eso
precisamente, donde el caso clínico es el punto de partida para aprender. Presentamos una situación que obliga al alumno a preguntarse
qué está ocurriendo, qué necesita saber y cómo puede justificar una decisión.
-Su último libro trata precisamente sobre educación médica. ¿Qué le llevó a escribirlo?
La sensación de que estamos viviendo un cambio importante y de que las facultades de Medicina necesitan respuestas prácticas. La IA permite preparar casos clínicos, pacientes virtuales, generar simulaciones, adaptar explicaciones al nivel de los alumnos, elaborar materiales y facilitar el aprendizaje basado en problemas. Las posibilidades son enormes. Pero también obliga a revisar nuestros métodos docentes, y obviamente nuestros métodos de evaluación del alumno. Si seguimos enseñando y evaluando exactamente igual que antes, ignorando que los estudiantes tienen acceso a estas herramientas, estaremos haciendo algo poco realista.
El libro pretende ser una guía práctica. No se trata de convencer a nadie de que la IA es maravillosa, sino de mostrar cómo puede utilizarse con criterio, cuáles son sus limitaciones y qué debemos proteger de la educación médica tradicional.
-¿Están preparados los profesores universitarios para este cambio?
Algunos sí, otros están empezando y muchos probablemente se sienten desconcertados. Es comprensible. La tecnología ha llegado muy deprisa. Pero creo que debemos perderle el miedo. No hace falta convertirse en ingeniero informático para entender cómo utilizar estas herramientas en la docencia. Sí hace falta formación, curiosidad y disposición a revisar determinadas costumbres. Y aquí hay algo interesante: la experiencia docente sigue teniendo muchísimo valor. Un profesor que conoce bien cómo razonan los estudiantes, dónde se equivocan y qué dificultades encuentran tiene mucho que aportar. La IA puede preparar materiales en segundos, pero no sabe automáticamente qué necesita aprender ese grupo de alumnos ni cómo ayudarles a desarrollar criterio clínico.
-Hablemos de un problema que está volviendo locos a muchos profesores. Un estudiante entrega un trabajo magnífico, pero sospechamos que lo ha escrito una IA. ¿Qué hacemos?
Lo primero, no convertir la sospecha en una condena. Los programas que intentan detectar textos escritos por inteligencia artificial tienen
limitaciones importantes y pueden cometer errores. Yo cambiaría el enfoque. En lugar de obsesionarnos con descubrir si ha utilizado una IA,
preguntaría: ¿ha aprendido algo?, ¿comprende lo que ha entregado?, ¿puede defenderlo?. Podemos pedir borradores, comprobar las fuentes, revisar cómo ha evolucionado el trabajo y, sobre todo, mantener una breve conversación con el estudiante. Si presenta una revisión excelente sobre insuficiencia renal, pero no sabe explicar qué significa una reducción del filtrado glomerular, tenemos un problema educativo bastante más importante que la autoría del texto.
-Entonces, ¿usted permitiría utilizar inteligencia artificial en los exámenes?
Depende de lo que queramos evaluar. Hay competencias que el alumno debe demostrar sin ayuda, porque forman parte de los conocimientos y habilidades imprescindibles para actuar con seguridad. Pero también podemos diseñar evaluaciones en las que se permita utilizar IA y se valore la capacidad de analizar sus propuestas, detectar errores y justificar decisiones.
En la práctica médica futura habrá situaciones en las que el profesional disponga de herramientas de apoyo. Tiene sentido aprender a utilizarlas correctamente. Lo que no tendría sentido es que un estudiante aprobara únicamente por copiar una respuesta que no comprende. Debemos evaluar tanto los conocimientos propios como la capacidad de trabajar críticamente con nuevas herramientas.
-¿Y no cree que estamos perdiendo algo del esfuerzo que exigía estudiar Medicina?
Puede ocurrir, pero tampoco conviene idealizar el pasado. Memorizar páginas y páginas no siempre equivalía a comprenderlas. El esfuerzo
intelectual sigue siendo imprescindible. Lo que cambia es dónde debemos concentrarlo. Quizá necesitemos dedicar menos tiempo a determinadas tareas mecánicas y más a comprender problemas, interpretar datos, relacionar conocimientos y tomar decisiones bajo incertidumbre. La IA puede liberar tiempo para eso. Pero también puede convertirse en un atajo que nos ahorre pensar. Ahí está la paradoja.
Tenemos una tecnología capaz de ayudarnos a aprender mucho más y, si la utilizamos mal, también de permitirnos aprender mucho menos.
-Hay médicos veteranos que contemplan todo esto con bastante desconfianza. ¿Qué les diría?
Que cierta desconfianza es saludable. En Medicina hemos aprendido que no debemos aceptar una innovación simplemente porque sea nueva.
Pero les animaría a probarla. No hace falta empezar con decisiones clínicas complejas. Se puede utilizar para preparar una sesión, revisar bibliografía, aclarar un concepto o discutir un artículo científico. Lo importante es conocer sus posibilidades y sus errores. Creo, además, que los médicos experimentados tienen una ventaja: disponen de conocimientos y criterio para identificar muchas respuestas incorrectas. Su experiencia puede ser especialmente valiosa para evaluar lo que propone una IA. La tecnología no convierte automáticamente en obsoleta a una generación. Lo que necesitamos es que distintas generaciones aprendan unas de otras.
-¿Y qué ocurre con la relación médico-paciente? ¿Acabaremos hablando más con una pantalla que con el enfermo?
Ese peligro existe, aunque no nació con la inteligencia artificial. Basta recordar cuánto tiempo llevamos mirando el ordenador durante las
consultas. A mí me gustaría que la IA contribuyera precisamente a lo contrario: reducir tareas administrativas, facilitar la documentación y
devolver al médico tiempo para escuchar al paciente. Porque un enfermo no viene solamente a buscar un diagnóstico. Viene con miedo, incertidumbre, expectativas y una historia personal que debemos comprender. Una IA puede explicar magníficamente qué es una
insuficiencia renal crónica . Pero decirle a una persona que su función renal está empeorando, escuchar sus preocupaciones y decidir con ella
cómo afrontar el futuro exige una relación humana que debemos preservar.
-¿Qué le preocupa más: los errores de la inteligencia artificial o que los médicos terminemos confiando demasiado en ella?
Ambas cosas están relacionadas, pero probablemente me preocupa más la confianza excesiva. Sabemos que estas herramientas pueden
generar información falsa, referencias bibliográficas inexistentes o recomendaciones equivocadas. Eso obliga a verificar especialmente las
cuestiones importantes. Pero hay otro riesgo más sutil: cuando una respuesta está bien escrita, es extensa y parece muy segura, tendemos a darle credibilidad. En Medicina eso puede ser peligroso. El médico no debe aceptar una recomendación por su apariencia de autoridad. Tiene que valorar la evidencia, el contexto clínico y las consecuencias de equivocarse. Y hay que recordar algo fundamental: si una decisión perjudica al paciente, no podemos escudarnos en que la recomendó una máquina.
-Y ¿cómo imagina la Medicina dentro de diez años?
No me atrevería a hacer predicciones demasiado precisas, porque la velocidad de desarrollo es sorprendente. Pero imagino una Medicina en la que la IA estará integrada en muchas actividades cotidianas. Nos ayudará a acceder a información, analizar imágenes, revisar tratamientos, preparar documentos, investigar y posiblemente detectar problemas antes de que sean evidentes clínicamente. Espero también que contribuya a una Medicina más personalizada y también que la IA ayude al diseño de fármacos muy efectivos en concreto contra el cáncer, de eso estoy seguro. Sin embargo, el futuro no dependerá únicamente de la tecnología. Dependerá de cómo la incorporemos, de la calidad de su evaluación clínica, de la protección de los datos de los pacientes y de nuestra capaci
