La inteligencia artificial amplía las capacidades del médico, pero no sustituye su criterio

Especialistas reunidos en el Colegio de Médicos de Madrid advierten de que un algoritmo puede perder precisión al aplicarse en otros hospitales y reclaman validar las herramientas antes de incorporarlas a las consultas. La supervisión médica, la colaboración con informáticos y los riesgos de la IA generativa centraron una jornada en la que se presentó la tercera edición del Manual práctico de inteligencia artificial en entornos sanitarios.
jornada elsevier IA

Madrid, 16 de noviembre de 2026. La inteligencia artificial en medicina avanza a gran velocidad, pero su aplicación en los hospitales todavía plantea dudas sobre la fiabilidad de los algoritmos y la seguridad de los pacientes. Un sistema de inteligencia artificial capaz de identificar lesiones malignas en mamografías puede perder precisión cuando se utiliza con otras pacientes o con equipos diferentes. Es uno de los riesgos de incorporar estas herramientas a la práctica médica sin comprobar antes su eficacia. Aunque la inteligencia artificial avanza a gran velocidad, trasladar sus posibilidades tecnológicas a mejoras reales en la atención sanitaria sigue siendo uno de los grandes desafíos.

Esta fue una de las principales cuestiones abordadas durante la jornada Aplicando la IA de forma crítica y responsable en salud, celebrada el 12 de noviembre en el Ilustre Colegio Oficial de Médicos de Madrid (ICOMEM). El encuentro, organizado por Elsevier y BiblioMadSalud, con la colaboración de la Universidad Europea de Madrid, reunió a médicos, investigadores, ingenieros y profesionales de la información científica para analizar las oportunidades y los riesgos de la inteligencia artificial en el entorno sanitario.

La sesión se celebró con motivo de la presentación de la tercera edición del Manual práctico de inteligencia artificial en entornos sanitarios e incluyó experiencias clínicas, recomendaciones para evaluar algoritmos y un taller participativo sobre la creación de agentes de IA para consultas médicas.

El doctor Samuel González López, especialista en Medicina Intensiva e investigador del grupo IASalud de la Universidad Europea, cuestionó que el enorme desarrollo tecnológico de las últimas décadas haya tenido un impacto equivalente en la atención sanitaria.«Tenemos la sensación de que esta IA realmente no está dando resultados a nuestros pacientes», afirmó durante su intervención.

González López recordó que la investigación sobre inteligencia artificial aplicada a la medicina comenzó hace décadas. Sin embargo, pese al aumento de la capacidad de computación y al desarrollo de algoritmos cada vez más avanzados, numerosos procesos hospitalarios continúan presentando problemas que podrían abordarse mediante estas tecnologías.

Para ilustrarlo, comparó la automatización existente en otros sectores, donde es posible controlar múltiples parámetros de manera simultánea, con los errores que todavía se producen en los hospitales durante procesos como la administración de medicamentos o productos sanguíneos.

A su juicio, el reto consiste en conseguir que la innovación tecnológica responda a problemas concretos de la actividad asistencial. Para ello, defendió una mayor implicación de los profesionales sanitarios en el diseño y la evaluación de las herramientas que posteriormente utilizarán.

Las UCI generan miles de datos que podrían aprovecharse con inteligencia artificial

González López presentó también un proyecto de inteligencia artificial desarrollado en el ámbito de los cuidados intensivos, todavía en fase de diseño, cuyo objetivo es aprovechar la gran cantidad de información que generan diariamente estas unidades.

Las constantes vitales, las analíticas, las pruebas de imagen y los registros clínicos proporcionan miles de datos que podrían utilizarse para desarrollar sistemas de vigilancia y herramientas de apoyo a los profesionales.

Sin embargo, disponer de grandes volúmenes de información no garantiza que los algoritmos puedan interpretarla correctamente. Los datos deben estar identificados, organizados y contextualizados para evitar errores que puedan comprometer los resultados.En este proceso, los intensivistas desempeñan un papel fundamental, ya que conocen el significado clínico de las variables, las circunstancias en las que se registran y sus posibles limitaciones.

El especialista insistió en la necesidad de impulsar proyectos conjuntos entre médicos, ingenieros, universidades y sociedades científicas para desarrollar soluciones adaptadas a las necesidades reales de los pacientes.

 Ponentes jornada IA eEsevier
«La inteligencia artificial no sustituye al clínico, lo que hace es potenciarlo»

El doctor Juan José Beunza Nuin, director del Grupo de Investigación en Inteligencia Artificial y Salud de la Universidad Europea de Madrid, defendió la incorporación de estas tecnologías a las consultas, pero advirtió de que su utilización exige conocer previamente sus capacidades y limitaciones.«A día de hoy, la inteligencia artificial no sustituye al clínico, lo que hace es potenciarlo», señaló.

Para Beunza, el debate no debe centrarse en sustituir la práctica médica por sistemas automatizados, sino en aprovechar las posibilidades de la inteligencia artificial como una herramienta de apoyo.«Es el clínico el que tiene que explotar toda la potencialidad de la tecnología de la inteligencia artificial, lo que no significa que ceda ni su criterio clínico ni su responsabilidad en la toma de decisiones», explicó.

El investigador comparó estas herramientas con las pruebas diagnósticas convencionales, cuya utilidad se evalúa mediante indicadores como la sensibilidad y la especificidad. Del mismo modo, los algoritmos deben someterse a procesos de validación que permitan conocer su fiabilidad antes de utilizarlos en la práctica asistencial.La responsabilidad final, recordó, sigue correspondiendo al profesional sanitario, que debe valorar si una herramienta resulta adecuada para el paciente que tiene delante.

Un algoritmo que funciona en un hospital puede fallar en otro

Uno de los riesgos destacados por Beunza fue la falta de validez externa de determinados sistemas de inteligencia artificial. Una aplicación puede ofrecer buenos resultados con la población utilizada durante su desarrollo y perder precisión cuando cambian las características de los pacientes o las condiciones de utilización.

Como ejemplo, mencionó los algoritmos diseñados para identificar lesiones malignas en mamografías. Su eficacia puede variar cuando se aplican a pacientes con características distintas o se utilizan equipos de diagnóstico diferentes.«Esa herramienta hay que validarla en su propia población, en su propia epidemiología y con sus propias tecnologías, porque no todos los mamógrafos son exactamente iguales», explicó.

El especialista advirtió de que la aparición continua de nuevas aplicaciones obliga a los médicos a desarrollar criterios para distinguir las herramientas que aportan valor clínico de aquellas que todavía no ofrecen suficientes garantías.«A día de hoy yo recomiendo prudencia y recomiendo validar siempre», afirmó.En este sentido, defendió la realización de evaluaciones clínicas iniciales que permitan contrastar los resultados de los algoritmos con los procedimientos habituales antes de incorporarlos a las consultas.

Los agentes de IA necesitan médicos e informáticos trabajando juntos

La jornada abordó también las posibilidades de los agentes de inteligencia artificial, herramientas capaces de realizar tareas específicas que podrían facilitar determinados procesos asistenciales.

Beunza explicó que actualmente existen numerosas aplicaciones, algunas de código abierto, que permiten crear estos sistemas sin necesidad de desarrollar toda la tecnología desde cero.Sin embargo, advirtió de que la facilidad para construir un agente no garantiza que sus resultados sean clínicamente válidos.«Recomiendo a todos los clínicos que se asocien con un informático para que les ayude en esa primera fase», señaló.

Según explicó, el trabajo conjunto debe partir siempre de una necesidad asistencial. El médico identifica el problema que quiere resolver, mientras que el especialista informático contribuye a desarrollar la solución tecnológica. Una vez creada, corresponde al profesional sanitario comprobar que funciona correctamente y que sus resultados son fiables.«La clave de un agente de IA en el uso clínico no es tanto el agente en sí, sino la validez clínica de lo que produce», subrayó.

Para mostrar cómo pueden desarrollarse estas herramientas, Beunza dirigió un taller participativo en el que los asistentes siguieron el proceso de construcción de un agente de inteligencia artificial destinado a simular su utilización en una consulta médica.La demostración permitió conocer algunas de las posibilidades de estos sistemas, pero también puso de manifiesto la necesidad de establecer controles antes de trasladarlos a situaciones asistenciales reales.

La supervisión médica sigue siendo imprescindible

La rapidez con la que evolucionan las aplicaciones de inteligencia artificial plantea también dudas sobre qué tareas pueden delegarse en estos sistemas y cuáles deben permanecer bajo control directo de los profesionales.

Preguntado por esta cuestión, Beunza evitó establecer una clasificación definitiva.«Es muy difícil responder a esa pregunta porque las herramientas de IA evolucionan cada semana», reconoció.

Su recomendación actual es mantener una supervisión exhaustiva, especialmente cuando los resultados pueden afectar al diagnóstico de enfermedades graves o a decisiones terapéuticas de alto riesgo.«En general, a día de hoy, creo que el clínico tiene que comprobar absolutamente todos los datos», afirmó.

El investigador explicó que el grado de supervisión podría ajustarse progresivamente cuando una herramienta haya demostrado su fiabilidad en el entorno donde se utiliza. No obstante, insistió en que cualquier reducción de los controles debe estar respaldada por una evaluación previa.«Mientras yo no lo compruebe, lo valide y vea cómo funciona, yo siempre pido prudencia de entrada con todas las herramientas».

Javier Arenas Ybarra, director de Ventas Regional en Elsevier Clinical Solutions, 

La fiabilidad de las fuentes científicas, clave para evitar errores

La calidad de la información utilizada por los sistemas de inteligencia artificial fue otra de las cuestiones centrales del encuentro.

María José Rebollo, bibliotecaria del ICOMEM y presidenta de BiblioMadSalud, destacó que las respuestas generadas por estas herramientas pueden influir directamente en las decisiones de los profesionales sanitarios. Por ello, consideró imprescindible comprobar la procedencia de la información, evaluar las fuentes y conocer la evidencia científica que respalda cada resultado.«No podemos ser meros espectadores de la revolución de la inteligencia artificial, tenemos que ser una parte activa de ella», afirmó.

Rebollo reivindicó el papel de los profesionales de la información sanitaria en la selección de contenidos científicos fiables y en el desarrollo de sistemas de conocimiento transparentes y responsables.La inteligencia artificial permite acceder a grandes cantidades de información en poco tiempo, pero esa rapidez no garantiza que los resultados sean correctos ni que estén respaldados por evidencia suficiente.

Por su parte, Javier Arenas Ybarra, director de Ventas Regional en Elsevier Clinical Solutions, incidió en la importancia de desarrollar herramientas fundamentadas en fuentes científicas contrastadas, con mecanismos que permitan conocer la procedencia de la información y mantener la supervisión humana.El objetivo de estas tecnologías, recordó, debe ser «apoyar al profesional, nunca sustituirlo».

 

Un manual actualizado para aprender a evaluar la inteligencia artificial en sanidad

La jornada sirvió también para presentar la tercera edición del Manual práctico de inteligencia artificial en entornos sanitarios, publicada por Elsevier en marzo de 2026 y firmada por Juan José Beunza Nuin, José Luis Lafuente Carrasco, Enrique Puertas Sanz y Julio Bonis Sanz.

La obra actualiza los fundamentos y las aplicaciones de esta tecnología en la asistencia, la investigación y la gestión sanitaria, con especial atención a los avances que se han producido desde las ediciones anteriores.Entre sus principales novedades figuran cinco capítulos dedicados a la inteligencia artificial generativa, que abordan su funcionamiento, sus aplicaciones, la elaboración de instrucciones para interactuar con los modelos y sus principales limitaciones, incluidos los errores y las respuestas incorrectas que pueden generar.

El libro analiza también el desarrollo de agentes de IA y asistentes digitales, así como los requisitos de seguridad, supervisión y gobernanza necesarios para incorporarlos a los entornos sanitarios.Además, incluye contenidos sobre clasificación de imágenes médicas, aplicaciones de la inteligencia artificial en radiología y dermatología, dispositivos conectados y monitorización en cuidados intensivos. La actualización incorpora asimismo un capítulo sobre monitorización cutánea no invasiva y refuerza cuestiones relacionadas con la protección de datos, la ciberseguridad, la ética y la validación de algoritmos.

Uno de sus apartados más prácticos reúne 12 claves para evaluar críticamente un algoritmo de inteligencia artificial aplicado a la salud, con el propósito de ayudar a los profesionales a valorar las herramientas antes de utilizarlas en su actividad clínica.

Dirigido a sanitarios, profesionales de ingeniería e informática biomédica y estudiantes de Ciencias de la Salud, el manual busca proporcionar conocimientos para comprender estas tecnologías, participar en su desarrollo y evaluar sus resultados con criterios científicos.Su presentación permitió conectar las cuestiones abordadas durante la jornada con una necesidad cada vez más presente en los hospitales: disponer de profesionales preparados no solo para utilizar inteligencia artificial, sino también para identificar sus errores y comprobar su utilidad.

La principal conclusión fue que el avance de la inteligencia artificial en medicina no puede medirse únicamente por la capacidad de sus algoritmos, sino por su fiabilidad y su impacto en la atención sanitaria. El desafío ya no es solo desarrollar nuevas herramientas, sino demostrar que funcionan con pacientes reales, que pueden utilizarse de forma segura y que ayudan al médico a tomar mejores decisiones. Una exigencia que atraviesa tanto las intervenciones de los expertos como los contenidos de la nueva edición del manual: antes de confiar en un algoritmo, hay que comprobar qué resultados ofrece y en qué condiciones puede utilizarse.