Cuando se habla de IA generativa en medicina, la pregunta casi siempre es una sola: ¿acierta? Es la cifra que se publica, la que se compara entre modelos y la que llega a los titulares. Pero acertar es solo una parte de lo que necesitamos saber antes de usar una herramienta con pacientes.

Un grupo de Oxford revisó 99 estudios que evaluaron IA generativa en diagnóstico y pronóstico, y propone mirar cinco dimensiones: si la respuesta es correcta y está basada en evidencia, si es segura y consistente, si el razonamiento clínico es coherente, si el modelo reconoce cuándo no sabe, y cómo su tono "humano" cambia la confianza de quien lo usa. Su conclusión es directa: la precisión sola no alcanza para decir que un sistema es confiable para uso clínico.

La última dimensión merece atención. Un modelo que responde con seguridad y empatía es más convincente, aunque esté equivocado. Y los modelos de lenguaje tienden a darle la razón al usuario. OpenAI reconoció el problema y está ajustando sus modelos para que discrepen cuando corresponde; según sus propias pruebas, los modelos nuevos cumplen sus políticas de seguridad en el 99% de las conversaciones simuladas sobre autolesiones, frente al 86% de versiones anteriores. Son datos internos de la empresa.

Ahí aparece el segundo problema: lo que no vemos. En una perspectiva publicada en Nature Health, investigadores de Stanford, Indiana y otras universidades señalan que el daño de un consejo de salud equivocado dado por un chatbot es invisible: no queda registro fuera de la plataforma, no hay a dónde reportarlo y nadie puede medirlo de forma independiente. Proponen que esas interacciones sean observables.

Para quienes trabajamos en imágenes, la lección es concreta. No es lo mismo un modelo general que conversa sobre una radiografía que una herramienta validada para una tarea, con registro regulatorio y estudios publicados. Antes de incorporar cualquiera de las dos, conviene preguntar algo más que el porcentaje de aciertos: cómo falla, si avisa cuando duda, quién mide sus errores y qué pasa cuando se equivoca.

Fuentes

• Aqeeli N, Mesinovic M, Zhu T. Rethinking the Evaluation of Generative AI in Clinical Diagnosis and Prognosis. Preprints.org, 2026 (sin revisión por pares).
• DeVerna MR, Yan HY, Yang KC, Menczer F. The invisible risks of AI-generated health information. Nature Health, 2026.
• OpenAI Is Finally Teaching ChatGPT to Stop Acting Like a Yes-Man. Android Headlines, octubre 2026.

El 6 de octubre, Nature Medicine publicó el paper de MedGemma, la IA abierta de Google especializada en medicina, que analiza imágenes y genera informes.

Vengo sosteniendo que los LLMs genéricos, como ChatGPT, Gemini o Claude, no son confiables para diagnóstico por imágenes. MedGemma es distinto: es un modelo multimodal (lee imágenes y texto) entrenado con datos médicos. Lo leí con lupa para ver cuánto cambia el panorama.

Una aclaración: no hablo de las herramientas de IA específicas para una tarea, que ya están validadas y aprobadas, por ejemplo en mamografía. Hablo de modelos que miran la imagen y escriben un informe en texto libre.

El dato más llamativo

El 81% de sus informes de radiografías de tórax podría llevar a decisiones médicas iguales o mejores que las del informe original, según la valoración de un radiólogo.

Lo que conviene leer junto a ese número

• Evaluación limitada: la hizo un solo radiólogo, sobre 306 casos y sin cegamiento (sabía cuáles informes eran de la IA).
• Sin medición en pacientes: no se midieron decisiones reales ni resultados finales.
• Normales frente a anormales: en calidad del informe, el 68% de los estudios normales fue igual o mejor que el original; en los anormales, el 49%.

Para mí, los anormales merecen tanta atención como el 81%: son los casos donde un error tiene consecuencias. El paper es transparente con estas limitaciones. El riesgo es quedarse solo con el número más llamativo.

Dos preguntas que me quedan

• Localización. Le costó ubicar estructuras anatómicas: el IoU, que mide cuánto se superpone la zona que marca el modelo con la zona correcta (0 es nada, 1 es coincidencia perfecta), fue de 0,03 en el modelo de 4B parámetros y de 0,16 en el de 27B. Conecta con mi preocupación por el "efecto espejismo" (mirage effect), un tema sobre el que presentamos un póster en RSNA 2026: una respuesta convincente no garantiza una interpretación correcta de la imagen.
• Sicofancia. Es la tendencia de estos modelos a darle la razón al usuario. El paper no reporta qué pasa si el médico le sugiere un diagnóstico equivocado. ¿Lo cuestiona o le da la razón?

Otros datos que conviene tener en cuenta

• El entrenamiento médico mejora la detección de respuestas falsas en un test de texto (de 0,09 a 0,50 frente al modelo general). Pero no se midió si alucina menos al informar imágenes.
• La versión evaluada trabaja solo con imágenes 2D.

¿Es un avance? Sí

• Especializado en medicina, no un chatbot genérico.
• Abierto: sus pesos son públicos, así que se puede descargar y ejecutar dentro del hospital, sin sacar los datos.
• Eficiente: el modelo de 4B costó 500 veces menos cómputo que el comparador más grande, lo que lo hace viable para un centro médico.
• Útil como borrador, con validación y revisión médica.

¿Listo para diagnosticar solo? Para mí, todavía no.

La versión 1.5

La versión 1.5 (2026, solo en 4B) ya incorpora tomografía y resonancia, y mejora la localización. Pero en preguntas de sí o no, donde el azar acierta el 50%, logra 61% en TC y 65% en RM: insuficiente, para mí, para confiarle decisiones. Además, son pruebas internas, en un preprint sin revisión por pares y con datos de la misma red que lo entrenó. Avanza rápido, pero no cambia el fondo.

Antes de confiarle pacientes, le pediría

1. Estudios prospectivos, con pacientes reales y resultados clínicos.
2. Pruebas ante sugerencias erróneas del médico.
3. Que muestre en la imagen lo que describe: cada hallazgo, con su localización.
4. Que reconozca su incertidumbre y sepa decir "no sé".
5. Validación clínica independiente, en otros centros y poblaciones, no solo hecha por quien desarrolló el modelo.

Qué significa para nosotros

Que sea abierto cambia algo concreto para los centros de nuestro medio: se puede probar con casos propios, dentro de la institución, antes de pensar en usarlo. Si un servicio quiere explorarlo, el paso razonable es una evaluación local, ciega y con foco en los estudios anormales, y siempre como borrador que revisa el médico.

Mi conclusión: especializar los LLMs en medicina es el camino correcto, pero todavía falta bastante. La pregunta ya no es si la IA sirve, sino qué evidencia le exigimos antes de que impacte en un paciente.

Fuente

• An open vision-language model for diverse medical applications. Nature Medicine, 6 de octubre de 2026.