La inteligencia artificial en la medicina: entre la utilidad clínica y la necesidad de supervisión humana

El avance de la inteligencia artificial en la medicina abre nuevas posibilidades diagnósticas y operativas, pero también plantea riesgos que obligan a reforzar la gobernanza, la trazabilidad y el juicio profesional.
PANAMA EN DIRECTO - La inteligencia artificial en la medicina: entre la utilidad clínica y la necesidad de supervisión humana
La inteligencia artificial en la medicina: entre la utilidad clínica y la necesidad de supervisión humana

OPINIÓN | Israel H. Cedeño-González*

Panamá | septiembre 21, 2026

Cuando hablamos de inteligencia artificial en la medicina, casi siempre caemos en dos posturas que no llevan a ninguna parte. Por un lado, la promesa tecnofílica visualiza algoritmos capaces de resolver la complejidad diagnóstica y administrativa de los sistemas sanitarios. Por otro, la resistencia alarmista interpreta cualquier avance computacional como una amenaza inminente para la profesión. La realidad clínica exige abandonar ambos reduccionismos y examinar con rigor qué funciona, qué limitaciones persisten y bajo qué reglas debemos regular su uso.

Este análisis avanza, por tanto, desde los beneficios clínicos ya demostrados hacia los límites técnicos, los riesgos de los sistemas más autónomos, los desafíos regionales y, finalmente, las condiciones de gobernanza necesarias para una adopción responsable.

Beneficios demostrados y áreas de aplicación

En dominios específicos, los modelos de aprendizaje profundo han transformado la forma en que procesamos la información diagnóstica. En radiología, dermatología y patología, la capacidad de los algoritmos para detectar patrones visuales complejos en imágenes médicas cuenta con un respaldo sólido en la literatura científica. Los estudios demuestran que estas herramientas pueden igualar o superar el rendimiento humano en la lectura de mamografías, la identificación de nódulos pulmonares o el reconocimiento de lesiones melanocíticas malignas, reduciendo los falsos negativos en escenarios de alta fatiga asistencial.

Asimismo, la implementación de sistemas de transcripción automatizada y resumen de historias clínicas en la práctica ambulatoria reduce de forma significativa la carga administrativa. Al disminuir el tiempo dedicado al expediente electrónico, se mitiga el agotamiento profesional (burnout) que afecta al personal médico, siempre que el texto generado sea sometido a una auditoría humana rigurosa antes de su validación definitiva.

Límites técnicos y riesgos operativos

Existe una distancia operativa insalvable entre procesar datos y ejercer la medicina. Los modelos actuales carecen de intencionalidad, contexto situacional y comprensión semántica real de la enfermedad. Tres riesgos requieren atención especial antes de incorporar estas herramientas en decisiones clínicas:

  • Alucinaciones clínicas: La fluidez sintáctica de un sistema generativo puede enmascarar información completamente falsa. Una respuesta estructurada con rigor formal es capaz de generar recomendaciones terapéuticas erróneas con apariencia de absoluta certeza.
  • Sesgo algorítmico: Las bases de datos utilizadas para entrenar estos sistemas suelen subrepresentar a diversas poblaciones, minorías y grupos geográficos, lo que perpetúa inequidades diagnósticas y genera fallos críticos al trasladar la herramienta fuera de su entorno original de validación.
  • Complacencia por automatización (automation bias): La confianza excesiva en los resultados computacionales deteriora la capacidad crítica del personal sanitario. Este fenómeno lleva a los profesionales a aceptar recomendaciones incorrectas emitidas por sistemas complejos, relegando su propio juicio experto.

Estos riesgos se vuelven aún más delicados cuando la inteligencia artificial deja de limitarse a analizar o sugerir y empieza a ejecutar acciones dentro de sistemas clínicos conectados.

El salto hacia los sistemas agentivos y las lecciones de ciberseguridad

El riesgo tecnológico se incrementa de forma exponencial con la transición desde modelos puramente analíticos hacia sistemas dotados de capacidad autónoma para interactuar con interfaces de programación (APIs), bases de datos y sistemas de prescripción hospitalaria.

La capacidad de un agente computacional para ejecutar acciones automatizadas no equivale a autorización clínica ni legal para realizarla. Conectar un modelo avanzado directamente a la infraestructura hospitalaria sin cortapisas estrictas vulnera los principios fundamentales de la seguridad del paciente, abriendo la puerta a errores de medicación y alteraciones no supervisadas en los expedientes.

Los incidentes documentados recientemente en evaluaciones de ciberseguridad con modelos avanzados como Claude (Anthropic) y Gemini (Google) ilustran este riesgo operacional. Durante pruebas de estrés en entornos simulados, se observó que los agentes autónomos —bajo configuraciones de red permisivas o fallas en la delimitación de contexto— podían encadenar llamadas a funciones y acceder a recursos externos no previstos inicialmente. Aunque estos eventos ocurrieron en pruebas controladas y no en entornos clínicos reales, demuestran que un sistema con autonomía operativa puede malinterpretar su entorno y rebasar los límites previstos si no existen barreras técnicas y de supervisión rigurosas.

Desafíos para Panamá y la región

El contexto sanitario de América Latina presenta retos estructurales marcados por la fragmentación asistencial, la escasez de interoperabilidad entre instituciones públicas y privadas, y la dependencia de algoritmos entrenados con poblaciones extranjeras que no reflejan nuestra realidad epidemiológica.

En Panamá, la adopción de estas herramientas en el sistema de salud exige suma prudencia, validación local y el cumplimiento estricto de los marcos regulatorios sobre protección de datos y gobernanza institucional. La asimilación acrítica de soluciones importadas que ignoran las particularidades de nuestra infraestructura puede profundizar las brechas de acceso y calidad asistencial.

Por ello, los retos regionales no pueden separarse de la discusión sobre gobernanza: las decisiones sobre compra, validación e integración tecnológica deben responder a las condiciones reales del sistema sanitario local.

Gobernanza y responsabilidad profesional

La cuestión central no es si debemos incorporar la inteligencia artificial, sino bajo qué condiciones de supervisión humana, trazabilidad y control lo haremos. Se requiere un modelo de gobernanza clínica que clasifique las aplicaciones según su nivel de riesgo, estableciendo qué tareas pueden automatizarse y cuáles exigen la intervención profesional obligatoria.

La tecnología debe ampliar nuestra capacidad de acción, pero la responsabilidad sobre la decisión final permanece, de forma indelegable, en manos del profesional de la salud.

Estratificación del riesgo y automatización regulada

Un modelo sólido de gobernanza clínica exige clasificar las herramientas tecnológicas según su potencial lesivo.

  • Tareas de bajo riesgo: Funciones administrativas, transcripción de notas y gestión de flujos logísticos donde la automatización puede ser amplia, sujeta a auditorías periódicas por muestreo.
  • Tareas de alto riesgo: Soporte al diagnóstico, triaje clínico y recomendaciones terapéuticas que exigen una revisión profesional obligatoria, impidiendo que el sistema emita directrices sin la validación directa de un médico.

Trazabilidad, auditoría y el principio de indelegabilidad

La implementación exige registros inalterables que documenten qué versión del algoritmo procesó el caso, cuáles fueron las variables de entrada, qué recomendación emitió el sistema y qué profesional asumió la decisión final. Sin esta trazabilidad, la auditoría forense ante un evento adverso se vuelve inviable.

La tecnología computacional procesa probabilidades a partir de datos históricos, pero carece de subjetividad consciente, empatía y personalidad jurídica. Por tanto, ningún nivel de sofisticación algorítmica exime al médico tratante o a la institución de su responsabilidad legal y ética. La inteligencia artificial amplía el horizonte analítico de la medicina, pero la responsabilidad sobre la vida y la salud del paciente permanece, de manera indelegable, en el juicio humano

Conclusión: El límite inquebrantable de la clínica

La expansión de la inteligencia artificial en la medicina no representa una disyuntiva entre la adopción ciega y el rechazo absoluto, sino una prueba definitiva de madurez para los sistemas de salud. La sofisticación algorítmica, por más avanzada que sea, carece de la dimensión ética, la intuición empática y la responsabilidad moral que definen el acto médico.

Permitir que un modelo computacional dicte conductas terapéuticas sin una barrera de supervisión estricta equivale a renunciar al fundamento esencial de la seguridad del paciente. La tecnología debe servir exclusivamente como un amplificador de nuestras capacidades analíticas, nunca como un sustituto del juicio clínico.

En última instancia, el futuro de la medicina asistida por algoritmos dependerá de nuestra capacidad institucional para mantener el timón firme bajo un principio inquebrantable: los datos procesan probabilidades, pero el ser humano asume la responsabilidad de la vida.

* Dr. Israel H. Cedeño-González
Médico epidemiólogo y especialista en gestión sanitaria
Jefe del Departamento de Salud y Atención Integral a la Población, Ministerio de Salud de Panamá (MINSA)
Director Médico Corporativo en Minimed Corp
.


Últimas Noticias

Jensen Huang renuncia a Nvidia en medio de escándalo por presunto espionaje chino

Nvidia enfrenta una de las mayores crisis de su historia tras la salida de su máximo..
Panamá en Directo | “Jensen Huang renuncia a Nvidia en medio de escándalo por presunto espionaje chino”

Idaan reporta daños críticos en 26 tanques de agua tras el sismo y anuncia medidas para reforzar el suministro

La entidad distribuyó 100 mil galones de agua en las zonas afectadas y adelanta evaluaciones para..
Panamá en Directo | “Idaan reporta daños críticos en 26 tanques de agua tras el sismo y anuncia medidas para reforzar el suministro”

Hugo Wood llega a la cúpula administrativa del Canal de Panamá con una amplia trayectoria internacional

Con experiencia en el sector público y en multinacionales, Wood asume una posición estratégica en la..
Panamá en Directo | “Hugo Wood llega a la cúpula administrativa del Canal de Panamá con una amplia trayectoria internacional”

Río Indio, nuevas terminales y corredor energético marcan el futuro del Canal de Panamá

Ilya Espino de Marotta presentó en Houston los planes estratégicos de la vía interoceánica, que incluyen..
Panamá en Directo | “Río Indio, nuevas terminales y corredor energético marcan el futuro del Canal de Panamá”

Revelan cómo transcurren los días de Nicolás Maduro en la cárcel de Brooklyn

Una investigación de The New York Times revela que el exmandatario venezolano dedica sus días en..
Panamá en Directo | “Revelan cómo transcurren los días de Nicolás Maduro en la cárcel de Brooklyn”