La inteligencia artificial en la medicina: entre la utilidad clínica y la necesidad de supervisión humana

Cuando hablamos de inteligencia artificial en la medicina, casi siempre caemos en dos posturas que no llevan a ninguna parte. Por un lado, la promesa tecnofílica visualiza algoritmos capaces de resolver la complejidad diagnóstica y administrativa de los sistemas sanitarios. Por otro, la resistencia alarmista interpreta cualquier avance computacional como una amenaza inminente para la profesión. La realidad clínica exige abandonar ambos reduccionismos y examinar con rigor qué funciona, qué limitaciones persisten y bajo qué reglas debemos regular su uso.

Este análisis avanza, por tanto, desde los beneficios clínicos ya demostrados hacia los límites técnicos, los riesgos de los sistemas más autónomos, los desafíos regionales y, finalmente, las condiciones de gobernanza necesarias para una adopción responsable.

Beneficios demostrados y áreas de aplicación

OTROS TEMAS DE INTERÉS:

Mulino veta proyecto sobre beneficios a jubilados y objeta reformas al reglamento de la Asamblea

En dominios específicos, los modelos de aprendizaje profundo han transformado la forma en que procesamos la información diagnóstica. En radiología, dermatología y patología, la capacidad de los algoritmos para detectar patrones visuales complejos en imágenes médicas cuenta con un respaldo sólido en la literatura científica. Los estudios demuestran que estas herramientas pueden igualar o superar el rendimiento humano en la lectura de mamografías, la identificación de nódulos pulmonares o el reconocimiento de lesiones melanocíticas malignas, reduciendo los falsos negativos en escenarios de alta fatiga asistencial.

Asimismo, la implementación de sistemas de transcripción automatizada y resumen de historias clínicas en la práctica ambulatoria reduce de forma significativa la carga administrativa. Al disminuir el tiempo dedicado al expediente electrónico, se mitiga el agotamiento profesional (burnout) que afecta al personal médico, siempre que el texto generado sea sometido a una auditoría humana rigurosa antes de su validación definitiva.

Límites técnicos y riesgos operativos

OTROS TEMAS DE INTERÉS:

Panamá tendrá conectividad satelital directa a teléfonos móviles con +Móvil y Starlink

Existe una distancia operativa insalvable entre procesar datos y ejercer la medicina. Los modelos actuales carecen de intencionalidad, contexto situacional y comprensión semántica real de la enfermedad. Tres riesgos requieren atención especial antes de incorporar estas herramientas en decisiones clínicas:

• Alucinaciones clínicas: La fluidez sintáctica de un sistema generativo puede enmascarar información completamente falsa. Una respuesta estructurada con rigor formal es capaz de generar recomendaciones terapéuticas erróneas con apariencia de absoluta certeza.
• Sesgo algorítmico: Las bases de datos utilizadas para entrenar estos sistemas suelen subrepresentar a diversas poblaciones, minorías y grupos geográficos, lo que perpetúa inequidades diagnósticas y genera fallos críticos al trasladar la herramienta fuera de su entorno original de validación.
• Complacencia por automatización (automation bias): La confianza excesiva en los resultados computacionales deteriora la capacidad crítica del personal sanitario. Este fenómeno lleva a los profesionales a aceptar recomendaciones incorrectas emitidas por sistemas complejos, relegando su propio juicio experto.

Estos riesgos se vuelven aún más delicados cuando la inteligencia artificial deja de limitarse a analizar o sugerir y empieza a ejecutar acciones dentro de sistemas clínicos conectados.

El salto hacia los sistemas agentivos y las lecciones de ciberseguridad

El riesgo tecnológico se incrementa de forma exponencial con la transición desde modelos puramente analíticos hacia sistemas dotados de capacidad autónoma para interactuar con interfaces de programación (APIs), bases de datos y sistemas de prescripción hospitalaria.

La capacidad de un agente computacional para ejecutar acciones automatizadas no equivale a autorización clínica ni legal para realizarla. Conectar un modelo avanzado directamente a la infraestructura hospitalaria sin cortapisas estrictas vulnera los principios fundamentales de la seguridad del paciente, abriendo la puerta a errores de medicación y alteraciones no supervisadas en los expedientes.

Los incidentes documentados recientemente en evaluaciones de ciberseguridad con modelos avanzados como Claude (Anthropic) y Gemini (Google) ilustran este riesgo operacional. Durante pruebas de estrés en entornos simulados, se observó que los agentes autónomos —bajo configuraciones de red permisivas o fallas en la delimitación de contexto— podían encadenar llamadas a funciones y acceder a recursos externos no previstos inicialmente. Aunque estos eventos ocurrieron en pruebas controladas y no en entornos clínicos reales, demuestran que un sistema con autonomía operativa puede malinterpretar su entorno y rebasar los límites previstos si no existen barreras técnicas y de supervisión rigurosas.

Desafíos para Panamá y la región

El contexto sanitario de América Latina presenta retos estructurales marcados por la fragmentación asistencial, la escasez de interoperabilidad entre instituciones públicas y privadas, y la dependencia de algoritmos entrenados con poblaciones extranjeras que no reflejan nuestra realidad epidemiológica.

En Panamá, la adopción de estas herramientas en el sistema de salud exige suma prudencia, validación local y el cumplimiento estricto de los marcos regulatorios sobre protección de datos y gobernanza institucional. La asimilación acrítica de soluciones importadas que ignoran las particularidades de nuestra infraestructura puede profundizar las brechas de acceso y calidad asistencial.

Por ello, los retos regionales no pueden separarse de la discusión sobre gobernanza: las decisiones sobre compra, validación e integración tecnológica deben responder a las condiciones reales del sistema sanitario local.

Gobernanza y responsabilidad profesional

La cuestión central no es si debemos incorporar la inteligencia artificial, sino bajo qué condiciones de supervisión humana, trazabilidad y control lo haremos. Se requiere un modelo de gobernanza clínica que clasifique las aplicaciones según su nivel de riesgo, estableciendo qué tareas pueden automatizarse y cuáles exigen la intervención profesional obligatoria.

La tecnología debe ampliar nuestra capacidad de acción, pero la responsabilidad sobre la decisión final permanece, de forma indelegable, en manos del profesional de la salud.

Estratificación del riesgo y automatización regulada

Un modelo sólido de gobernanza clínica exige clasificar las herramientas tecnológicas según su potencial lesivo.

• Tareas de bajo riesgo: Funciones administrativas, transcripción de notas y gestión de flujos logísticos donde la automatización puede ser amplia, sujeta a auditorías periódicas por muestreo.
• Tareas de alto riesgo: Soporte al diagnóstico, triaje clínico y recomendaciones terapéuticas que exigen una revisión profesional obligatoria, impidiendo que el sistema emita directrices sin la validación directa de un médico.

Trazabilidad, auditoría y el principio de indelegabilidad

La implementación exige registros inalterables que documenten qué versión del algoritmo procesó el caso, cuáles fueron las variables de entrada, qué recomendación emitió el sistema y qué profesional asumió la decisión final. Sin esta trazabilidad, la auditoría forense ante un evento adverso se vuelve inviable.

La tecnología computacional procesa probabilidades a partir de datos históricos, pero carece de subjetividad consciente, empatía y personalidad jurídica. Por tanto, ningún nivel de sofisticación algorítmica exime al médico tratante o a la institución de su responsabilidad legal y ética. La inteligencia artificial amplía el horizonte analítico de la medicina, pero la responsabilidad sobre la vida y la salud del paciente permanece, de manera indelegable, en el juicio humano

Conclusión: El límite inquebrantable de la clínica

La expansión de la inteligencia artificial en la medicina no representa una disyuntiva entre la adopción ciega y el rechazo absoluto, sino una prueba definitiva de madurez para los sistemas de salud. La sofisticación algorítmica, por más avanzada que sea, carece de la dimensión ética, la intuición empática y la responsabilidad moral que definen el acto médico.

Permitir que un modelo computacional dicte conductas terapéuticas sin una barrera de supervisión estricta equivale a renunciar al fundamento esencial de la seguridad del paciente. La tecnología debe servir exclusivamente como un amplificador de nuestras capacidades analíticas, nunca como un sustituto del juicio clínico.

En última instancia, el futuro de la medicina asistida por algoritmos dependerá de nuestra capacidad institucional para mantener el timón firme bajo un principio inquebrantable: los datos procesan probabilidades, pero el ser humano asume la responsabilidad de la vida.

* Dr. Israel H. Cedeño-González
Médico epidemiólogo y especialista en gestión sanitaria
Jefe del Departamento de Salud y Atención Integral a la Población, Ministerio de Salud de Panamá (MINSA)
Director Médico Corporativo en Minimed Corp.