Según un análisis publicado por el portal El Mostrador existe una premisa repetida en cada cumbre de salud digital: la IA transformará la medicina. Aunque esto es real, la afirmación permanece incompleta al ignorar una interrogante fundamental: ¿qué sucede cuando un modelo comete un error y nadie lo está auditando?
Esta omisión cobra relevancia ante la vertiginosa velocidad con la que la IA generativa se integra en procesos operacionales, administrativos y clínicos, sobrepasando la capacidad institucional para reglamentar su uso, control y supervisión. De este modo, el reto trasciende lo puramente tecnológico para transformarse en un dilema de gobernanza.
Tratar la IA generativa como un software habitual de oficina (como planillas o procesadores de texto) constituye un grave error. En la medicina, la información generada —sea un resumen clínico o un soporte a la decisión médica— impacta de forma directa la atención y salud del paciente.
Supervisión humana y marcos regulatorios
El aumento en la capacidad de automatización exige reforzar la trazabilidad, la transparencia y la delimitación de responsabilidades. Antes de que una sugerencia algorítmica genere consecuencias clínicas, un profesional médico debe revisar, validar o corregir dicha propuesta.
Las normativas internacionales avanzan hacia esta directriz. En la Unión Europea, las soluciones que intervienen en procesos clínicos enfrentan exigencias rigurosas. Bajo este marco, la solución InterSystems IntelliCare alcanzó la certificación del Reglamento de Dispositivos Médicos (MDR) de la UE como dispositivo médico Clase IIa para ciertas capacidades clínicas impulsadas por IA.
Esta certificación refleja un principio clave: la innovación médica exige controles de seguridad desde el diseño. La validación humana representa una condición imprescindible para el desarrollo responsable, no un obstáculo técnico.
A medida que Chile acelera la digitalización de su sistema sanitario y amplía el acceso a datos clínicos, la urgencia migra desde la adopción de herramientas hacia el establecimiento de criterios claros de trazabilidad y gobernanza.
-
Sin estándares compartidos: Las instituciones implementarán controles heterogéneos, aumentando el riesgo de adoptar algoritmos sin capacidades para auditarlos.
-
El costo de la inacción: Frenar la tecnología no es la solución; la IA ofrece valor real al reducir cargas administrativas, optimizar flujos operacionales y asistir a los equipos médicos.
-
El objetivo central: No se trata de elegir entre la protección o la innovación, sino de avanzar de forma coordinada en ambos frentes.
Chile cuenta con la oportunidad estratégica de definir estos marcos de control antes de que una adopción masiva convierta esta necesidad en una crisis. Más allá de lo técnico, la discusión aborda un dilema profundamente ético: «¿quién responde por una decisión clínica cuando parte de esa decisión fue sugerida por una máquina?»
El impacto operativo y ético en los flujos de trabajo hospitalarios
La integración de la inteligencia artificial generativa en entornos asistenciales no solo redefine la toma de decisiones clínicas, sino que transforma radicalmente la dinámica de trabajo diaria del personal médico y administrativo. Cuando los modelos automatizados asumen tareas complejas como el triaje de pacientes, la síntesis de historiales médicos o la interpretación preliminar de imágenes diagnósticas, se libera tiempo crítico que los profesionales pueden redestinar a la atención directa del paciente.
Sin embargo, este incremento en la eficiencia operativa debe balancearse cuidadosamente con la mitigación de sesgos algorítmicos e imprecisiones contextuales. Un modelo entrenado con datos sesgados puede replicar disparidades en la atención, afectando la equidad del sistema sanitario. Por ello, la implementación de auditorías periódicas, la capacitación técnica del equipo médico en capacidades críticas de evaluación de algoritmos y el establecimiento de protocolos claros de responsabilidad civil garantizan que la automatización funcione verdaderamente como una herramienta de apoyo y no como un sustituto del juicio clínico humano.
