La narrativa triunfalista sobre la inteligencia artificial (IA) en la medicina promete un futuro idílico: diagnósticos instantáneos y médicos liberados de cargas. Sin embargo, cuando los algoritmos salen del laboratorio y entran en la caótica realidad hospitalaria, se topan con la psicología humana. La realidad clínica revela que el verdadero desafío de la IA no es la precisión de su código, sino su convivencia con la mente del médico.
El misterio de la herramienta perfecta pero abandonada
Imagine un asistente digital desplegado en urgencias que analiza los datos del paciente y ofrece recomendaciones clínicas. Imagine que un grupo de expertos evalúa su desempeño y concluye que el 99 % de sus decisiones son clínicamente adecuadas. Cualquiera pensaría que los médicos lo adoptarían de inmediato y con entusiasmo.
Ocurrió lo contrario. Un estudio prospectivo del sistema SHAKED, implementado en el Rambam Health Care Campus de Israel y publicado en Nature Medicine, reveló una desconcertante dinámica: en solo cuatro semanas de prueba real con 1.138 pacientes, la tasa de uso por parte de los médicos se desplomó del 68 % al 30 %.
¿Por qué dar la espalda a un sistema casi perfecto? El abandono se concentró drásticamente durante los turnos con mayor sobrecarga laboral. En momentos de máxima presión, los médicos lo encontraban lento o molesto dentro de su flujo de trabajo. El cuello de botella no es la precisión algorítmica, sino la fricción humana derivada de su uso diario.
La paradoja del radiólogo: a más IA, más agotamiento
El cansancio no es exclusivo de los servicios de urgencias. Promovida en radiología como una solución a la escasez de profesionales, la IA se enfrenta a resultados mucho menos alentadores en la práctica. Un estudio nacional realizado en China con 6.726 radiólogos cuestionó esta hipótesis al encontrar una relación dosis-respuesta preocupante: cuanto más frecuentemente utilizaban la IA, mayor era su riesgo de agotamiento profesional (burnout).
El índice ponderado de burnout fue superior en el grupo expuesto a la IA (40,9 % frente a 38,6 %), asociado principalmente con una mayor fatiga emocional. Lejos de agilizar siempre el trabajo, la IA puede exigir más tiempo al radiólogo para realizar diagnósticos diferenciales y procesar la información cuando se detectan anomalías. Además, puede reducir la colaboración entre colegas y aumentar el estrés asociado al aprendizaje y la adaptación tecnológica.
El peligro de «apagar el cerebro»: la algovigilancia cognitiva
El riesgo más sutil de la IA clínica no es únicamente que falle, sino que resulte tan elocuente y convincente que el médico deje de dudar. Expertos en seguridad del paciente han advertido sobre la necesidad de implementar una «algovigilancia cognitiva»: no basta con vigilar el funcionamiento técnico de los algoritmos, sino que también es necesario estudiar cómo estos modifican el razonamiento del médico.
Aquí surge el peligro del «estrechamiento diagnóstico inducido por IA». Cuando un modelo genera un diagnóstico con gran elocuencia y coherencia superficial, el médico puede sufrir un sesgo de anclaje. La atención se estrecha, el umbral de verificación disminuye y se descartan de forma pasiva hipótesis secundarias.
Esto puede provocar la pérdida de la denominada «cola diagnóstica»: aquellos casos raros pero graves que un médico experimentado podría detectar mediante la sospecha clínica, pero que la IA puede omitir y que el profesional, condicionado por la fluidez y aparente seguridad de la máquina, podría dejar pasar.
Incluso en el ámbito administrativo, los modelos de lenguaje muestran limitaciones importantes. Un estudio publicado en PLOS Digital Health demostró que pedir a modelos de lenguaje de gran tamaño (LLM), como GPT-4o, que analicen registros hospitalarios mediante preguntas directas en lenguaje natural puede producir errores significativos. La precisión puede caer del 95 % a menos del 60 % a medida que aumenta el volumen de los datos cuando estos sistemas no se integran con herramientas de ejecución de código.
La lección que ofrece la práctica clínica real es clara: la seguridad de la IA médica no puede medirse únicamente por la exactitud del algoritmo en un laboratorio, sino también por la capacidad del sistema sanitario para preservar, proteger y supervisar el juicio crítico del médico que trabaja junto a ella.
Descubre más desde Masticadores
Suscríbete y recibe las últimas entradas en tu correo electrónico.
