La inteligencia artificial está entrando con fuerza en el terreno de la salud digital. Relojes inteligentes, pulseras de actividad y otros dispositivos wearables registran de forma constante datos sobre nuestro sueño, movimiento, frecuencia cardíaca y otros indicadores fisiológicos. A partir de esta enorme cantidad de información, se ha extendido la promesa de que los nuevos agentes de IA podrán interpretar nuestro estado emocional y actuar como asistentes capaces de comprender cómo nos sentimos.
El problema es que existe una diferencia fundamental entre parecer comprensivo y comprender realmente. Los grandes modelos de lenguaje pueden conversar con una fluidez extraordinaria, responder con aparente empatía y construir explicaciones convincentes. Sin embargo, esa capacidad lingüística no garantiza que sepan interpretar correctamente meses de datos biométricos ni que puedan extraer de ellos conclusiones fiables sobre la salud mental.
El benchmark BALMS, desarrollado para evaluar este tipo de sistemas, ha puesto de manifiesto algunas de estas limitaciones. Una de las conclusiones más llamativas es que modelos aparentemente sofisticados pueden no superar de forma consistente una referencia estadística muy sencilla: asumir que el estado de una persona se mantiene cerca de su promedio habitual. Es decir, en determinados contextos, una predicción elemental puede competir con sistemas mucho más complejos que supuestamente analizan grandes cantidades de datos procedentes de sensores.
También se han observado dificultades para detectar patrones significativos dentro de largas series temporales. Un agente puede tener acceso a semanas o meses de registros y, aun así, no aprovechar adecuadamente esa información. El volumen de datos no equivale automáticamente a comprensión.
Uno de los riesgos más preocupantes es lo que podríamos llamar «elocuencia infundada». Algunos agentes pueden producir explicaciones muy seguras incluso cuando el análisis técnico subyacente ha fallado. Si el sistema intenta ejecutar código para interpretar los registros y encuentra un error, puede continuar generando una respuesta que mencione tendencias o variaciones que en realidad nunca llegó a calcular. Para el usuario, el resultado puede parecer perfectamente razonado, cuando en realidad está construido sobre una base inexistente.
Esta situación plantea un problema especialmente serio en salud mental. Una respuesta persuasiva puede generar una confianza injustificada en un sistema que no dispone de evidencias suficientes para sostener sus conclusiones. Por ello, la capacidad de reconocer la incertidumbre debería considerarse una característica esencial de cualquier IA aplicada a la medicina.
El futuro pasa por desarrollar sistemas capaces de integrar de forma más rigurosa señales biológicas, contexto personal e historial clínico. También será necesario validar estas herramientas en poblaciones concretas y someterlas a auditorías independientes antes de introducirlas en entornos asistenciales.
La IA puede llegar a ser un excelente apoyo para profesionales y pacientes: puede organizar grandes cantidades de información, detectar cambios y ayudar a identificar señales relevantes. Pero debería actuar como un copiloto, no como un sustituto autónomo del juicio clínico.
La lección es sencilla: no debemos confundir la fluidez del lenguaje con la comprensión. Una inteligencia artificial puede hablar de emociones con enorme naturalidad, pero eso no significa que comprenda el sufrimiento humano ni que pueda interpretarlo con la precisión que exige la medicina.
Descubre más desde Masticadores
Suscríbete y recibe las últimas entradas en tu correo electrónico.
