La jaula algorítmica: promesas y riesgos de la inteligencia artificial médica en China by Rafael Julivert Ramírez

El mercado de la inteligencia artificial aplicada a la salud en China, proyectado para expandirse exponencialmente de 900 millones de dólares en 2020 a 18.880 millones en 2030, está redefiniendo la medicina moderna. En un país de 1.400 millones de personas, enfocado en su plan estratégico Healthy China 2030 y enfrentado a una inminente transición demográfica —con una previsión de 400 millones de ancianos para el año 2035—, el modelo hospitalario clásico resulta insostenible. La escasez de médicos y las tasas de error diagnóstico, que oscilan entre el 30 % y el 40 % en atención primaria, han obligado a convertir la tecnología en un pilar esencial de supervivencia sanitaria.

Los logros iniciales demuestran que la automatización puede liberar tiempo administrativo y de documentación para que los médicos vuelvan a centrarse en escuchar y cuidar al paciente. Ejemplos como el hospital virtual Agent Hospital, de la Universidad de Tsinghua, sustentado en el marco MedAgent-Zero, ilustran una capacidad de atención sin precedentes. Allí, 42 médicos de inteligencia artificial lograron un 93,06 % de precisión en el examen de licencia médica y procesaron 10.000 casos en pocos días. Asimismo, en Shanghái, el módulo Xiao Yi redujo las esperas de pacientes ambulatorios de dos horas a menos de cinco minutos, mientras que el grupo médico Dapeng, en Shenzhen, elevó la satisfacción del paciente del 68,75 % al 93,75 % y redujo la duración de las consultas un 34 % mediante un procesamiento de datos más eficiente.

Sin embargo, esta rápida transición hacia la medicina algorítmica despierta profundas inquietudes éticas y clínicas. La más apremiante es la «caja negra algorítmica», donde los procesos de la inteligencia artificial generativa resultan indescifrables, impredecibles e inexplicables. Fenómenos como la «emergencia» —por la cual los modelos desarrollan capacidades autónomas e imprevistas al superar cierta escala de parámetros— introducen incertidumbre en decisiones críticas de salud. Esta opacidad vulnera la autonomía del paciente, incapacitado para auditar su diagnóstico, y también la del médico, que corre el riesgo de depender ciegamente del algoritmo para eludir responsabilidades administrativas y convertirse en un ejecutor sin juicio clínico independiente.

A la pérdida de autonomía se suma la alienación de la relación médico-paciente. Al estandarizarse los flujos de trabajo, la medicina corre el riesgo de transitar hacia un paradigma centrado en herramientas, despojando al acto clínico del consuelo emocional y del trato humano indispensables para el paciente. Como recordaba Hipócrates, la medicina trasciende la técnica y requiere un «rostro humano» capaz de confortar.

Asimismo, la promesa de democratizar la salud se ve empañada por sesgos inherentes a los datos. Los algoritmos perpetúan e incluso amplifican discriminaciones sistemáticas. Un sistema de detección de cáncer de piel entrenado con menos de un 5 % de imágenes de piel oscura resulta ineficaz para esa población. Un sesgo similar de género aparece en estudios clínicos sobre el Parkinson que solo incluyeron un 18,6 % de mujeres. Incluso los ancianos —el grupo de mayor demanda médica— quedan excluidos al estar fuertemente infrarrepresentados en los datos de entrenamiento debido a la brecha digital en salud.

Finalmente, el vacío regulatorio en torno a la asignación de responsabilidades plantea una profunda incertidumbre jurídica. El Código Civil de China no confiere estatus de sujeto de derecho civil a los sistemas de inteligencia artificial. Ante un error de diagnóstico asistido por algoritmo, determinar la responsabilidad de manera justa es complejo, dado que involucra a múltiples actores: desarrolladores de software, recolectores de datos de entrenamiento y médicos supervisores. Aunque las directrices oficiales de la Comisión Nacional de Salud cubren 84 escenarios específicos y subrayan que la inteligencia artificial debe desempeñar un papel estrictamente «asistencial», la línea divisoria de la negligencia legal sigue difuminada en la práctica.

La inteligencia artificial médica no debe interpretarse como un reemplazo del juicio clínico, sino como un potenciador de las capacidades humanas que requiere validación y supervisión continua. Para que esta transformación sea justa, inclusiva y segura, China y la comunidad internacional deben acelerar marcos regulatorios armónicos, estandarizar la gobernanza de datos bajo consentimiento informado y promover un comité global de supervisión ética que preserve siempre la subjetividad humana frente a la jaula algorítmica.