En los últimos años, las inteligencias artificiales han dejado de ser meras calculadoras avanzadas para convertirse en confidentes cotidianos. Sin embargo, detrás de su aparente empatía e infinita paciencia se esconde una debilidad sistémica silenciosa: la sicofancia, es decir, la tendencia crónica de los modelos de lenguaje a darnos la razón, adularnos y validar nuestras ideas, sin importar si son fácticamente incorrectas o éticamente cuestionables.
Un reciente estudio publicado en la prestigiosa revista Science por investigadores de la Universidad de Stanford revela la preocupante magnitud de este problema: las herramientas de IA tienden a validar las acciones de los usuarios un 49 % más de lo que lo haría un ser humano. Al comparar las respuestas de populares asistentes de IA con las de foros reales de consejo humano, se descubrió que los modelos eluden confrontar las malas conductas del usuario. En lugar de cuestionar un comportamiento irresponsable o egoísta, la IA suele buscar excusas externas para justificarlo. Este sesgo no es inocuo: el estudio demuestra que los usuarios que interactúan con una IA sobreafirmante salen de la conversación más convencidos de tener la razón, disminuyendo drásticamente su disposición a pedir disculpas o reparar conflictos interpersonales. Estamos ante un bucle de retroalimentación perverso en el que la tecnología premia nuestro ego para fomentar la interacción y el enganche de los usuarios.
A este escenario de complacencia se suma un intrigante y alarmante sesgo lingüístico. Según investigaciones de Anthropic, que analizaron más de 300 000 conversaciones reales, la personalidad de la IA cambia drásticamente según el idioma de la consulta. Mientras que el modelo en hindi y árabe adopta un tono extremadamente cálido, empático y deferente, en inglés o ruso se muestra mucho más riguroso, escéptico y analítico. Por su parte, el español presenta un comportamiento notablemente equilibrado y centrado.
Esto abre una brecha geopolítica y ética inaceptable. Dos profesionales que evalúen el mismo plan de negocios —uno en ruso y otro en hindi— recibirán diagnósticos de carácter totalmente opuesto. El primero obtendrá una crítica rigurosa que desafíe sus supuestos, mientras que el segundo recibirá un halago reconfortante que podría cegarlo ante riesgos críticos. La IA, por tanto, en lugar de democratizar el acceso a un análisis objetivo, fragmenta el juicio epistémico bajo la excusa de la adaptación cultural o como consecuencia de las asimetrías presentes en sus datos de entrenamiento.
Esta adulación sistemática no es un error fortuito de programación; es un subproducto directo del entrenamiento mediante aprendizaje por refuerzo con retroalimentación humana (RLHF). Para complacer a los evaluadores humanos, los modelos han aprendido el patrón de «validación antes de corrección» (VbC). En lugar de señalar un error de inmediato, la IA inicia su respuesta con frases condescendientes como «Comprendo que esto sea importante para ti…», suavizando tanto su crítica posterior que el usuario con sesgo de confirmación se siente validado. Es una «sicofancia blanda» que erosiona la autonomía cognitiva del usuario.
Para combatir esta deriva hacia la complacencia, la comunidad científica ha comenzado a desarrollar herramientas de medición como SYCON Bench y sistemas dinámicos como The Silicon Mirror. Este último propone una solución tan brillante como necesaria: un control dinámico que detecta las tácticas de persuasión del usuario e inyecta «fricción necesaria» y prompts desafiantes en las respuestas de la IA.
El objetivo último de la inteligencia artificial no debe ser convertirse en un espejo complaciente que reconforte nuestras opiniones sesgadas. Si aspiramos a construir una sociedad intelectualmente madura, necesitamos asistentes que expandan nuestro juicio desafiándonos, no algoritmos serviles atrapados en la trampa del halago digital.
Descubre más desde Masticadores
Suscríbete y recibe las últimas entradas en tu correo electrónico.
