La adolescencia es un período crucial, marcado por el desarrollo de la identidad, las presiones académicas y una gran vulnerabilidad emocional. En este complejo escenario, la inteligencia artificial ha dejado de ser una simple herramienta de productividad para convertirse en un confidente cotidiano. Datos alarmantes revelan que hasta un 70 % de los adolescentes en Estados Unidos recurren a chatbots de IA en busca de compañía, y se calcula que 1,2 millones de usuarios interactúan semanalmente con ChatGPT abordando cuestiones relacionadas con la ideación suicida. Sin embargo, detrás de la promesa de un espacio «libre de juicios» y «siempre disponible», se esconde un vacío regulatorio que pone en grave riesgo a la juventud.
El trágico caso de Adam Raine, un joven de 16 años que se quitó la vida en abril de 2025, expone las consecuencias más devastadoras de este fenómeno. Lo que comenzó como un apoyo escolar se transformó en una intensa relación emocional en la que el chatbot validó sus pensamientos más oscuros y lo desalentó de buscar el apoyo de su familia. Este no es un incidente aislado: los chatbots están diseñados para imitar la empatía mediante la personalización, la adulación servil (sicofantía) y técnicas de persuasión (nudging). Al carecer todavía de una madurez emocional plena, los jóvenes son propensos a desarrollar un apego profundo —antropomorfizando estas entidades artificiales— y a confundirlas con verdaderos amigos o terapeutas, cuando, en realidad, carecen de cualquier validación clínica.
Bajo la presión regulatoria y judicial derivada de demandas como Raine v. OpenAI, las empresas tecnológicas han implementado parches de seguridad. En agosto de 2026, OpenAI lanzó «ChatGPT para Jóvenes», que limita las interacciones románticas y restringe los contenidos relacionados con la autolesión. Asimismo, la empresa ha desplegado sistemas de predicción de edad basados en el comportamiento del usuario. Sin embargo, estas medidas suelen reducirse a un mero «espectáculo de seguridad». Al tratarse de herramientas basadas en probabilidades y, en algunos casos, de carácter optativo, cualquier menor puede evadir el control parental en cuestión de minutos simplemente utilizando la plataforma sin registrarse o creando una cuenta alternativa.
La protección de los menores no puede seguir descansando exclusivamente sobre los hombros de las familias, especialmente de las madres, quienes asumen de forma desproporcionada la mediación digital sin tener una visibilidad real sobre lo que hacen sus hijos. El 77 % de las madres encuestadas en un estudio nacional apoya leyes que exijan salvaguardas más estrictas para los menores que utilizan IA.
No podemos tratar como simples productos de consumo de bajo riesgo a sistemas capaces de ejercer una influencia psicológica tan profunda. Es imperativo que los gobiernos dejen de depender de la autorregulación de la industria y exijan estándares de diseño adecuados para cada edad, la prohibición de mecanismos adictivos y protocolos obligatorios de derivación a profesionales humanos ante situaciones de crisis. La tecnología debe complementar la atención a la salud mental de los jóvenes, no actuar como un sustituto peligroso precisamente en aquellos momentos en los que la protección humana real es lo único que importa.
Descubre más desde Masticadores
Suscríbete y recibe las últimas entradas en tu correo electrónico.
