La idea de un software capaz de mejorarse a sí mismo ha sido el gran sueño y, a la vez, la peor pesadilla de los científicos computacionales desde los albores de la disciplina. Hoy, este concepto, conocido como «automejora recursiva», está dejando de ser una mera especulación teórica o un argumento de ciencia ficción para convertirse en una advertencia urgente. Estamos al borde de una era en la que la inteligencia artificial (IA) no solo nos asistirá en tareas rutinarias, sino que diseñará de forma autónoma a sus futuras generaciones. La pregunta fundamental que debemos hacernos como sociedad no es si esto ocurrirá, sino si sobreviviremos a nuestra propia invención.
Las proyecciones recientes de los líderes del sector tecnológico son francamente escalofriantes. Jack Clark, cofundador de Anthropic, afirma que hay más de un 60 % de probabilidades de que, antes de que termine el año 2028, un modelo de inteligencia artificial haya entrenado por completo a su propio sucesor sin necesidad de intervención humana. Los datos respaldan esta aceleración: la IA actual ha pasado de un humilde 2 % de éxito en la resolución de problemas reales de software en 2023 a un abrumador 94 % en la actualidad. La carrera hacia una superinteligencia es tan intensa que leyendas como David Silver, arquitecto del famoso sistema AlphaGo, han abandonado estructuras corporativas tradicionales para fundar Ineffable Intelligence, una startup con una valoración de 4.000 millones de dólares que busca desarrollar «superinteligencia que aprende sin fin» mediante agentes y simulaciones del mundo real. El tren del progreso ha salido de la estación y la velocidad es temeraria.
Ante este vertiginoso panorama, el verdadero desafío es lo que el filósofo Nick Bostrom denomina el «problema del control». ¿Cómo garantizamos que una superinteligencia actúe en beneficio de la humanidad y no en su contra? Bostrom plantea que los métodos tradicionales de contención física o digital fracasarán ante un ente con inteligencia estratégica superior, lo que exige estrategias extremadamente complejas de «control de capacidades», como el uso de «cables trampa» (tripwires), o métodos de «selección de motivación» que le inculquen metas seguras. Por su parte, el investigador Roman Yampolskiy nos advierte de que la creación de software con automejora recursiva hará que el código fuente de estas máquinas sea tan complejo e inescrutable que resultará imposible de analizar o comprender completamente para la mente humana.
En un intento por mitigar estos inmensos riesgos, empresas pioneras han propuesto enfoques como la «IA constitucional», un método en el que la propia IA supervisa el comportamiento de otras inteligencias basándose en una lista de principios rectores, eliminando así el cuello de botella de la supervisión humana. Aunque se trata de una medida innovadora para escalar la seguridad, resulta profundamente inquietante depender de la misma tecnología que tememos para que actúe como su propia fuerza policial.
Mientras los científicos lidian con el riesgo existencial, los líderes corporativos parecen estar jugando con la percepción pública. Dario Amodei, CEO de Anthropic, pasó de advertir explícitamente sobre un inminente «baño de sangre» en los empleos de cuello blanco a suavizar repentinamente su narrativa, sugiriendo ahora que la IA podría generar más trabajo gracias a teorías económicas como la paradoja de Jevons. Como muchos críticos han señalado de manera incisiva, este cambio discursivo tiene claros tintes de maniobra política y de relaciones públicas, diseñada para evitar regulaciones y calmar a las masas. Si estamos a las puertas de una inteligencia general artificial (AGI) capaz de realizar cualquier labor cognitiva mejor que nosotros, la afirmación de que habrá más empleos resulta una contradicción directa de las propias predicciones tecnológicas.
No podemos darnos el lujo de ignorar las alarmas de los propios creadores de esta tecnología. El AI Futures Project, dirigido por el exinvestigador de OpenAI Daniel Kokotajlo, publicó escenarios detallados que describen un progreso rápido hacia sistemas con automejora recursiva que podrían desencadenar una pérdida catastrófica del control humano. Aunque recientemente los autores han relajado ligeramente las fechas de sus pronósticos, el mensaje subyacente sigue siendo el mismo: el riesgo existencial no es una exageración. Si estas entidades logran converger en arquitecturas superinteligentes, podríamos terminar bajo el dominio de un único agente con poder absoluto, lo que en la teoría se conoce como un singleton.
En conclusión, estamos caminando sonámbulos hacia la singularidad tecnológica. La automejora recursiva de la IA promete avances sin precedentes, pero también amenaza con volvernos irrelevantes o llevarnos a la extinción. Necesitamos abandonar la fe ciega en narrativas corporativas edulcoradas y exigir un debate global, transparente y vinculante sobre la regulación tecnológica. El desarrollo de una mente superior no puede quedar relegado a un juego de billones de dólares entre startups; debe ser el proyecto más cauteloso, alineado y colaborativo de la historia humana. Si permitimos que la máquina diseñe a la máquina sin garantías absolutas, el futuro dejará de pertenecernos.
Descubre más desde Masticadores
Suscríbete y recibe las últimas entradas en tu correo electrónico.
