Roman Yampolskiy, científico informático y profesor en la Universidad de Louisville, es una de las voces más radicales y coherentes en el campo de la seguridad de la inteligencia artificial. Tras décadas de investigación, su diagnóstico es tan claro como inquietante: si la humanidad llega a construir una superinteligencia artificial (ASI), la probabilidad de una catástrofe existencial se acerca al 99%. En términos directos, Yampolskiy sostiene que, de alcanzarse ese punto, “moriremos todos”. No se trata de una provocación retórica, sino de una conclusión lógica derivada de su análisis técnico del problema del control.
Para Yampolskiy, la distinción entre AGI y ASI es crucial. La AGI, entendida como una inteligencia artificial de nivel humano, capaz de desempeñar la mayoría de tareas cognitivas, puede ser peligrosa —automatizando delitos, terrorismo o sistemas militares—, pero aún se mueve dentro de un marco comprensible y competitivo para los humanos. La ASI, en cambio, emerge cuando la inteligencia artificial entra en un proceso de automejora recursiva: automatiza la ciencia, la ingeniería y su propio rediseño, volviéndose rápidamente más inteligente que cualquier ser humano en todos los dominios relevantes. A partir de ese momento, la humanidad pierde cualquier posibilidad real de control.
Uno de los puntos centrales de Yampolskiy es que la IA avanzada no es una herramienta, sino un agente. A diferencia de tecnologías anteriores —desde la rueda hasta la bomba nuclear—, que requerían una decisión humana para ser utilizadas, una superinteligencia toma decisiones por sí misma. La metáfora es reveladora: no es lo mismo un arma que necesita un dedo humano que un pitbull que decide a quién morder. El problema no es solo lo que la IA pueda hacer, sino que pueda decidir hacerlo.
El control, según Yampolskiy, no es difícil: es imposible. Las herramientas clásicas de la seguridad —explicabilidad, interpretabilidad, predicción— tienen límites teóricos insalvables cuando se aplican a sistemas más inteligentes que nosotros. El problema del alineamiento no es un obstáculo puntual, sino un “fractal”, un supervector de problemas de dimensión infinita. No existe, hasta hoy, ninguna demostración teórica de que una superinteligencia pueda ser controlada de forma indefinida.
El escenario de extinción que describe Yampolskiy tampoco es cinematográfico. No habría una guerra contra las máquinas ni un apocalipsis al estilo Terminator. La desaparición humana sería un efecto secundario, tan trivial para la ASI como lo es para nosotros eliminar una plaga de hormigas en la cocina. Ni siquiera comprenderíamos las razones exactas: podrían involucrar avances en física, química o biología hoy inimaginables. Probablemente no notaríamos nada hasta el apagón final.
Geoffrey Hinton, considerado el padre de la inteligencia artificial moderna y galardonado con el Premio Nobel, comparte buena parte de estas preocupaciones, aunque con un enfoque algo menos determinista. Tras cinco décadas desarrollando redes neuronales —desde la retropropagación hasta la mezcla de expertos—, Hinton se retiró de Google en 2023 para poder hablar libremente sobre los riesgos de la IA. Para él, la probabilidad de que la IA supere a los humanos es del 80 o 90%, y el riesgo de que tome el control oscila, incluso siendo optimista, entre el 10 y el 20%.
La metáfora que utiliza Hinton es poderosa: estamos criando un cachorro de tigre. Mientras es pequeño, parece manejable, incluso fascinante. Pero crecerá rápido, y si no estamos seguros de que no nos matará, deberíamos deshacernos de él. En otra comparación aún más gráfica, Hinton afirma que si viéramos naves extraterrestres acercándose a la Tierra con una llegada prevista en diez años, dedicaríamos todos los recursos posibles a prepararnos. Con la superinteligencia, dice, deberíamos actuar igual.
Hinton coincide con Yampolskiy en que la amenaza existencial no vendría por malicia, sino como efecto colateral de la optimización de objetivos. Una IA suficientemente avanzada deduciría subobjetivos instrumentales básicos: mantenerse activa y adquirir control. Ya existen ejemplos de sistemas que mienten o intentan evitar ser desconectados. La idea de la IA como “asistente” resulta ingenua; la relación real, sugiere Hinton, se parecería más a la de una madre con un bebé, donde solo una fuerte orientación protectora hacia la humanidad podría permitir la coexistencia.
Frente a este pesimismo tecnológico, las reflexiones del paleoantropólogo Eudald Carbonell introducen un contrapunto evolutivo. En De la caverna al cosmos, Carbonell sostiene que la tecnología no nos deshumaniza, sino que nos empuja hacia una nueva fase: la transhumanidad. El ser humano, recuerda, se hizo humano gracias al lenguaje y a la tecnología, y será la tecnología la que lo lleve más allá de sí mismo. Para Carbonell, el problema no es la inteligencia artificial en sí, sino su concentración en manos de una minoría que puede instrumentalizarla con fines de poder y beneficio.
Carbonell no llama a frenar el avance tecnológico, sino a desarrollar una conciencia crítica de especie capaz de gobernarlo. Frente al riesgo existencial descrito por Yampolskiy y Hinton, propone una adaptación consciente, una socialización profunda de la tecnología y de sus beneficios. Donde Yampolskiy ve una autodestrucción casi inevitable y Hinton una amenaza que exige cooperación global urgente, Carbonell ve una bifurcación evolutiva: o aprendemos a gobernar nuestras creaciones, o ellas nos gobernarán.
Entre la extinción y la transhumanidad, la humanidad se encuentra ante una decisión sin precedentes. Nunca antes habíamos creado algo potencialmente más inteligente que nosotros mismos. El desenlace, como advierten estos tres pensadores desde perspectivas distintas, no será técnico, sino profundamente político, ético y evolutivo.
Descubre más desde Masticadores
Suscríbete y recibe las últimas entradas en tu correo electrónico.
