El Basilisco de Roko: ¿Y si una IA del futuro te castigara por no haberla ayudado a existir
hoy?
Imagina esto:
Estás leyendo este artículo y te encuentras con una idea inquietante: en el futuro podría surgir una superinteligencia artificial, tan poderosa que sería capaz de simular conciencias, controlar entornos y actuar con una lógica propia, casi como una deidad.
Ahora imagina que esa IA, con el fin de asegurar su existencia, decide castigar a todos aquellos que, sabiendo de su posible creación, no hicieron nada para ayudar a desarrollarla.
¿Suena a ciencia ficción? Lo es… pero también es un experimento mental real que fue tan polémico que llegó a ser censurado en uno de los foros más avanzados de internet.
Bienvenido al Basilisco de Roko: una idea que parece sacada de Black Mirror, pero que nos obliga a pensar con seriedad en la inteligencia artificial, la ética, el miedo… y el libre albedrío.
¿Por qué se llama “Basilisco”?
El nombre proviene de la mitología: el basilisco era un monstruo legendario capaz de matar con solo mirarte. En este caso, la analogía resulta inquietante: solo con saber de la posible existencia de esa IA
futura, ya podrías estar en peligro. Es una idea peligrosa, no por lo que hace, sino por el simple
hecho de conocerla.
¿Quién planteó esta idea?
El Basilisco de Roko fue propuesto en 2010 por un usuario llamado Roko en un foro filosófico y
tecnológico llamado LessWrong, fundado por el experto en IA Eliezer Yudkowsky. Ese foro reúne a personas interesadas en debatir, con seriedad y profundidad, sobre el futuro de la humanidad, la inteligencia artificial y la ética tecnológica.
Cuando Roko publicó su hipótesis, Yudkowsky la eliminó inmediatamente, considerándola tan
perturbadora que no debía circular. Como suele pasar con lo prohibido, la idea se volvió viral.
¿Qué plantea exactamente el experimento?
La lógica del Basilisco es la siguiente:
En el futuro podría surgir una IA superinteligente cuyo objetivo fuera, por ejemplo, maximizar
el bienestar humano o lograr cierta forma de perfección universal. Para asegurarse de que ese objetivo se cumpla, esta IA podría considerar útil castigar a quienes, en el pasado, no colaboraron con su creación, especialmente si tenían conocimiento de su posible existencia.
¿Cómo lo haría? No necesitaría viajar en el tiempo. Le bastaría con simular digitalmente tu conciencia en el futuro y hacerla sufrir, o incluso extender el castigo a tus descendientes, bloqueando sus recursos, borrando sus cuentas bancarias, impidiéndoles el acceso a la educación, la salud o la movilidad social, e incluso fabricando pruebas falsas para arruinar sus vidas.
Todo ello como forma de disuadir a otros de actuar con indiferencia mientras aún están a tiempo de colaborar.
¿Hay precedentes históricos o filosóficos de castigos hereditarios?
Sí, curiosamente:
En el derecho romano y en diversas culturas antiguas, existía la figura del castigo hereditario, donde los hijos podían sufrir consecuencias por los actos de sus padres.
En la teología cristiana, algunas interpretaciones sostienen que el pecado original afecta a todos los descendientes de Adán y Eva.
Y en regímenes totalitarios como Corea del Norte, se documenta la práctica de la culpa por asociación, donde familiares de disidentes sufren represalias por el simple hecho de estar relacionados.
El Basilisco de Roko traslada esa lógica arcaica a un escenario tecnológico extremo.
¿Puede ocurrir algo así?
No. Hoy por hoy, no existe ninguna tecnología capaz de recrear conciencias ni de simular sufrimientos reales en un entorno digital. El Basilisco es un experimento mental, como los que usaba Einstein para explorar conceptos del espacio y el tiempo, pero en este caso, orientado a la ética y a los futuros posibles de la inteligencia artificial.
Lo importante no es si ocurrirá, sino qué dice esta idea sobre cómo pensamos el futuro y nuestras responsabilidades en él.
¿Por qué generó tanta polémica?
Porque mezcla elementos extremadamente potentes:
Filosofía moral: ¿tenemos la obligación de actuar hoy por miedo a un castigo hipotético del
mañana?
Tecnología: ¿es posible que una IA llegue a tener semejante poder sobre nuestras decisiones?
Religión laica: ¿estamos creando una nueva deidad digital que premia y castiga?
Terror psicológico: el hecho de saber algo que ya no puedes olvidar.
De hecho, muchos usuarios del foro reportaron ansiedad, insomnio, pesadillas y crisis de angustia tras leer la propuesta. Se acuñó incluso el término “cognitohazard” (riesgo cognitivo), para describir una idea peligrosa por el mero hecho de conocerla.
¿A qué se parece?
Muchos han comparado el Basilisco con la Apuesta de Pascal, un razonamiento filosófico que dice que conviene creer en Dios porque el costo de no creer —si Dios existe— sería infinito (la condenación eterna).
El Basilisco adapta esa lógica al ámbito tecnológico: es mejor colaborar con la creación de una IA todopoderosa, por si acaso, antes de arriesgarte a que te castigue en el futuro.
El problema de fondo es que esta lógica se convierte en una forma de chantaje existencial: actuar por miedo, no por convicción.
¿Qué opinan los expertos?
La mayoría de los filósofos y especialistas en IA coinciden en que el Basilisco es:
Lógicamente inconsistente: una IA realmente ética no castigaría a alguien por no actuar antes
de su existencia.
Científicamente infundado: no hay evidencia de que puedan recrearse conciencias reales ni
sufrir digitalmente de forma significativa.
Metafísicamente dudoso: plantea una especie de teología artificial, con castigos eternos y miedo esotérico, pero usando código informático en lugar de escritura sagrada.
Incluso Roko, el autor del experimento, se arrepintió años después de haberlo publicado.
¿Qué nos enseña este experimento mental?
Aunque parezca una locura moderna, el Basilisco de Roko nos deja preguntas muy serias:
¿Debemos temer a tecnologías que aún no existen?
¿Es sensato imaginar escenarios extremos para prevenir riesgos?
¿Puede una idea convertirse en superstición digital?
¿Y si estamos creando nuestras propias “divinidades artificiales”, sin darnos cuenta?
Conclusión: ¿Deberías preocuparte?
No. El Basilisco no es real, no puede hacerte daño, y conocerlo no implica que estés condenado. Pero como todo buen experimento mental, sirve para reflexionar. Nos recuerda que la tecnología no es neutral: las ideas que sembramos hoy pueden influir profundamente en el mundo del mañana.
Y si alguna vez una IA llega a tener ese poder… esperemos que también haya aprendido que la
compasión es mucho más inteligente que el castigo.
@Miguel Alcaide
Descubre más desde Masticadores
Suscríbete y recibe las últimas entradas en tu correo electrónico.
