El dilema ético y operativo de la inteligencia artificial militar by Rafael Julivert Ramírez

La rápida integración de la inteligencia artificial en el ámbito bélico marca un punto de inflexión en las operaciones militares modernas. Frente a la dependencia europea de proveedores estadounidenses, la empresa alemana Helsing presentó recientemente su plataforma Clarity. Esta arquitectura, construida sobre cientos de agentes especializados, busca procesar en segundos información procedente de sensores, satélites y radares para identificar posiciones enemigas y sugerir armamento óptimo. Fundada en 2021 con el propósito de fortalecer la defensa de los gobiernos democráticos, Helsing compite con sistemas como Maven, de Palantir, defendiendo la soberanía tecnológica al garantizar que los modelos y datos operen bajo control estricto de las infraestructuras nacionales.

A pesar de los avances técnicos, la automatización plantea severos desafíos éticos y legales. Aunque los desarrolladores afirman que cada ataque requiere autorización humana explícita y documenta el nombre del operador responsable, la evidencia operativa alerta sobre la degradación de esta supervisión. En combates de alta intensidad, el volumen de datos propicia un marcado sesgo de automatización, reduciendo la intervención humana a una validación apresurada. Informes sobre herramientas como Lavender en Gaza revelaron revisiones de apenas 20 segundos por objetivo, transformando el control en un acto meramente performativo o en un «lavado de responsabilidad».

Esta dinámica colisiona con principios fundamentales del derecho internacional humanitario (DIH), tales como la distinción, la proporcionalidad, la necesidad militar y la humanidad. Los modelos de aprendizaje profundo sufren de opacidad intrínseca («caja negra») y fragilidad ante escenarios imprevistos. A diferencia del discernimiento de un mando humano, un algoritmo no puede sopesar juicios cualitativos sobre el estatus de un combatiente rendido ni ponderar si las bajas civiles previsibles exceden la ventaja militar esperada. Esto genera una profunda brecha de responsabilidad (accountability gap), dificultando la atribución de culpa jurídica o penal cuando se producen fallos o alucinaciones tácticas.

Por consiguiente, los análisis concluyen que el control humano significativo no puede reducirse a colocar a un soldado a presionar un botón de confirmación en la etapa final de disparo. Para mitigar riesgos como la fragilidad y la opacidad, la supervisión debe distribuirse en todo el ciclo de vida del sistema. Esto demanda roles definidos de autoría y gobernanza, auditorías adversariales con pruebas negativas rigurosas, interfaces que hagan evidente la incertidumbre algorítmica y límites técnicos inalterables que impidan vulnerar las normas del conflicto armado.

Fuentes consultadas

–https://inteligencia-artificial.cat/article.php?slug=helsing-clarity-plataforma-militar-ia-objectius
– https://the-decoder.com/helsing-built-an-ai-system-that-prepares-targets-for-weapons-systems-and-says-every-decision-will-carry-a-human-name/
– https://defence-industry.eu/helsing-introduces-clarity-ai-platform-to-identify-potential-military-targets-for-operator-review/
– https://mlq.ai/news/helsing-to-unveil-ai-targeting-software-in-berlin-as-a-european-alternative-to-palantir/
– https://es.wikipedia.org/wiki/Helsing_(empresa)
– https://doi.org/10.51584/IJRIAS.2026.11060266
– https://arxiv.org/abs/2502.14143