Informes recientes revelan que la excesiva dependencia de sistemas automatizados y chatbots de inteligencia artificial en operaciones militares ha derivado en fallas graves, incluyendo reportes falsos que estuvieron cerca de detonar un conflicto y ataques con consecuencias fatales para civiles.

La carrera por digitalizar y acelerar los procesos de defensa mediante la inteligencia artificial (IA) enfrenta su escrutinio más severo hasta la fecha. Investigaciones internacionales y revisiones internas del Departamento de Defensa de los Estados Unidos han puesto al descubierto una serie de errores críticos, fallas de software y «alucinaciones» tecnológicas que ponen en duda la fiabilidad de los algoritmos en escenarios bélicos de alta tensión.

Puntos clave del informe:

  • Riesgo de escalada internacional: Un reporte de inteligencia falso, redactado con asistencia de IA sobre la carga de un barco, estuvo a punto de provocar un enfrentamiento armado con China.

  • Errores letales en operaciones: Informes internos apuntan a que un desmedido uso de herramientas automatizadas de análisis de blancos contribuyó a errores de cálculo en bombardeos con saldos trágicos para población civil.

  • Falta de verificación: Analistas militares han delegado la revisión de datos complejos en chatbots y sistemas avanzados, asumiendo como verídicos datos erróneos o desactualizados.

  • Vacíos de responsabilidad: Expertos en ética militar advierten sobre la pérdida de control humano efectivo y la dificultad para imputar responsabilidades cuando los fallos provienen de decisiones algorítmicas.

Del error digital al borde de la guerra

Uno de los episodios más alarmantes ocurrió cuando un analista del Comando de Operaciones Especiales de EE. UU. consultó a un chatbot de inteligencia artificial sobre el manifiesto de un buque extranjero. El sistema interpretó erróneamente los datos y combinó información abierta con inteligencia clasificada, concluyendo de manera completamente falsa que la embarcación transportaba componentes para programas de armas nucleares.

El reporte resultante avanzó por los canales oficiales sin la debida verificación humana, activando protocolos de intercepción con aeronaves militares en el aire y personal armado listo para abordar el navío. Solo minutos antes de ejecutar la operación, un análisis más riguroso evitó lo que fuentes internas calificaron como un incidente que«casi desató una guerra».

El costo en el terreno y los límites del software

A este peligroso traspié diplomático se suman cuestionamientos sobre el uso de sistemas de apoyo de decisiones tácticas —como el software Maven de Palantir— en campañas recientes. Investigaciones sobre operativos en Medio Oriente señalaron que la prisa por procesar miles de objetivos en pocas horas redujo drásticamente el margen de revisión humana. La excesiva confianza en que la IA detectaría incongruencias de inteligencia provocó que se pasaran por alto modificaciones físicas en zonas atacadas, derivando en la afectación de infraestructura civil protegida.

Empresas desarrolladoras de software han argumentado que sus plataformas no son responsables de la calidad de los datos de entrada ni de su validación final; sin embargo, el Pentágono enfrenta crecientes presiones por parte de organismos internacionales para rediseñar sus filtros de seguridad.

Desafíos éticos y el factor humano

Especialistas en defensa y ciberseguridad advierten que la automatización excesiva genera un fenómeno de «sesgo de automatización», donde los operadores tienden a ceder su propio criterio crítico ante la rapidez de una respuesta generada por computadora.

Mientras las potencias mundiales continúan integrando la IA para gestionar logística, presupuestos y estrategias de combate, estos incidentes subrayan una lección urgente: la tecnología puede procesar datos a una velocidad sobrehumana, pero la falta de supervisión estricta convierte a la inteligencia artificial en un factor de riesgo impredecible para la seguridad global.