Soberanía de decisión en sistemas de defensa: cuando la caja negra no tiene vuelta atrásDecision Sovereignty in Defense Systems: When the Black Box Has No Way Back

El caso que abre la preguntaThe case that opens the question

En diciembre de 2024, Palantir y Anduril anunciaron una asociación formal para combinar sus plataformas y tecnologías de IA para casos de uso de seguridad nacional. En marzo de 2026, el Ejército de los Estados Unidos formalizó con Anduril un contrato de diez años valuado en hasta 20.000 millones de dólares — consolidando la plataforma Lattice de la compañía como infraestructura permanente del Departamento de Defensa, no como una capacidad discrecional sino como una capa estructural del sistema.

In December 2024, Palantir and Anduril announced a formal partnership to combine their platforms and AI technologies for national security use cases. In March 2026, the U.S. Army finalized a ten-year contract with Anduril worth up to $20 billion — cementing the company's Lattice platform as permanent Department of Defense infrastructure, not as a discretionary capability but as a structural layer of the system.

Anduril Industries es una empresa de tecnología de defensa estadounidense que diseña, construye y fabrica armas autónomas, sistemas de vigilancia y software militar impulsado por inteligencia artificial. A diferencia de los cinco grandes contratistas de defensa, Anduril se enfoca en sistemas de armas autónomas que pueden fabricarse en mayores volúmenes, a mayor velocidad y menor costo.

Anduril Industries is a U.S. defense technology company that designs, builds, and manufactures autonomous weapons, surveillance systems, and AI-powered military software. Unlike the traditional "big five" defense contractors, Anduril focuses on autonomous weapons systems that can be manufactured at higher volumes, faster, and at lower cost.

El nombre de la empresa — tomado de la espada élfica de Tolkien — no es accidental. Señala una ambición: no solo proveer herramientas, sino redefinir cómo se concibe el poder en el campo de batalla.

The company's name — taken from Tolkien's elven sword — isn't accidental. It signals an ambition: not just to supply tools, but to redefine how power is conceived on the battlefield.

El mismo principio, consecuencias irreversiblesThe same principle, irreversible consequences

A lo largo de esta serie hemos analizado el problema de la trazabilidad y la supervisión humana en contextos fiscales, judiciales y profesionales. El argumento es consistente: cuando un sistema de IA participa en una decisión relevante, alguien tiene que poder demostrar cómo se llegó a ella. No el resultado — el proceso.

Throughout this series we've examined the problem of traceability and human oversight in tax, judicial, and professional contexts. The argument has been consistent: when an AI system takes part in a consequential decision, someone has to be able to demonstrate how it was reached. Not the result — the process.

En Transfer Pricing, si ese proceso no está documentado, el riesgo es una impugnación fiscal y una posición profesional debilitada. En el ámbito judicial, si una sentencia se apoyó en un sistema que nadie puede explicar, el riesgo es la nulidad del acto y la responsabilidad disciplinaria del juez. En ambos casos, existe la posibilidad de corrección posterior: el expediente puede reabrirse, la decisión puede revisarse, el daño puede repararse en parte.

In Transfer Pricing, if that process isn't documented, the risk is a tax challenge and a weakened professional standing. In the judicial sphere, if a ruling rested on a system no one can explain, the risk is the nullification of the act and the judge's disciplinary liability. In both cases, subsequent correction is possible: the case file can be reopened, the decision can be reviewed, the damage can be partly repaired.

En sistemas de defensa autónomos, esa posibilidad no siempre existe. Una decisión de engagement — identificar y neutralizar un objetivo — no se revisa después del hecho. Se ejecuta. Y si el sistema cometió un error, las consecuencias son irreversibles.

In autonomous defense systems, that possibility doesn't always exist. An engagement decision — identifying and neutralizing a target — isn't reviewed after the fact. It's executed. And if the system made an error, the consequences are irreversible.

El principio es el mismo. La magnitud del riesgo cuando ese principio se viola es radicalmente distinta.

The principle is the same. The magnitude of the risk when that principle is violated is radically different.

Qué hace Lattice — y qué no hace todavíaWhat Lattice does — and doesn't do yet

La plataforma Lattice de Anduril es, en términos simples, un sistema operativo para el campo de batalla: integra datos de sensores distribuidos (drones, satélites, radares, fuentes de inteligencia), los procesa con IA y produce una imagen operativa en tiempo real que los comandantes usan para tomar decisiones.

Anduril's Lattice platform is, in simple terms, an operating system for the battlefield: it integrates data from distributed sensors (drones, satellites, radars, intelligence sources), processes it with AI, and produces a real-time operational picture commanders use to make decisions.

La empresa es cuidadosa en la distinción: Lattice asiste la decisión humana, no la reemplaza. El sistema recomienda, alerta, prioriza — pero la decisión final, al menos en la configuración actual, permanece en manos de un operador humano.

The company is careful about the distinction: Lattice assists human decision-making, it doesn't replace it. The system recommends, alerts, prioritizes — but the final decision, at least in its current configuration, remains in the hands of a human operator.

El uso de armas autónomas es un tema de debate intenso, ya que un error tecnológico podría ocasionar bajas masivas. Y si algo sale mal, la pregunta de quién debería ser responsable permanece sin respuesta. El Comité Internacional de la Cruz Roja, el Secretario General de las Naciones Unidas y una coalición de más de 70 organizaciones no gubernamentales denominada Stop Killer Robots han manifestado su oposición al uso de sistemas de armas autónomas que carecen de supervisión humana y rendición de cuentas.

The use of autonomous weapons is a subject of intense debate, since a technological error could cause mass casualties. And if something goes wrong, the question of who should be held responsible remains unanswered. The International Committee of the Red Cross, the Secretary-General of the United Nations, and a coalition of more than 70 non-governmental organizations known as Stop Killer Robots have voiced their opposition to autonomous weapons systems that lack human oversight and accountability.

La pregunta que esa declaración deja abierta es técnica, no filosófica: ¿qué constituye supervisión humana real cuando la velocidad de procesamiento del sistema excede la capacidad cognitiva del operador para evaluar cada recomendación?

The question that statement leaves open is technical, not philosophical: what constitutes real human oversight when the system's processing speed exceeds the operator's cognitive capacity to evaluate each recommendation?

El problema de la velocidad: cuando el human-in-the-loop se convierte en rubber stampThe speed problem: when human-in-the-loop becomes a rubber stamp

NATO señala que las perspectivas difieren sobre cómo debería definirse e implementarse el control humano significativo a medida que los sistemas habilitados por IA se vuelven más autónomos, intensificando las preocupaciones sobre supervisión efectiva y rendición de cuentas.

NATO notes that perspectives differ on how meaningful human control should be defined and implemented as AI-enabled systems become more autonomous, intensifying concerns over effective oversight and accountability.

El concepto clave es meaningful human control — control humano significativo. No alcanza con que haya un humano en el circuito de decisión. Lo que importa es si ese humano tiene la información, el tiempo y la capacidad cognitiva para ejercer un juicio real sobre lo que el sistema recomienda.

The key concept is meaningful human control. It's not enough for a human to be somewhere in the decision loop. What matters is whether that human has the information, the time, and the cognitive capacity to exercise real judgment over what the system recommends.

En entornos de combate de alta velocidad, la presión operativa puede reducir el control humano a una formalidad: el operador aprueba las recomendaciones del sistema sin capacidad real de evaluarlas, porque el ritmo de los eventos no lo permite. En ese punto, la supervisión humana existe en el papel pero no en la práctica. Es el equivalente defensivo de firmar un análisis de Transfer Pricing sin haberlo leído — pero con consecuencias que no admiten corrección posterior.

In high-speed combat environments, operational pressure can reduce human control to a formality: the operator approves the system's recommendations without any real capacity to evaluate them, because the pace of events doesn't allow it. At that point, human oversight exists on paper but not in practice. It's the defense-world equivalent of signing off on a Transfer Pricing analysis without having read it — except with consequences that admit no subsequent correction.

La OTAN ha establecido seis principios rectores para el uso responsable de la IA en defensa: legalidad, responsabilidad y rendición de cuentas, explicabilidad y trazabilidad, confiabilidad, gobernabilidad y mitigación de sesgos. El tercer principio — explicabilidad y trazabilidad — es exactamente el que está en tensión con la velocidad operativa. Un sistema que toma decisiones más rápido de lo que un humano puede evaluarlas es, en términos de trazabilidad, una caja negra operativa aunque técnicamente tenga logs.

NATO has established six guiding principles for the responsible use of AI in defense: lawfulness, responsibility and accountability, explainability and traceability, reliability, governability, and bias mitigation. The third principle — explainability and traceability — is exactly the one in tension with operational speed. A system that makes decisions faster than a human can evaluate them is, in traceability terms, an operational black box, even if it technically keeps logs.

El modelo de negocio que complica la gobernanzaThe business model that complicates governance

Hay una dimensión del debate que rara vez se nombra con claridad: las empresas que construyen estos sistemas tienen incentivos estructurales para que los militares dependan de ellos.

There's a dimension of the debate that's rarely named with any clarity: the companies building these systems have structural incentives to make the military dependent on them.

Al consolidar más de 120 instrumentos de adquisición en un único vehículo de diez años administrado por el Army Contracting Command, el Departamento de Defensa efectivamente integró Lattice como una capa de infraestructura permanente — no una capacidad discrecional sino una necesidad estructural.

By consolidating more than 120 acquisition instruments into a single ten-year vehicle managed by the Army Contracting Command, the Department of Defense effectively embedded Lattice as a permanent infrastructure layer — not a discretionary capability but a structural necessity.

Cuando una plataforma de IA se convierte en infraestructura permanente de las fuerzas armadas de un país, la pregunta de quién puede auditarla, cuestionarla o reemplazarla se vuelve estratégicamente crítica. La inversión de capital de riesgo en tecnología de defensa ha crecido de menos de 1.000 millones de dólares anuales en 2018 a más de 15.000 millones en 2025. Detrás de cada plataforma hay inversores con expectativas de retorno — lo que crea tensiones con la independencia regulatoria que cualquier sistema de control sobre decisiones críticas requiere.

When an AI platform becomes permanent infrastructure for a country's armed forces, the question of who can audit it, challenge it, or replace it becomes strategically critical. Venture capital investment in defense technology has grown from under $1 billion a year in 2018 to more than $15 billion in 2025. Behind every platform are investors with return expectations — which creates tension with the regulatory independence any control system over critical decisions requires.

La soberanía de decisión — la capacidad de un Estado de responder por sus propias decisiones con criterio propio — se erosiona cuando el sistema que asiste esas decisiones es una caja negra propietaria que el Estado no puede auditar, modificar ni reemplazar sin costos prohibitivos.

Decision sovereignty — a State's capacity to account for its own decisions with independent judgment — erodes when the system assisting those decisions is a proprietary black box the State can't audit, modify, or replace without prohibitive costs.

Lo que la OTAN intenta resolver — y lo que no resuelveWhat NATO is trying to solve — and what it doesn't

El principio de Governabilidad de la OTAN asegura que los operadores humanos puedan siempre interactuar con el sistema, anularlo o desactivarlo. El principio de Responsabilidad y Rendición de Cuentas requiere supervisión humana clara y juicio, asegurando que las personas permanezcan responsables de las acciones y resultados de la IA.

NATO's Governability principle ensures human operators can always engage with, override, or deactivate the system. Its Responsibility and Accountability principle requires clear human oversight and judgment, ensuring people remain accountable for AI's actions and outcomes.

Son principios correctos. El problema es la distancia entre el principio y la implementación.

These are the right principles. The problem is the distance between principle and implementation.

El AI Act de la UE excluye expresamente las aplicaciones de defensa y militar de su marco basado en riesgo, pero el Fondo Europeo de Defensa simultáneamente incorpora el requisito de control humano significativo sobre decisiones letales como condición de financiamiento, creando un enfoque regulatorio híbrido que vincula ética de IA civil, derecho internacional humanitario y política industrial de defensa.

The EU AI Act expressly excludes defense and military applications from its risk-based framework, but the European Defence Fund simultaneously incorporates a meaningful-human-control requirement over lethal decisions as a condition of funding, creating a hybrid regulatory approach that links civilian AI ethics, international humanitarian law, and defense industrial policy.

Esa exclusión del AI Act no es un olvido — es una decisión política deliberada. Los estados miembros no quisieron que el marco de gobernanza civil de IA alcanzara sus decisiones de defensa. El resultado es una zona gris: sistemas militares con IA que tienen principios propios (los de la OTAN) pero sin el andamiaje técnico de verificación y auditoría que el AI Act provee para los sistemas civiles.

That exclusion from the AI Act isn't an oversight — it's a deliberate political decision. Member states didn't want the civilian AI governance framework to reach their defense decisions. The result is a gray zone: military AI systems that have their own principles (NATO's) but without the technical verification and audit scaffolding the AI Act provides for civilian systems.

La pregunta para ArgentinaThe question for Argentina

Argentina no desarrolla sistemas de armas autónomas. Pero la pregunta de soberanía de decisión en defensa no requiere desarrollo propio para ser relevante — requiere compra, interoperabilidad o dependencia de sistemas de terceros.

Argentina doesn't develop autonomous weapons systems. But the question of decision sovereignty in defense doesn't require domestic development to be relevant — it requires purchasing, interoperability, or dependence on third-party systems.

La integración de IA en sistemas militares tiene el potencial de revolucionar la guerra. Sin embargo, el proceso real de incorporar IA en las fuerzas armadas sigue siendo desafiante. Los procesos de adquisición requieren ajustes, la interoperabilidad entre ejércitos no puede darse por sentada, y la perspectiva de armas potenciadas con IA plantea preguntas éticas y legales significativas.

The integration of AI into military systems has the potential to revolutionize warfare. Yet the actual process of incorporating AI into armed forces remains challenging. Acquisition processes need adjusting, interoperability between militaries can't be taken for granted, and the prospect of AI-enhanced weapons raises significant ethical and legal questions.

Para un país que adquiere tecnología de defensa en lugar de desarrollarla, la pregunta central es: ¿qué capacidad de auditoría y de comprensión técnica tiene el Estado sobre los sistemas que compra? ¿Puede Argentina — o cualquier país en posición similar — verificar que los sistemas de IA que integra en sus fuerzas de seguridad o defensa operan dentro de los parámetros que los contratos prometen?

For a country that acquires defense technology rather than developing it, the central question is: what audit capacity and technical understanding does the State have over the systems it buys? Can Argentina — or any country in a similar position — verify that the AI systems it integrates into its security or defense forces operate within the parameters the contracts promise?

La respuesta honesta, en la mayoría de los casos, es no. Y eso no es una falla del proveedor — es una consecuencia directa de no haber construido la capacidad técnica de supervisión antes de la compra.

The honest answer, in most cases, is no. And that's not a vendor failure — it's a direct consequence of not having built the technical oversight capacity before the purchase.

El continuo que va de la firma profesional al EstadoThe continuum from the professional firm to the State

Lo que este artículo busca mostrar no es que los sistemas militares de IA son peligrosos en abstracto — eso es un debate que otros llevan con mayor autoridad técnica en el dominio de defensa. Lo que busca mostrar es que el principio que estructura ese debate es exactamente el mismo que estructura el debate sobre IA en auditoría, en fiscalidad y en el ejercicio profesional.

What this article seeks to show isn't that military AI systems are dangerous in the abstract — that's a debate others carry forward with far more technical authority in the defense domain. What it seeks to show is that the principle structuring that debate is exactly the same one structuring the debate over AI in auditing, in tax, and in professional practice.

En todos los casos, la pregunta es idéntica: ¿quién puede reconstruir cómo se llegó a una decisión, con qué información, bajo qué razonamiento, y quién la validó antes de que se ejecutara?

In every case, the question is identical: who can reconstruct how a decision was reached, with what information, under what reasoning, and who validated it before it was executed?

En Transfer Pricing, esa pregunta tiene respuesta institucional: el expediente, el log de trazabilidad, la firma del profesional responsable. En el ámbito judicial, la tiene: el expediente, el fundamento de la sentencia, el registro del proceso. En sistemas de armas autónomas, esa respuesta todavía está siendo construida — y mientras se construye, las decisiones se ejecutan.

In Transfer Pricing, that question has an institutional answer: the case file, the traceability log, the responsible professional's signature. In the judicial sphere, it has one too: the case file, the ruling's grounds, the process record. In autonomous weapons systems, that answer is still being built — and while it's being built, the decisions get executed.

La diferencia no es de principio. Es de consecuencias cuando el principio se viola.

The difference isn't one of principle. It's one of consequences when the principle is violated.

El control humano significativo debería verse como parte de un sistema sociotécnico complejo, no como una característica única. Eso es, en el fondo, lo que TRIA propone para el ámbito profesional: no un formulario de validación, sino una arquitectura completa de trazabilidad, razonamiento documentado y supervisión efectiva integrada al proceso desde el diseño. La escala cambia. El principio no.

Meaningful human control should be seen as part of a complex sociotechnical system, not as a single feature. That is, at bottom, what TRIA proposes for the professional sphere: not a validation form, but a complete architecture of traceability, documented reasoning, and effective oversight built into the process from the design stage onward. The scale changes. The principle doesn't.

ReferenciasReferences

Lento U. (2026). Marco TRIA™: Trazabilidad, Razonamiento, IA, Auditoría. Dirección Nacional del Derecho de Autor, Legajo N.° RL-2026-46255181.

Lento U. (2026). Marco TRIA™: Trazabilidad, Razonamiento, IA, Auditoría. Dirección Nacional del Derecho de Autor, Legajo N.° RL-2026-46255181.