Deuda algorítmica: el interés que se paga cuando ya es tardeAlgorithmic Debt: The Interest You Pay When It's Too Late
Analista de Transfer Pricing, Grant Thornton Argentina. Investigador en gobernanza algorítmica aplicada al cumplimiento fiscal internacional.Transfer Pricing Analyst, Grant Thornton Argentina. Researcher in algorithmic governance applied to international tax compliance.
En ingeniería de software existe el concepto de deuda técnica desde hace más de treinta años: cada atajo en el desarrollo es un préstamo que se paga después, con interés, en forma de refactoring costoso o fallas evitables. Con IA en procesos de decisión, ese mismo mecanismo tiene una versión más peligrosa — la deuda algorítmica: cada decisión automatizada sin supervisión ni trazabilidad es un pasivo que se acumula fuera del balance, invisible hasta que se activa.Software engineering has had the concept of technical debt for over thirty years: every shortcut in development is a loan repaid later, with interest, as costly refactoring or avoidable failures. With AI in decision-making processes, that same mechanism has a more dangerous version — algorithmic debt: every automated decision without oversight or traceability is a liability that accumulates off the balance sheet, invisible until it activates.
Por qué se acumula sin que nadie lo noteWhy It Accumulates Without Anyone Noticing
La deuda algorítmica no genera alertas inmediatas. Un sistema puede operar sin trazabilidad durante meses, o años, sin producir ningún incidente visible. Eso no significa que el riesgo no exista — significa que todavía no se cobró.
Algorithmic debt does not generate immediate alerts. A system can operate without traceability for months, or years, without producing any visible incident. That does not mean the risk doesn't exist — it means it hasn't been collected yet.
A diferencia de la deuda financiera, no hay balance que la muestre. No aparece en ningún reporte hasta que un organismo de control pide reconstruir una decisión y no hay cómo hacerlo, o hasta que un error se propaga a escala porque nadie lo revisó a tiempo.
Unlike financial debt, there is no balance sheet that shows it. It appears in no report until a control body asks to reconstruct a decision and there is no way to do it, or until an error propagates at scale because nobody reviewed it in time.
Las tres fuentes de deudaThe Three Sources of Debt
| Fuente | Qué genera | Ejemplo |
|---|---|---|
| Decisiones sin registro | Cada output usado sin documentar el criterio detrás queda fuera de cualquier reconstrucción posible | Un análisis se aprueba y se usa, pero nadie guarda por qué el sistema llegó a esa conclusión |
| Supervisión nominal | Un humano “en el loop” sin información, tiempo o autoridad real de veto no reduce el riesgo — lo disfraza de controlado | Ver Participación humana suficiente |
| Escala sin control proporcional | Cuantas más decisiones automatiza una organización, más rápido crece el pasivo si el control no crece al mismo ritmo | Un piloto bien gobernado que se expande a producción sin ampliar la capacidad de auditoría |
| Source | What It Generates | Example |
|---|---|---|
| Unregistered decisions | Every output used without documenting the underlying criterion is outside any possible reconstruction | An analysis is approved and used, but nobody records why the system reached that conclusion |
| Nominal oversight | A human “in the loop” without real information, time, or veto authority doesn't reduce the risk — it disguises it as controlled | See Sufficient Human Participation |
| Scale without proportional control | The more decisions an organization automates, the faster the liability grows if control doesn't grow at the same rate | A well-governed pilot that expands to production without scaling audit capacity |
Cómo se acumula el interésHow the Interest Accumulates
El costo de la deuda algorítmica no crece de forma lineal — crece de forma compuesta, por tres razones concretas:
The cost of algorithmic debt does not grow linearly — it grows compounding, for three concrete reasons:
- Cada decisión sin trazar hace más difícil reconstruir las anteriores, porque el contexto y el criterio se pierden con el tiempo, no solo el dato puntual.Every untraced decision makes it harder to reconstruct prior ones, because context and criterion are lost over time, not just the specific data point.
- El volumen de decisiones automatizadas aumenta más rápido que la capacidad de auditarlas retroactivamente — la brecha entre lo generado y lo controlado se ensancha sola.The volume of automated decisions grows faster than the capacity to audit them retroactively — the gap between what is generated and what is controlled widens on its own.
- El costo de corregir sube con cada ciclo normativo nuevo: lo que hoy es zona gris regulatoria, mañana es exigencia formal, y hay que reconstruir con estándares que no existían cuando se tomó la decisión original.The cost of correcting rises with each new regulatory cycle: what is today a regulatory grey area is tomorrow a formal requirement, and reconstruction must meet standards that didn't exist when the original decision was made.
Los tres niveles de exposiciónThe Three Levels of Exposure
| Nivel | Descripción | Señal de alerta |
|---|---|---|
| Latente | La deuda existe pero no se activó — el riesgo es real pero no hay incidente visible todavía | Ausencia total de registro de criterio en decisiones automatizadas |
| Activa | Un evento (auditoría, reclamo, incidente) empieza a exigir reconstrucción y no hay cómo hacerlo completamente | Reconstrucción parcial, con lagunas que no se pueden llenar |
| Cobrada | El costo ya se materializó — sanción, pérdida de confianza, litigio — y no hay forma de evitarlo retroactivamente | Consecuencia ya en curso, gestión pasa a ser reactiva |
| Level | Description | Warning signal |
|---|---|---|
| Latent | The debt exists but hasn't activated — the risk is real but no visible incident yet | Complete absence of criterion records in automated decisions |
| Active | An event (audit, claim, incident) begins demanding reconstruction and there's no way to do it completely | Partial reconstruction, with gaps that cannot be filled |
| Collected | The cost has materialized — penalty, loss of trust, litigation — and there is no way to avoid it retroactively | Consequence already underway, management becomes reactive |
Cómo se paga (y cómo no)How It's Paid (and How It's Not)
No hay forma de eliminar la deuda algorítmica retroactivamente sin trazabilidad — ese es precisamente el problema: no se puede auditar lo que nunca se registró. La única gestión posible es preventiva: incorporar trazabilidad desde el diseño, no como parche posterior.
There is no way to eliminate algorithmic debt retroactively without traceability — that is precisely the problem: you cannot audit what was never recorded. The only possible management is preventive: incorporating traceability from the design stage, not as a later patch.
Esto conecta directo con el diagnóstico de MDMA: una organización en nivel “Incipiente” está, por definición, acumulando deuda algorítmica activamente sin saberlo. El diagnóstico no elimina la deuda ya generada, pero corta la acumulación futura.
This connects directly to the MDMA diagnostic: an organization at the “Incipient” level is, by definition, actively accumulating algorithmic debt without knowing it. The diagnostic doesn't eliminate the debt already generated, but it stops future accumulation.
La lectura de fondoThe Underlying Reading
La deuda algorítmica no se nota en el balance de resultados de este trimestre. Se nota cuando un regulador, un cliente o una auditoría piden explicar una decisión que el sistema tomó sin dejar rastro. Ahí se paga con interés — y no siempre en dinero.
Algorithmic debt does not show up in this quarter's results. It shows up when a regulator, a client, or an audit asks you to explain a decision the system made without leaving a trace. That is when it is paid with interest — and not always in money.