Quién Firma Cuando Decide la MáquinaWho Signs When the Machine Decides

Estas no son empresas improvisando con una herramienta nueva. Son las firmas que asesoran a sus clientes sobre cómo gobernar la inteligencia artificial. Y son las primeras en demostrar, con su propio nombre, qué pasa cuando nadie audita antes de firmar.

These are not companies improvising with a new tool. They are the firms that advise their clients on how to govern artificial intelligence. And they are the first to demonstrate, under their own name, what happens when nobody audits before signing.

El problema no es la herramientaThe Problem Is Not the Tool

Cuando se mide en serio, el patrón se repite con una consistencia incómoda. Estudios recientes —con matices metodológicos que conviene señalar antes de citarlos— estiman que la gran mayoría de los proyectos corporativos de IA generativa no logra un impacto medible en el negocio, y una proporción significativa de empresas termina abandonando sus iniciativas en el primer año y medio. El propio sector público no es la excepción: la adopción avanza en trámites internos, pero rara vez llega a mejorar el diseño real de políticas o procesos críticos.

When measured seriously, the pattern repeats with uncomfortable consistency. Recent studies — with methodological caveats worth flagging before citing them — estimate that the large majority of corporate generative-AI projects fail to deliver a measurable business impact, and a significant share of companies end up abandoning their initiatives within the first year and a half. The public sector is no exception: adoption advances in internal paperwork but rarely reaches the actual design of critical policies or processes.

La conclusión que se repite en cada uno de estos análisis no apunta a la tecnología. Apunta a cómo se implementa. Los fracasos tienen menos que ver con la calidad de los modelos y más con la ausencia de un criterio profesional que defina qué se le pide a la herramienta, y quién revisa lo que devuelve.

The conclusion repeated across every one of these analyses does not point to the technology. It points to how it is implemented. The failures have less to do with model quality and more to do with the absence of professional judgment defining what is asked of the tool, and who reviews what it returns.

El marco normativo ya está convergiendoThe Regulatory Framework Is Already Converging

No es un problema que vaya a regularse en el futuro. Ya está sucediendo. En Argentina conviven hoy varios proyectos legislativos que proponen clasificar los sistemas de IA por nivel de riesgo, tomando como referencia directa el modelo de la Unión Europea. En paralelo, organismos como el Consejo de la Magistratura de CABA ya gobiernan internamente el uso de estas herramientas en el Poder Judicial, exigiendo supervisión humana obligatoria en cada paso.

This is not a problem that will be regulated in the future. It is already happening. Argentina today has several legislative bills proposing to classify AI systems by risk level, taking the European Union model as a direct reference. In parallel, bodies such as the CABA Judicial Council already govern the internal use of these tools within the judiciary, requiring mandatory human oversight at every step.

La Unión Europea, que estos proyectos toman como espejo, ya completó dos etapas de su marco regulatorio y en pocas semanas más entra en vigencia la tercera: la aplicación plena para los sistemas considerados de alto riesgo. Argentina lo sabe, y lo dice explícitamente en sus propios proyectos de ley: ese va a ser el estándar de referencia.

The European Union, which these bills use as a mirror, has already completed two stages of its regulatory framework, and in a few more weeks the third stage takes effect: full application for systems considered high-risk. Argentina knows this, and says so explicitly in its own bills: that will be the reference standard.

La Justicia ya está fallando sobre estoThe Courts Are Already Ruling on This

Tampoco es un debate exclusivamente legislativo. Ya hay jurisprudencia argentina concreta. En Rosario, un tribunal civil y comercial reprendió a un profesional que presentó citas jurisprudenciales inexistentes, generadas por una IA y nunca verificadas — y recordó algo elemental: la inteligencia artificial generativa, por su propia naturaleza, produce alucinaciones.

Nor is this a debate confined to legislators. There is already concrete Argentine case law. In Rosario, a civil and commercial court reprimanded a professional who filed nonexistent case-law citations, generated by an AI and never verified — and recalled something elementary: generative artificial intelligence, by its very nature, produces hallucinations.

En Chubut, una sentencia penal fue anulada al comprobarse que el juez había usado IA generativa sin control humano ni mención expresa. Meses después, el Superior Tribunal de Justicia revocó esa nulidad, por entender que el proceso interno de deliberación de un juez pertenece a su esfera privada. Pero incluso al revocarla, el tribunal fue explícito en algo que no cambió: la IA debe entenderse como herramienta de apoyo, nunca como fuente autónoma de decisión. La responsabilidad final sigue recayendo, siempre, en quien firma.

In Chubut, a criminal sentence was annulled after it was shown that the judge had used generative AI without human control or explicit mention. Months later, the Superior Court of Justice reversed that annulment, holding that a judge's internal deliberation process belongs to their private sphere. But even in reversing it, the court was explicit about something that did not change: AI must be understood as a support tool, never as an autonomous source of decision-making. Final responsibility still rests, always, with whoever signs.

Ese principio no depende de si el que firma es un juez, un abogado o un profesional en ciencias económicas.

That principle does not depend on whether the person signing is a judge, a lawyer, or a professional in economic sciences.

El criterio profesional no se delegaProfessional Judgment Cannot Be Delegated

La pregunta de fondo no es si vamos a usar inteligencia artificial. Ya la estamos usando, lo decidamos formalmente o no. La pregunta es bajo qué condiciones la usamos sin comprometer aquello que da valor a una firma profesional: la capacidad de explicar y defender el proceso que llevó a una conclusión.

The underlying question is not whether we will use artificial intelligence. We are already using it, whether we decide to formally or not. The question is under what conditions we use it without compromising what gives a professional signature its value: the ability to explain and defend the process that led to a conclusion.

Eso exige poder responder, ante cualquier regulador, cliente o tribunal, tres preguntas simples. Qué información entró al sistema. Por qué el sistema llegó a ese resultado. Y quién validó ese resultado antes de que tuviera efecto real.

That requires being able to answer, before any regulator, client or court, three simple questions. What information went into the system. Why the system reached that result. And who validated that result before it had any real effect.

Cuando esas tres preguntas no tienen respuesta, no estamos frente a un problema de tecnología. Estamos frente a una falla de criterio.

When those three questions have no answer, we are not looking at a technology problem. We are looking at a failure of judgment.

Tuve la oportunidad de presentar este enfoque ante la Comisión de Innovación del Consejo Profesional de Ciencias Económicas de la Ciudad Autónoma de Buenos Aires (CPCE CABA).I had the opportunity to present this approach to the Innovation Committee of the Professional Council of Economic Sciences of the City of Buenos Aires (CPCE CABA).