Gobernanza algorítmica en salud: el gap que los lineamientos éticos no cierranAlgorithmic Governance in Healthcare: The Gap Ethical Guidelines Don't Close
Analista de Transfer Pricing. Investigador en gobernanza algorítmica aplicada a entornos profesionales regulados. Creador del Sistema TRIA.Transfer Pricing Analyst. Researcher in algorithmic governance applied to regulated professional environments. Creator of Sistema TRIA.
El 84% de los médicos argentinos considera necesario un marco jurídico para el uso de IA en salud. El número viene de una encuesta reciente, pero la intuición que expresa no es nueva: quienes trabajan en entornos clínicos perciben, con razón, que el uso de sistemas algorítmicos en procesos que afectan directamente a pacientes y trabajadores requiere algo más que buenas prácticas declaradas.84% of Argentine physicians consider a legal framework necessary for the use of AI in healthcare. The figure comes from a recent survey, but the intuition it expresses isn't new: those working in clinical environments correctly perceive that the use of algorithmic systems in processes directly affecting patients and workers requires more than declared good practices.
IntroducciónIntroduction
La respuesta institucional existe y está avanzando. En mayo de 2026, la Asociación Médica Argentina y la Sociedad Argentina de Inteligencia Artificial lanzaron un Think Tank conjunto para definir lineamientos éticos para la incorporación de IA en el sistema sanitario argentino. El consenso alcanzado fue claro en algo fundamental: la IA no debe reemplazar al profesional de la salud, sino funcionar como herramienta de apoyo bajo estrictos estándares de control y supervisión.
The institutional response exists and is advancing. In May 2026, the Argentine Medical Association and the Argentine Society of Artificial Intelligence launched a joint Think Tank to define ethical guidelines for incorporating AI into Argentina's healthcare system. The consensus reached was clear on one fundamental point: AI should not replace healthcare professionals, but function as a support tool under strict standards of control and supervision.
El problema no es el diagnóstico. Es lo que viene después.
The problem isn't the diagnosis. It's what comes after.
Lo que los lineamientos no respondenWhat the Guidelines Don't Answer
Un marco ético establece principios. Define qué debe ocurrir. No especifica cómo demostrar, ante un regulador, un tribunal o una auditoría, que efectivamente ocurrió.
An ethical framework establishes principles. It defines what should happen. It doesn't specify how to demonstrate, before a regulator, a court, or an audit, that it actually happened.
Esa brecha tiene consecuencias concretas en el sector salud. Cuando un sistema de IA asiste en un diagnóstico y el output se incorpora a una historia clínica, ¿queda registrado qué versión del modelo produjo ese output? ¿Hay evidencia de que un profesional lo revisó y validó antes de que impactara en una decisión clínica? ¿Si el modelo fue actualizado entre dos consultas del mismo paciente, eso está documentado?
That gap has concrete consequences in the healthcare sector. When an AI system assists in a diagnosis and the output is incorporated into a medical record, is it recorded which model version produced that output? Is there evidence that a professional reviewed and validated it before it impacted a clinical decision? If the model was updated between two consultations with the same patient, is that documented?
En la mayoría de los casos, la respuesta es no. No porque las organizaciones actúen de mala fe, sino porque no existe aún una arquitectura de proceso que convierta la supervisión humana declarada en supervisión humana verificable.
In most cases, the answer is no. Not because organizations act in bad faith, but because there isn't yet a process architecture that converts declared human oversight into verifiable human oversight.
Ese es el gap. Y no lo cierra ningún lineamiento ético, por bien redactado que esté.
That's the gap. And no ethical guideline closes it, however well written.
Dos dimensiones donde el riesgo es más altoTwo Dimensions Where the Risk Is Highest
El problema no es uniforme. Hay dos dimensiones donde la ausencia de controles operativos genera la mayor exposición:
The problem isn't uniform. There are two dimensions where the absence of operational controls generates the greatest exposure:
La primera es la evaluación de riesgos y sesgos del sistema. Los outputs de modelos diagnósticos se incorporan a historias clínicas sin registro de la versión del modelo utilizado ni evaluación documentada de sus limitaciones. Si el modelo tiene sesgo, si falla de manera sistemática en ciertos perfiles de pacientes, si fue actualizado sin validación clínica previa: no hay cadena de trazabilidad que permita detectarlo ni reconstruirlo después del hecho.
The first is risk and bias assessment of the system. Outputs from diagnostic models are incorporated into medical records without a record of which model version was used or documented evaluation of its limitations. If the model is biased, if it systematically fails for certain patient profiles, if it was updated without prior clinical validation: there's no traceability chain that allows detecting or reconstructing this after the fact.
La segunda es el monitoreo continuo del desempeño. La mejora de los sistemas de IA en salud suele declararse cualitativamente. No existen, en la mayoría de los casos, series de datos sistemáticas sobre la calidad de los outputs en el tiempo. Ante un reclamo de responsabilidad profesional, la organización no puede demostrar que el sistema funcionó correctamente en la intervención específica cuestionada.
The second is continuous performance monitoring. Improvement in healthcare AI systems tends to be declared qualitatively. In most cases, there are no systematic data series on output quality over time. Faced with a professional liability claim, the organization cannot demonstrate that the system functioned correctly in the specific intervention being questioned.
El riesgo que emerge de estas dos ausencias no es solo clínico. Es jurídico. Y en la medida en que las plataformas de IA en salud argentinas comiencen a operar con contrapartes europeas o a escalar internacionalmente, también es regulatorio: el AI Act clasifica los sistemas de IA en diagnóstico médico y gestión de pacientes como alto riesgo, con requisitos explícitos de trazabilidad, transparencia y supervisión humana verificable.
The risk emerging from these two absences isn't only clinical. It's legal. And to the extent that Argentine healthcare AI platforms begin operating with European counterparts or scaling internationally, it's also regulatory: the AI Act classifies AI systems in medical diagnosis and patient management as high-risk, with explicit requirements for traceability, transparency, and verifiable human oversight.
Lo que hace faltaWhat's Missing
No hace falta un nuevo marco ético. Hace falta una capa operativa que convierta los principios existentes en controles verificables por un tercero independiente.
A new ethical framework isn't what's needed. What's needed is an operational layer that converts existing principles into controls verifiable by an independent third party.
Esa capa existe en otras industrias. La auditoría financiera tiene décadas de práctica en separar la ejecución de la responsabilidad, documentar el criterio profesional y hacer que el proceso resista el escrutinio externo. Lo que el sector salud necesita es algo equivalente para los procesos asistidos por IA: un sistema que registre cada intervención algorítmica, identifique la versión del modelo, documente la validación profesional y produzca evidencia que pueda ser revisada por quien corresponda.
That layer already exists in other industries. Financial auditing has decades of practice separating execution from accountability, documenting professional judgment, and making the process withstand external scrutiny. What the healthcare sector needs is something equivalent for AI-assisted processes: a system that logs every algorithmic intervention, identifies the model version, documents professional validation, and produces evidence that can be reviewed by whoever is responsible for doing so.
No es tecnología nueva. Es arquitectura de proceso. La diferencia entre una organización que dice que supervisa los outputs de sus sistemas de IA y una que puede demostrarlo.
This isn't new technology. It's process architecture. The difference between an organization that says it supervises its AI system outputs and one that can prove it.
Esa diferencia es la que los lineamientos éticos correctamente identifican como necesaria, pero no tienen por función resolver. Es la que corresponde a una metodología de gobernanza operativa.
That difference is what ethical guidelines correctly identify as necessary, but aren't designed to resolve. It belongs to a methodology of operational governance.
ReferenciasReferences
Lento U. (2026). Marco TRIA™: Trazabilidad, Razonamiento, IA, Auditoría. Dirección Nacional del Derecho de Autor, Legajo N.° RL-2026-46255181.
Lento U. (2026). Marco TRIA™: Trazabilidad, Razonamiento, IA, Auditoría. Dirección Nacional del Derecho de Autor, Legajo N.° RL-2026-46255181.