Iniciemos aclarando ¿qué es la opacidad algorítmica?
Sin complejidades, significa que un algoritmo toma una decisión o emite una recomendación que afecta a una persona, personas, grupos, empresas, pero no se puede del todo explicar con claridad cómo llegó a ese resultado.
Por ejemplo:
- un banco niega un crédito;
- una aseguradora incrementa una prima;
- un sistema selecciona a quién contratar;
- una plataforma suspende una cuenta;
- una autoridad identifica a un contribuyente como de alto riesgo.
Si pides alguna explicación muchas veces solo alcanzan a decir, así mando el resultado el sistema, el dichoso algoritmo.
En mayo 2026 el PAPA LEON XIV ha expresado varias cuestiones en su
CARTA ENCÍCLICA
MAGNIFICA HUMANITAS
DEL SANTO PADRE
LEÓN XIV
SOBRE LA CUSTODIA DE LA PERSONA HUMANA
EN EL TIEMPO DE LA INTELIGENCIA ARTIFICIAL
LA GRANDEZA DE LA PERSONA HUMANA
ANTE LAS PROMESAS DE LA IA
En la encíclica Magnifica Humanitas del Papa León XIV, advierte que la IA no puede considerarse moralmente neutra y que las decisiones automatizadas pueden afectar derechos, oportunidades, reputación y libertad de las personas, señalando que los sistemas aparentemente «objetivos» pueden reproducir prejuicios o decisiones de quienes los diseñaron.
El Papa afirma, en esencia:
No basta preguntarse si usamos la IA para un fin bueno o malo; también debemos preguntarnos cómo fue diseñada y qué idea de persona quedó incorporada en sus datos y modelos.
Por ende debemos preocuparnos por; quién diseñó el algoritmo, qué datos utilizó, qué variables privilegió, qué sesgos incorporó, quién responde por sus errores.
Lo que muchas ya cuestionamos, desde el punto de vista jurídico;
No basta que un algoritmo sea eficaz; debe ser auditable.
La autoridad dice: «El algoritmo detectó que este contribuyente era de alto riesgo.»
Como asesores en materia legal debemos cuestionar:
¿Qué algoritmo? ¿Quién lo programó? ¿Qué variables utilizó? ¿Cuál es el margen de error? ¿Puede ser auditado? ¿Existe sesgo? ¿Puede el afectado controvertir el resultado?
Preguntas que ya no son ciencia ficción. Son preguntas jurídicas.
Desde una perspectiva constitucional, cuando una decisión de los diversos entes gubernamentales afecta derechos, normalmente se exige:
Motivación, fundamentación, posibilidad de defensa, revisión por una autoridad.
Si una decisión proviene de un algoritmo que nadie puede explicar, surgen interrogantes importantes:
¿cómo ejercer el derecho de audiencia? ¿cómo combatir la motivación?; ¿cómo ofrecer prueba en contra?; ¿cómo impugnar un criterio que no es comprensible?
El SAT podría o bien está utilizando IA para: seleccionar auditorías, detectar simulación, estimar riesgos, identificar EFOS y EDOS, detectar operaciones inusuales.
La pregunta es:
¿Puede una autoridad basarse exclusivamente en un algoritmo para afectar la esfera jurídica de un contribuyente?
Opino que, en un Estado constitucional de derecho, la decisión final debe poder ser explicada, revisada y, en su caso, impugnada. La IA puede ser un apoyo para identificar riesgos o priorizar revisiones, pero cuando la actuación administrativa afecta derechos, la autoridad sigue obligada a fundamentar y motivar sus actos conforme al marco jurídico aplicable.
«La opacidad algorítmica es amenaza a la dignidad humana»
Ninguna persona debería ver afectados sus derechos por una decisión que nadie puede explicar, nadie puede auditar y nadie puede asumir como propia.
En PROW GLOBAL contamos con un equipo multidisciplinario de contadores, abogados, fiscalistas, corporativos e ingenieros, listos para adentrarse en estos temas en pro de los derechos de los contribuyentes.
Miguel Chamlaty
