Abrahan Levi Marquez Salcedo
Fundar y motivar: una exigencia con teoría, aunque rara vez se la trate como tal
Desde 1917, el artículo 16 constitucional condiciona todo acto de molestia a un mandamiento escrito de autoridad competente que funde y motive la causa legal del procedimiento (Constitución Política de los Estados Unidos Mexicanos [CPEUM], art. 16).
La jurisdicción mexicana distinguió tempranamente los dos verbos: fundar exige precisar con exactitud el precepto legal aplicable al caso; motivar exige señalar las circunstancias especiales, razones particulares o causas inmediatas consideradas para emitir el acto, de forma que exista adecuación entre esas razones y la norma invocada, es decir, que el caso concreto configure efectivamente la hipótesis normativa (Segundo Tribunal Colegiado del Sexto Circuito, 1993).
La fórmula, de tanto repetirse en cada amparo, empieza a sonar a trámite. No lo es. Es una teoría completa sobre qué convierte a un acto de poder en un acto de derecho, condensada en dos verbos que la práctica forense usa sin preguntarse casi nunca de dónde vienen.
Robert Alexy llegó, por una vía enteramente distinta, a la misma estructura. En su teoría de la argumentación jurídica, toda decisión exige dos formas de justificación: la interna, que evalúa si la conclusión se deriva, con validez estrictamente lógica, de las premisas invocadas; y la externa, que evalúa si esas premisas son a su vez correctas (Alexy, 1989).
Fundar es seleccionar la premisa normativa correcta: una operación que cabe, sin agotarla, dentro de lo que Alexy llama justificación externa. Motivar es mostrar que la consecuencia jurídica impuesta al particular se sigue efectivamente de esa premisa aplicada a los hechos del caso: el núcleo, cuando menos, de lo que Alexy llama justificación interna, el viejo silogismo judicial que la dogmática mexicana nunca dejó de exigir, aunque rara vez lo llamara por su nombre.
Que fundar sea, en este sentido, más angosto que la justificación externa completa —que en Alexy cubre también premisas empíricas y dogmáticas, y las reglas de la argumentación práctica general— no debilita la exigencia mexicana: la hace, en ese punto concreto, más estrecha y no más laxa que la de su propia fuente teórica.
Que un tribunal de circuito mexicano en 1993 y un filósofo del derecho alemán, escribiendo en 1978, hayan descrito, sin conocerse, la misma arquitectura no es casualidad: es la estructura mínima que cualquier sistema jurídico necesita para que una decisión de autoridad sea, además de eficaz, corregible.
Lo que el modelo estadístico no puede darle a esa teoría
El aprendizaje automático no aporta un tercer tipo de premisa a esta estructura: aporta la ausencia de premisas en el sentido que Alexy les da. Un modelo de clasificación no aplica una regla general a un caso mediante inferencia deductiva; ajusta millones de parámetros para minimizar un error estadístico sobre datos históricos, y produce un resultado —una probabilidad, un puntaje, una categoría— sin que exista, en ningún punto del proceso, un enunciado normativo del que ese resultado se derive lógicamente.
La justificación interna no queda debilitada: queda ausente. Y la externa se degrada de forma parecida, porque las variables ajustadas del modelo no son proposiciones evaluables como verdaderas o falsas, sino pesos numéricos cuya corrección solo puede medirse en términos de desempeño agregado —qué tan bien predice el modelo en promedio—, no en términos de si esta decisión, sobre este expediente, está bien fundada.
Cabe anticipar la objeción más seria que la literatura técnica ofrece frente a este diagnóstico: que herramientas de explicabilidad post hoc —SHAP, LIME, la destilación del modelo en árboles sustitutos— permiten reconstruir, después del hecho, una razón articulable para la salida del modelo, incluso si su arquitectura interna sigue siendo opaca.
La objeción confunde dos operaciones distintas. Estas técnicas no exponen el cálculo que el modelo realizó; ajustan un segundo modelo, más simple, alrededor de la instancia concreta, para aproximar el comportamiento del primero en su vecindad estadística.
Cynthia Rudin advirtió, con razón, que esa aproximación puede ser localmente plausible y al mismo tiempo infiel a la lógica real del modelo que dice explicar, sin que exista manera de verificar la fidelidad de la explicación sin conocer ya la lógica que se buscaba explicar (Rudin, 2019). Selbst y Barocas identificaron el problema con precisión doctrinal: la inescrutabilidad de un modelo y su falta de correspondencia con categorías de razonamiento evaluables son dos defectos distintos, y resolver el primero mediante explicabilidad deja intacto el segundo (Selbst y Barocas, 2018).
Una explicación SHAP no es, en el sentido de Alexy, la inferencia que conectó los hechos del expediente con la consecuencia jurídica: es un enunciado sobre qué variables correlacionaron con esa salida en casos similares, producido por una herramienta ajena al acto que se pretende motivar. Lejos de resolver la ausencia de justificación interna, la traslada un nivel más allá: ahora habría que motivar, además, por qué esa aproximación merece considerarse fiel.
Danielle Citron identificó, antes de que la discusión se popularizara, la consecuencia administrativa concreta de esa ausencia: los sistemas de decisión automatizada colapsan la adjudicación individual y la reglamentación general en un mismo acto, sin conservar las salvaguardas procesales propias de ninguna de las dos (Citron, 2008).
La resolución individual aparenta seguir siendo eso —una resolución sobre un caso— cuando en realidad aplica, sin haberla sometido a proceso deliberativo alguno, una regla general construida estadísticamente sobre miles de expedientes que el modelo nunca examinó de forma individualizada.
La defensa más seria de la automatización administrativa no proviene de quienes venden el software, sino de la propia literatura de derecho administrativo, y merece formularse en sus términos más fuertes antes de responderse.
Cary Coglianese y David Lehr, dos de los autores que con mayor rigor han estudiado la adopción de aprendizaje automático por agencias reguladoras estadounidenses, sostienen que la discrecionalidad humana en sede de adjudicación individual —el funcionario que evalúa solicitudes de beneficios, el inspector que decide a quién auditar— es, en los hechos, tan opaca e inconsistente como cualquier modelo estadístico, solo que su opacidad se disfraza de criterio profesional; un sistema entrenado sobre miles de decisiones previas puede, argumentan, tratar casos similares de manera más consistente que un cuerpo de funcionarios sujetos a sesgos individuales, fatiga y variación de criterio de un expediente a otro (Coglianese y Lehr, 2017).
El argumento tiene fuerza real: la alternativa a la opacidad algorítmica no es la transparencia perfecta del funcionario razonador, sino la opacidad, igualmente real, de miles de decisiones humanas que ninguna auditoría revisa jamás.
Pero los propios Coglianese y Lehr reconocen el límite exacto de su argumento, y es el límite que aquí importa: la consistencia estadística de un sistema es una propiedad del sistema en su conjunto, verificable solo de forma agregada, mientras que la motivación es una exigencia sobre el caso individual, verificable únicamente expediente por expediente (Coglianese y Lehr, 2017).
Un modelo puede ser, en promedio, más consistente que un funcionario humano y, al mismo tiempo, no poder explicar por qué produjo esta clasificación en este expediente —y es precisamente esa segunda pregunta la que formula el artículo 16, no la primera—.
La eficiencia y la consistencia son virtudes de política pública; la motivación es una condición de validez del acto. Confundir ambas categorías, tratar la consistencia estadística como si satisficiera la exigencia de motivación individual, es el error dogmático que permite que un sistema resulte, a la vez, defendible en términos de política regulatoria e inconstitucional en cada uno de los actos concretos que produce.
State v. Loomis: el debido proceso responde una pregunta distinta
El primer intento judicial serio de enfrentar este problema no vino del derecho administrativo, sino del proceso penal. En 2013, un tribunal de Wisconsin incorporó a la sentencia de Eric Loomis una evaluación de riesgo de reincidencia generada por COMPAS, herramienta desarrollada por una empresa privada que invocó secreto industrial para no revelar cómo pondera sus variables. Loomis impugnó la sentencia alegando que la naturaleza propietaria del algoritmo le impedía verificar la exactitud de la evaluación y, con ello, ejercer su derecho a ser sentenciado con base en información contrastable.
La Corte Suprema de Wisconsin confirmó la sentencia mediante un test de tres elementos: que el puntaje COMPAS no hubiera sido el factor determinante de la pena, que el juzgador contara con otros elementos independientes de valoración, y que el reporte previo a sentencia incluyera advertencias específicas sobre las limitaciones del instrumento —su carácter propietario, la ausencia de un estudio de validación específico para la población de Wisconsin y la posibilidad, documentada en la literatura especializada, de que el instrumento clasifique con mayor severidad a las minorías (State v. Loomis, 2016).
El test resuelve, con relativa elegancia, un problema de debido proceso: garantiza que el acusado pueda cuestionar los insumos que alimentaron el modelo y que el juzgador no delegue en el software la decisión final.
No resuelve, porque no fue diseñado para resolverlo, el problema de motivación en el sentido de Alexy. Ninguno de los tres elementos del test exige que alguien —el tribunal, el fabricante del software, el propio Estado— pueda reconstruir la inferencia que llevó de los datos de Loomis a un puntaje de alto riesgo. El debido proceso protege la oportunidad de contradecir; la motivación exige, antes y con independencia de que exista controversia, la existencia misma de una razón articulable.
Loomis pudo cuestionar los ingredientes de la fórmula; lo que ninguna de las partes en ese litigio, incluida la Corte, pudo hacer, fue explicar la fórmula misma. Convalidar una pena de prisión sobre esa base no es errar en la aplicación del derecho: es aplicar correctamente una garantía distinta de la que el caso, en rigor, planteaba.
SyRI: la misma pregunta, resuelta cuatro años después con menos paciencia
El caso resuelto por el Tribunal de Distrito de La Haya en febrero de 2020 llega a un punto que Loomis no alcanzó. SyRI era un sistema empleado por el gobierno neerlandés para cruzar datos de distintos organismos públicos —fiscales, laborales, de seguridad social, de vivienda— y generar indicadores de riesgo de fraude en materia de prestaciones sociales, que después orientaban investigaciones sobre personas concretas.
Organizaciones de derechos civiles y dos particulares impugnaron la legislación que sustentaba SyRI, con el respaldo de un escrito amicus curiae del Relator Especial de Naciones Unidas sobre pobreza extrema. El tribunal aplicó el test del artículo 8.2 del Convenio Europeo de Derechos Humanos —legalidad, fin legítimo y necesidad en una sociedad democrática—, dio por acreditado el fin legítimo, fusionó los otros dos criterios y concentró en ellos el reproche: la legislación no lograba un equilibrio justo entre el interés estatal en combatir el fraude y el derecho a la vida privada, en particular por la falta de transparencia sobre el modelo de riesgo empleado y por la ausencia de supervisión independiente (NJCM et al. v. The Netherlands, 2020).
Lo que distingue a SyRI de Loomis no es la conclusión —ambos tribunales examinan un sistema de calificación de riesgo con efectos sobre derechos individuales—, sino el origen del reproche. El Estado neerlandés, al defender su propia legislación, no logró explicar cuál era el modelo de riesgo empleado en cada proyecto SyRI ni de qué manera las distintas categorías de datos se ponderaban entre sí para producir un indicador sobre una persona determinada (Van Bekkum y Zuiderveen Borgesius, 2021).
En Loomis, la opacidad era una decisión del fabricante frente al acusado; en SyRI, era una condición estructural del sistema frente a todos, incluido el Estado que lo operaba. El tribunal no exigió que se revelara un secreto ajeno: constató que no había nada que revelar en forma de razonamiento articulable, y de esa constatación derivó la imposibilidad misma de someter la medida al juicio de proporcionalidad que el Convenio exige.
Por eso el remedio no pudo ser individual, como en Loomis —permitir a cada afectado impugnar su caso—, sino que tuvo que alcanzar a la norma habilitante en su conjunto: cuando el vicio está en el diseño y no en la aplicación, no hay caso individual que revisar, solo un sistema que suspender.
Lo que el derecho europeo resolvió, y lo que dejó pendiente
La Unión Europea no llegó a esta discusión por una intuición regulatoria abstracta, sino como respuesta directa al mismo tipo de controversias que Loomis y SyRI expusieron: sistemas de calificación crediticia, de selección de personal y de fraude social que, hacia mediados de la década de 2010, ya producían decisiones con efectos jurídicos significativos sin que existiera un sujeto capaz de justificarlas individualmente.
El artículo 22 del Reglamento General de Protección de Datos responde a ese problema reconociendo a toda persona el derecho a no ser objeto de una decisión basada únicamente en tratamiento automatizado que produzca efectos jurídicos significativos, salvo excepciones tasadas que, en todo caso, exigen intervención humana efectiva (Reglamento (UE) 2016/679, 2016). El Reglamento de Inteligencia Artificial, ocho años más tarde y mucho más específico, clasifica como de alto riesgo a los sistemas empleados por autoridades públicas para evaluar el acceso a prestaciones esenciales o para actividades de garantía del cumplimiento del derecho, y les impone documentación técnica, trazabilidad y supervisión humana cualificada (Reglamento (UE) 2024/1689, 2024).
Ninguna de las dos normas resuelve el problema que Coglianese y Lehr identificaron —la opacidad interna de ciertos modelos incluso frente a sus propios operadores—, y en eso el derecho europeo es más honesto que buena parte de la doctrina que lo celebra: no promete explicabilidad donde la arquitectura del sistema no puede darla. Lo que sí resuelve es la pregunta de la autoría. Si el modelo no puede producir una motivación reconstruible, la obligación no desaparece: se traslada hacia atrás, hacia el diseño del sistema y hacia quien decide emplearlo. Trasplantar esta lógica al derecho mexicano no exige importar el articulado europeo completo —el artículo 16 constitucional ya contiene, en sus dos verbos, una exigencia estructuralmente más antigua y, sobre el papel, más exigente que la del artículo 22 del Reglamento europeo—.
Exige, en cambio, algo que el derecho mexicano apenas empieza a construir: una arquitectura institucional capaz de verificar, antes de que el sistema entre en operación, si es siquiera capaz de producir la motivación que la Constitución exige. Y aquí conviene mirar lo que ha ocurrido, del lado mexicano, en los últimos dieciocho meses.
México: el derecho que se escribió y la autoridad que se desmanteló en el mismo ciclo legislativo
El 20 de marzo de 2025, el Diario Oficial de la Federación publicó la nueva Ley General de Protección de Datos Personales en Posesión de Sujetos Obligados. Su artículo 41 reconoce a toda persona el derecho a oponerse al tratamiento de sus datos cuando estos sean objeto de un tratamiento automatizado que le produzca efectos jurídicos no deseados o afecte de manera significativa sus derechos o libertades, y esté destinado a evaluar, sin intervención humana, aspectos como su rendimiento, su situación económica o su estado de salud (Ley General de Protección de Datos Personales en Posesión de Sujetos Obligados, 2025).
La fórmula es, en sustancia, un trasplante del artículo 22 del Reglamento europeo, con una diferencia de arquitectura que no es menor: donde el derecho europeo impone al responsable una prohibición que solo cede ante excepciones tasadas y con salvaguardas obligatorias, el derecho mexicano concede a la persona titular un derecho de oposición que debe ejercer activamente, sabiendo primero que fue sometida a un tratamiento automatizado. El peso de la inercia, que en Europa recae sobre quien despliega el sistema, en México recae sobre quien lo padece.
La misma ley exige, para los tratamientos intensivos de datos personales, una evaluación de impacto previa —el equivalente funcional de la evaluación que el derecho europeo exige antes de desplegar sistemas de alto riesgo—, salvo que, a juicio del propio sujeto obligado, realizarla pudiera comprometer los efectos que se pretenden lograr con la política, el sistema o la tecnología de que se trate, o se esté ante una situación de urgencia (Ley General de Protección de Datos Personales en Posesión de Sujetos Obligados, 2025). Es difícil imaginar una excepción mejor diseñada para vaciar la regla: la autoridad que debería auditarse decide, ella misma y sin control previo, si la auditoría le conviene.
Esa arquitectura —un derecho de oposición más débil que su modelo europeo, sujeto a una evaluación de impacto de la que la propia autoridad puede excusarse— habría sido, de cualquier forma, insuficiente. Pero además nació ya sin el órgano que, en cualquier diseño institucional serio, estaría llamado a robustecerla. La reforma constitucional en materia de simplificación orgánica, publicada en el Diario Oficial de la Federación el 20 de diciembre de 2024 y en vigor al día siguiente, extinguió al Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales junto con otros seis organismos autónomos (Decreto por el que se reforman, adicionan y derogan diversas disposiciones de la Constitución Política de los Estados Unidos Mexicanos, en materia de simplificación orgánica, 2024).
Sus funciones en materia de protección de datos pasaron a la Secretaría Anticorrupción y Buen Gobierno, dependencia del Poder Ejecutivo Federal que, a diferencia del instituto que sustituye, no tiene obligación de rendir informe anual de actividades al Congreso, y cuyas resoluciones ya no se impugnan mediante el juicio de nulidad accesible que conocía el INAI, sino mediante juicio de amparo ante juzgados y tribunales especializados (IAPP, 2025). El órgano que desapareció era colegiado y rendía cuentas al Legislativo; el que lo sustituye depende jerárquicamente del mismo Poder Ejecutivo cuyos sistemas eventualmente tendría que auditar.
Que la reforma que suprimió al INAI y la ley que creó el derecho de oposición del artículo 41 se hayan publicado con apenas tres meses de diferencia no exige ninguna teoría de la conspiración: exige, apenas, leer las dos normas en el orden en que fueron publicadas. México construyó, en el mismo ciclo legislativo, el texto de un derecho y la ausencia de quien pudiera hacerlo exigible con independencia del propio regulado.
Una garantía que no necesita reinventarse, sino que se le tome en serio
Nada de lo anterior exige inventar una garantía nueva. El artículo 16 constitucional, leído junto con la distinción entre fundar y motivar que la propia jurisdicción mexicana articuló hace más de tres décadas, ya contiene el estándar completo: una decisión de autoridad es válida cuando alguien puede reconstruir, en forma de proposiciones, la premisa normativa aplicable y la inferencia que conecta los hechos del caso con la consecuencia impuesta.
Un sistema de aprendizaje automático puede alimentar esa inferencia con datos, acelerar su cálculo, incluso mejorar su precisión estadística. Lo que no puede, cuando su arquitectura es la de un modelo opaco de alta complejidad, es sustituir la inferencia misma sin que la garantía deje de cumplirse. Loomis mostró que el debido proceso individual no cura ese defecto, porque pregunta algo distinto.
SyRI mostró que, cuando el defecto es estructural, tampoco lo cura el litigio caso por caso. Y la experiencia mexicana más reciente añade algo adicional, y más incómodo: que un derecho bien redactado en el papel no vale gran cosa frente a la ausencia deliberada de quien debería hacerlo exigible.
La pregunta que sí permanece abierta no es si el artículo 16 tolera la automatización opaca de la función pública: no la tolera, y sostener lo contrario exige reformular qué se entiende por fundar y motivar hasta vaciarlo de contenido. La pregunta abierta es de diseño institucional: qué arquitectura de supervisión, con qué grado de independencia frente al propio regulado, puede verificar, antes de que un sistema entre en operación, si es siquiera capaz de producir la motivación que la Constitución exige desde 1917. Esa discusión, a diferencia de la anterior, sí merece un desarrollo propio.
Referencias
Alexy, R. (1989). Teoría de la argumentación jurídica (M. Atienza y I. Espejo, Trads.). Centro de Estudios Constitucionales. (Obra original publicada en 1978).
Citron, D. K. (2008). Technological due process. Washington University Law Review, 85(6), 1249–1313.
Coglianese, C., y Lehr, D. (2017). Regulating by robot: Administrative decision making in the machine-learning era. Georgetown Law Journal, 105(5), 1147–1223.
Constitución Política de los Estados Unidos Mexicanos [CPEUM], art. 16. (1917, 5 de febrero, con reformas posteriores). https://www.scjn.gob.mx/sites/default/files/cpeum/documento/cpeum.pdf
Decreto por el que se reforman, adicionan y derogan diversas disposiciones de la Constitución Política de los Estados Unidos Mexicanos, en materia de simplificación orgánica. (2024, 20 de diciembre). Diario Oficial de la Federación. https://www.dof.gob.mx/nota_detalle.php?codigo=5745905&fecha=20/12/2024
IAPP. (2025, abril). Entendiendo la Ley Federal de Protección de Datos Personales en Posesión de los Particulares. https://iapp.org/news/a/entendiendo-la-ley-federal-de-protecci-n-de-datos-personales-en-posesi-n-de-los-particulares-en-mexico
Ley General de Protección de Datos Personales en Posesión de Sujetos Obligados. (2025, 20 de marzo). Diario Oficial de la Federación. https://datos-personales.scjn.gob.mx/sites/default/files/normativa-materia/LGPDPPSO-DOF-20Mar2025.pdf
NJCM et al. v. The Netherlands (SyRI). (2020, 5 de febrero). Rechtbank Den Haag [Tribunal de Distrito de La Haya], ECLI:NL:RBDHA:2020:1878. http://deeplink.rechtspraak.nl/uitspraak?id=ECLI:NL:RBDHA:2020:1878
Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (Reglamento General de Protección de Datos). (2016, 4 de mayo). Diario Oficial de la Unión Europea, L119. https://eur-lex.europa.eu/eli/reg/2016/679/oj
Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. (2024, 12 de julio). Diario Oficial de la Unión Europea, L, 2024/1689. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1(5), 206–215. https://doi.org/10.1038/s42256-019-0048-x
Segundo Tribunal Colegiado del Sexto Circuito. (1993). Fundamentación y motivación de los actos administrativos [Tesis VI.2o. J/248]. Gaceta del Semanario Judicial de la Federación, Octava Época, Núm. 64, 43. https://sjf2.scjn.gob.mx/detalle/tesis/216534
Selbst, A. D., y Barocas, S. (2018). The intuitive appeal of explainable machines. Fordham Law Review, 87(3), 1085–1139.
State v. Loomis, 881 N.W.2d 749 (Wis. 2016).
Van Bekkum, M., y Zuiderveen Borgesius, F. (2021). Digital welfare fraud detection and the Dutch SyRI judgment. European Journal of Social Security, 23(4), 323–340. https://doi.org/10.1177/13882627211031257