Universidad del Zulia (LUZ)
Revista Venezolana de Gerencia (RVG)
Año 31 No. 115, 2026, e3111513
Julio- septiembre
ISSN 1315-9984 / e-ISSN 2477-9423
Como citar: Fernández, Y., Vera, R. G., y Ronceros, C. (2026). Gobernanza algorítmica y legitimidad judicial en un Tribunal Peruano. Revista Venezolana De Gerencia, 31(115), e3111513. https://doi.org/10.52080/rvgluz.31.115.13
Gobernanza algorítmica y legitimidad judicial en un Tribunal Peruano
Fernández Pacheco, Yenifer*
Vera Poma, Rodrigo Genaro**
Ronceros Morales, Cristhian***
Resumen
La incorporación de herramientas de inteligencia artificial (IA) en el ámbito judicial ha intensificado el debate sobre su compatibilidad con las garantías estructurales del debido proceso. Este estudio buscó describir la percepción de los profesionales del derecho del uso de la IA en procedimientos del sistema de justicia peruano. La metodología consistió en una investigación cualitativa de alcance exploratorio desarrollada en el Distrito Judicial de Ica (Perú), basada en entrevistas semiestructuradas a operadores jurídicos del sistema judicial con experiencia activa en procedimientos civiles, penales y administrativos. Los hallazgos evidencian una aceptación condicionada del uso de inteligencia artificial en el sistema judicial peruano. Los participantes reconocen su utilidad para actividades de apoyo, como búsqueda jurisprudencial, organización documental y análisis preliminar de información; sin embargo, rechazan su utilización como mecanismo sustitutivo de la decisión judicial humana. Se concluye que la legitimidad del uso de algoritmos en la justicia depende de la supervisión humana significativa, la trazabilidad de los resultados, la explicabilidad de los sistemas y el registro formal de su utilización dentro del expediente judicial.
Palabras clave: inteligencia artificial en los tribunales; debido proceso; gobernanza algorítmica; supervisión humana; legitimidad judicial.
Recibido: 11.03.26 Aceptado: 10.08.26
* Abogada. Universidad Tecnológica del Perú (UTP), Perú. Correo: U20210783@utp.edu.pe. ORCID: https://orcid.org/0009-0005-2829-4949
** Abogado. Universidad Tecnológica del Perú (UTP), Perú. Correo: U20217305@utp.edu.pe. ORCID: https://orcid.org/0009-0001-0355-6608
*** Doctor en Gerencia. Universidad Tecnológica del Perú (UTP), Perú. Correo: cronceros@utp.edu.pe. ORCID: https://orcid.org/0000-0001-8421-5217 Autor de correspondencia: cronceros@utp.edu.pe
Algorithmic Governance and Judicial Legitimacy in a Peruvian Court
Abstract
The incorporation of artificial intelligence (AI) tools into the judicial system has intensified the debate over their compatibility with the structural guarantees of due process. While the international literature has focused on issues of accuracy, bias, and explainability in contexts within the Global North, there remains limited empirical evidence on how legal professionals perceive the use of AI in the Peruvian judicial system. This study sought to describe legal professionals’ perceptions of the use of AI in proceedings within the Peruvian justice system. The methodology consisted of an exploratory qualitative study conducted in the Judicial District of Ica (Peru), based on in-depth semi-structured interviews with legal practitioners in the judicial system who have active experience in civil, criminal, and administrative proceedings, supplemented by contextual observation. The findings reveal a conditional acceptance of the use of artificial intelligence in the Peruvian judicial system. Participants acknowledge its usefulness for support activities, such as case law searches, document organization, and preliminary information analysis; however, they reject its use as a substitute for human judicial decision-making. It is concluded that the legitimacy of using algorithms in the justice system depends on meaningful human oversight, the traceability of results, the explainability of the systems, and the formal recording of their use within the court record. The study provides contextualized empirical evidence on the adoption of AI in the Peruvian judicial system and contributes to the contemporary legal debate on algorithmic governance and procedural safeguards in digitized judicial environments.
Keywords: artificial intelligence in courts; due process; algorithmic governance; human oversight; judicial legitimacy.
1. Introducción
La entrada de la IA en el mundo judicial ha pasado, en esta última década, de usos meramente instrumentales como la búsqueda automatizada de jurisprudencia o la gestión electrónica de expedientes a sistemas capaces de influir en la propia toma de decisiones jurisdiccionales (Casey & Niblett, 2016; Hildebrandt, 2018). Esta revolución afecta no solo la estructura judicial, sino también los estándares de motivación, transparencia y control del Estado de derecho. La literatura actual coincide en que la automatización judicial puede hacer más eficiente el proceso, reducir la carga de trabajo y aumentar la consistencia en la toma de decisiones. Pero también crea riesgos estructurales en términos de caja negra algorítmica, falta de transparencia y violación de salvaguardas procesales (Tripathi et al., 2025).
La tensión entre modelos de toma de decisiones automatizadas (Automated Decision-Making, ADM) y los enfoques de inteligencia artificial explicable (Explainable Artificial Intelligence, XAI), ilustra la tensión entre eficiencia y legitimidad legal. En casos complejos, los modelos predictivos superan la consistencia humana. Pero cuando se basan en arquitecturas de caja negra, crean agujeros negros de razonamiento que no cumplen con los nuevos estándares reforzados para el razonamiento judicial (Rudin, 2019; Wirtz et al., 2019).
En el derecho, por ejemplo, el uso de herramientas de evaluación de riesgos como COMPAS ha sido criticado por justicia estadística y sesgos distributivos, reabriendo el debate sobre los conflictos entre técnicas de equidad y garantías constitucionales de igualdad y no discriminación (Dressel y Farid, 2018; Chouldechova, 2017). En esa línea, se recomienda reservar los modelos intrínsecamente interpretables para casos jurídicos de alto riesgo, porque son más compatibles con la contradicción procesal y la rendición de cuentas institucional (Rudin, 2019; Neuwirth, 2022).
En términos legislativos, la Unión Europea (UE) ha propuesto un marco regulatorio basado en el riesgo con la Ley de IA, que establece obligaciones reforzadas para los sistemas de alto riesgo (gestión de riesgos, calidad de datos, documentación técnica, supervisión humana significativa, auditorías), y busca establecerse como un estándar mundial en gobernanza algorítmica (European Parliament & Council of the European Union, 2024; Neuwirth, 2022; Malgieri, 2024; Veale & Zuiderveen, 2021). Además, la Carta Ética de la Comisión Europea para la Eficiencia de la Justicia (CEPEJ) sobre la IA en los sistemas judiciales define principios de no discriminación, calidad y seguridad, transparencia y supervisión humana significativa para diseñar y licitar sistemas para los tribunales (CEPEJ, 2018). La evidencia empírica de legitimidad procesal indica que la legitimidad social de la IA judicial no viene solo de su eficacia técnica, sino de que pueda ser cuestionada, supervisada y revisada por humanos (Grimmelikhuijsen & Meijer, 2022).
En América Latina, la digitalización judicial ha avanzado con disparidad, con brechas estructurales en infraestructura tecnológica, capacidad institucional y gobernanza normativa. «Brasil es uno de los grandes laboratorios regionales de uso tecnológico en el poder judicial, con el desarrollo de soluciones de IA para la categorización automatizada de expedientes, priorización de recursos y apoyo a la gestión de casos en masa». Pero nuevas investigaciones advierten que preocuparse solo por la eficiencia y la productividad (disminuir el tiempo o liberar las oficinas) no asegura mejores decisiones ni legitimidad institucional.
La automatización sin normas sólidas de explicabilidad, auditabilidad y control humano significativo puede reproducir sesgos estructurales, crear cajas negras en la toma de decisiones y socavar la confianza pública en el sistema judicial (Cabrera et al., 2024; Münch y Ferraz, 2024). Al mismo tiempo, la proliferación de herramientas de IA generativa abre la puerta a nuevos retos cualitativos. A diferencia de los clasificadores/predictores convencionales, los modelos generativos inventan textos por sí mismos (con todos los riesgos que ello conlleva en términos de alucinaciones, atribuciones erróneas, citas inventadas, referencias inexistentes y argumentos sin fundamento). Y estas características entran en conflicto con criterios como la motivación suficiente, la trazabilidad del razonamiento o la posibilidad de contradicción efectiva.
Por lo tanto, la implementación de la IA generativa en el poder judicial requiere nuevos mecanismos de verificación, documentación técnica y registro de uso cuando sus resultados se integran en textos o decisiones judiciales, de modo que la eficiencia tecnológica no sacrifique los estándares mínimos del debido proceso (Socol De La Osa y Remolina, 2024). En Perú, la digitalización del sistema judicial se ha implementado progresivamente con el expediente judicial electrónico y el marco normativo de la Ley N.º 31814 y su Reglamento (D.S. 115-2025-PCM), que establecen principios para el uso seguro, transparente y responsable de la inteligencia artificial en el sector público.
Este marco define las responsabilidades en materia de gestión de riesgos, trazabilidad, protección de datos y supervisión humana significativa, sentando las bases para el desarrollo de directrices sectoriales para el poder judicial. Además, la nueva Ley N.º 32314 refuerza el régimen sancionador por uso indebido, creando un ecosistema jurídico acorde con las normas internacionales de gobernanza algorítmica.
Sin embargo, más allá de los avances normativos, aún queda un largo camino por recorrer para comprender cómo los operadores jurídicos del sistema judicial (jueces, abogados, asistentes) perciben y experimentan la aplicación práctica de estas herramientas, especialmente fuera de la zona metropolitana de Lima. En jurisdicciones menos avanzadas tecnológicamente y con menor capacidad institucional, la adopción puede depender de condiciones estructurales que difieren de las de la capital, lo que crea dinámicas diferentes de legitimidad, confianza y riesgo.
Esta falta de estudios localizados contrasta con la abundante literatura del norte global, donde la gobernanza algorítmica, la justicia digital y la legitimidad institucional se han analizado en contextos más maduros desde el punto de vista tecnológico y normativo (Tripathi et al., 2025; Grimmelikhuijsen & Meijer, 2022). La falta de evidencia localizada impide el diseño de políticas públicas adaptadas a contextos territoriales específicos y dificulta determinar si los marcos jurídicos actuales se transforman en prácticas coherentes con el debido proceso.
En este contexto, se aborda esta brecha mediante una investigación cualitativa desarrollada en el Distrito Judicial de Ica (Perú), con participación de jueces, abogados y asistentes jurisdiccionales vinculados a procesos civiles, penales y administrativos. A través de entrevistas semiestructuradas, codificación temática y triangulación analítica, el estudio busca describir la percepción de los profesionales del derecho sobre el uso de la inteligencia artificial en procedimientos del sistema de justicia peruano. Asimismo, se analizan las percepciones asociadas a utilidad, riesgos, transparencia, supervisión humana y posibles afectaciones al debido proceso derivadas del uso de herramientas algorítmicas en el ámbito judicial.
El artículo ofrece tres principales contribuciones. En primer lugar, aporta evidencia empírica original sobre las percepciones de operadores jurídicos en torno al uso de inteligencia artificial en un contexto judicial subnacional peruano. En segundo lugar, conecta dichas percepciones con debates contemporáneos sobre debido proceso, transparencia algorítmica, supervisión humana y legitimidad de las decisiones asistidas por tecnologías digitales. Por último, detecta desafíos institucionales y preocupaciones ético-jurídicas que puedan surgir a partir de la incorporación de herramientas de inteligencia artificial en el sistema de justicia, especialmente en lo que se refiere a la confianza, la explicabilidad y el control humano significativo.
Basándose en el marco teórico de la gobernanza algorítmica y el debido proceso, y en la brecha empírica encontrada en los casos subnacionales latinoamericanos, la investigación aborda las siguientes preguntas: PI1. ¿Cómo perciben los profesionales del derecho del Distrito Judicial de Ica la incorporación de herramientas de IA en las diferentes fases del proceso judicial, y qué patrones de uso instrumental o restricciones normativas identifican en su práctica? PI2. ¿Cómo consideran que la participación de los sistemas de IA puede afectar positiva o negativamente a las garantías estructurales del debido proceso, especialmente la motivación judicial, la contradicción, la igualdad de armas y la imparcialidad? PI3. ¿Qué requisitos de legitimidad, garantías procesales y mecanismos de control consideran necesarios para que la aplicación de la IA sea constitucionalmente aceptable y legítima en el Poder Judicial?
2. Inteligencia artificial (IA) y justicia: Fundamentos teórico-metodológicos
La integración de inteligencia artificial en la administración de justicia es parte de los procesos contemporáneos de transformación digital que tienden a aumentar la eficiencia institucional, la automatización documental y la capacidad de procesamiento de información jurídica compleja (Sourdin, 2018). En el ámbito judicial, estas tecnologías han empezado a ser utilizadas para la clasificación de expedientes, la búsqueda jurisprudencial, el análisis predictivo y la asistencia en tareas de redacción y gestión procesal (Wirtz et al., 2019).
Desde el punto de vista conceptual, la inteligencia artificial aplicada al derecho comprende sistemas computacionales capaces de realizar tareas propias del razonamiento jurídico mediante técnicas de aprendizaje automático, procesamiento del lenguaje natural y análisis algorítmico. Dentro de estos desarrollos sobresalen los modelos de Automated Decision-Making (ADM), orientados a automatizar parcialmente procesos de decisión, y los enfoques de Explainable Artificial Intelligence (XAI), dirigidos a garantizar interpretabilidad, trazabilidad y transparencia en sistemas de alto impacto institucional (Rudin, 2019).
Los avances en estudios en el área identifican tres grandes estrategias de incorporación de IA en los sistemas judiciales. La primera es de usos instrumentales orientados a la eficiencia administrativa y automatización documental; la segunda involucra sistemas predictivos usados para apoyo al razonamiento judicial y análisis de riesgos; y la tercera está relacionada con el uso emergente de inteligencia artificial generativa para síntesis argumentativa, redacción jurídica y asistencia cognitiva en procesos judiciales (Socol De La Osa & Remolina, 2024).
Sin embargo, estas estrategias han generado debates sobre legitimidad, transparencia algorítmica, debido proceso y supervisión humana significativa. Varios estudios advierten que la automatización judicial puede mejorar la consistencia y la productividad, pero también puede introducir riesgos asociados a la opacidad de las decisiones, a los sesgos estructurales y al debilitamiento de las garantías procesales (Grimmelikhuijsen & Meijer, 2022; Münch & Ferraz, 2024). Por consiguiente, los enfoques contemporáneos de la gobernanza algorítmica sostienen que la legitimidad de la inteligencia artificial judicial no depende solo de su precisión técnica, sino de su integración compatible con principios constitucionales, control humano y trazabilidad argumentativa (Mittelstadt, 2019).
3. Consideraciones metodológicas de la investigación
La investigación se llevó a cabo desde una perspectiva cualitativa interpretativa, orientada a entender las percepciones y vivencias de los operadores jurídicos en cuanto a la utilización de las herramientas de inteligencia artificial en el ámbito judicial y su relación con las garantías del debido proceso. Desde el enfoque interpretativo, la realidad social se entiende en función de los significados que los sujetos crean en sus contextos de interacción, dando prioridad a la interpretación de las experiencias, los discursos y las prácticas institucionales (Creswell & Poth, 2018; Denzin & Lincoln, 2018; Merriam & Tisdell, 2016.).
La unidad de análisis estuvo conformada por operadores jurídicos con ejercicio activo en el Distrito Judicial de Ica (Perú), seleccionados por su participación directa en procesos judiciales y su interacción cotidiana con tecnologías digitales implementadas en el sistema de justicia. Se empleó un muestreo no probabilístico por criterios, seleccionándose diez participantes con experiencia litigiosa reciente, exposición al uso de herramientas digitales judiciales y disposición voluntaria para participar en el estudio. El tamaño de la muestra se definió conforme al criterio de saturación temática, alcanzado cuando las entrevistas adicionales no aportaron nuevas categorías interpretativas relevantes.
La técnica principal de recolección de información fue la entrevista semiestructurada en profundidad, diseñada a partir de tres dimensiones analíticas: uso y alcance de herramientas de inteligencia artificial en la práctica jurídica, impacto percibido en las garantías del debido proceso y riesgos o salvaguardas necesarias para un uso constitucionalmente compatible. Las entrevistas se realizaron de manera presencial, tuvieron una duración aproximada de 45 a 60 minutos, fueron grabadas con consentimiento informado y posteriormente transcritas de forma íntegra para su análisis.
El análisis de la información se desarrolló mediante análisis temático con un enfoque inductivo-deductivo. Inicialmente, se identificaron unidades de significado relacionadas con el uso instrumental de herramientas de inteligencia artificial, riesgos procesales y condiciones de legitimidad percibidas por los operadores jurídicos. Posteriormente, los códigos fueron reorganizados en tres categorías analíticas centrales: (i) operatividad tecnológica, vinculada al uso práctico e instrumental de herramientas de IA; (ii) riesgo procesal percibido, relacionada con preocupaciones sobre opacidad algorítmica, sesgos y afectaciones al debido proceso; y (iii) condiciones de legitimidad algorítmica, asociada a supervisión humana, trazabilidad y control institucional.
Dentro de estas categorías emergieron subcategorías relacionadas con redacción asistida, búsqueda jurisprudencial automatizada, automatización periférica, caja negra algorítmica, sesgo predictivo, confianza institucional, motivación judicial reforzada y responsabilidad derivada del uso de sistemas automatizados. La articulación transversal entre categorías y subcategorías permitió posteriormente identificar tensiones estructurales asociadas a la incorporación de inteligencia artificial en el proceso judicial (Strauss & Corbin, 2002; Saldaña, 2021).
Para asegurar el rigor metodológico, se aplicaron estrategias de triangulación entre entrevistas y observación contextual, revisión cruzada de codificación entre investigadores y verificación de saturación temática, criterios ampliamente utilizados en investigación cualitativa para fortalecer la consistencia interpretativa y la validez analítica de los hallazgos (Flick, 2015; Hernández-Sampieri & Mendoza Torres, 2018).
4. Percepción de los profesionales del derecho del uso de la IA en procedimientos del sistema de justicia peruano: Resultados
El análisis de las entrevistas mostró que la aceptación del uso de la inteligencia artificial en el sistema judicial es, mayoritariamente, instrumental. Los participantes coincidieron en su utilidad principalmente en tareas de apoyo como la búsqueda jurisprudencial, la organización documental, la redacción asistida y la sistematización de información procesal. Esta aceptación, no obstante, se vio condicionada por preocupaciones persistentes en relación con la transparencia algorítmica, la supervisión humana y la preservación de garantías procesales.
En el presente trabajo se entiende por aceptación condicionada la disposición de los operadores jurídicos a admitir el uso de herramientas de inteligencia artificial solo en tareas instrumentales o preparatorias, siempre que exista supervisión humana significativa y no se delegue el razonamiento jurisdiccional central a sistemas automatizados.
4.1. Operatividad tecnológica
Las pruebas empíricas muestran un uso generalizado, pero no institucionalizado, de las herramientas de IA entre los profesionales encuestados. «El uso está destinado a tareas preparatorias: redacción asistida, jurisprudencia, resumen de documentos, categorización de archivos, organización de casos».
El discurso revela una concepción compartida de la utilidad práctica. La IA es un acelerador cognitivo que reduce los tiempos de procesamiento y ayuda a esbozar la primera línea de argumentación. E1 afirma que estas herramientas «ahorran tiempo, pero no sustituyen al juicio», y E3 destaca que «son útiles para una primera aproximación, no para tomar decisiones». Esta concepción es coherente con la bibliografía que considera la IA jurídica como un potenciador profesional más que como un sustituto estructural (McGinnis y Pearce, 2014; Susskind, 2019).
Este patrón se alinea con losplanteamientos de Wirtz et al. (2019) sobre transformación digital en el sector público, la cual reconoce en la automatización un impulsor de eficiencia periférica sin modificar de inmediato el núcleo del proceso de toma de decisiones).
Sin embargo, ninguno de los entrevistados reconoció haber dejado la interpretación de las normas, la ponderación de los principios o la evaluación de las pruebas en manos de sistemas automatizados. Este límite autoimpuesto es uno de los hallazgos más consistentes de la investigación. Este límite normativo internalizado refuerza la agencia humana en las decisiones de alto nivel (Rudin, 2019).
4.2. Riesgo procesal percibido: opacidad, sesgo y asimetría
Junto con la aceptación operativa, surge un eje estructural de riesgo procesal percibido. Hay tres preocupaciones que se repiten: la falta de interpretabilidad, la replicación de sesgos históricos y la creación de contenido falso o inexistente (alucinaciones).
La caja negra algorítmica se considera incompatible con el deber de motivación y contradicción (Wachter et al., 2017). E7 resume esta preocupación: «Si no sé con qué datos ha trabajado, no puedo utilizarlo». Esta necesidad de trazabilidad se hace eco de la literatura sobre la transparencia algorítmica y la confianza pública (Grimmelikhuijsen & Meijer, 2022).
Las preocupaciones sobre el sesgo se refieren a la posibilidad de amplificar las desigualdades estructurales cuando los modelos se entrenan con datos históricos sin procesar. Esta cuestión se hace eco de los debates sobre los conflictos entre las métricas de equidad y la discriminación estructural en los modelos predictivos (Chouldechova, 2017).
Además, algunos usuarios informan de la creación de jurisprudencia inexistente o citas erróneas, un riesgo ya reconocido por las investigaciones actuales sobre la IA generativa en el ámbito jurídico (Susskind, 2019). Es importante señalar que estos riesgos no se plantean como problemas técnicos, sino como problemas constitucionales. Las amenazas se expresan en términos de igualdad de condiciones, contradicción real, imparcialidad, razón suficiente.
La fase probatoria se reconoce como la parte más vulnerable del proceso. La evaluación de las pruebas es un ejercicio contextual y razonado que no puede automatizarse. Esto demuestra que la legitimidad algorítmica en la justicia se juzga en términos de garantías, no de tecnicismos. El cambio en el enfoque de la evaluación, que pasa de la precisión estadística a la compatibilidad constitucional, es una de las principales contribuciones de la investigación.
4.3. Condiciones de legitimidad: hacia una motivación algorítmica reforzada.
Pero más allá de los riesgos, los encuestados establecieron condiciones para la legitimidad de la IA, como la supervisión humana adecuada, registro en el expediente judicial, identificación de la herramienta y su versión, verificación independiente de los resultados y descripción de la contribución algorítmica.
E8 lo deja claro: «No basta con decir que he utilizado IA; hay que decir qué ha hecho». Este requisito va más allá de la transparencia declarativa y exige la integración argumentativa del apoyo tecnológico. En la práctica, esto ya representa un importante cambio conceptual: ya no se trata de si se debe utilizar la IA, sino de en qué circunstancias su uso es constitucionalmente lícito. La legitimidad ya no es una cuestión de todo o nada, sino de procedimiento.
Este patrón está en consonancia con la supervisión humana consagrada en la Ley Europea de IA (European Parliament & Council of the European Union, 2024) y con la literatura que aboga por modelos interpretables en contextos de alto riesgo (Rudin, 2019). De estas condiciones surge el esquema interpretativo condicional con legitimidad reforzada, con tres ejes: usabilidad instrumental en tareas preparatorias, no delegación de la toma de decisiones en las etapas centrales y mayor motivación cuando la IA afecta materialmente al proceso de razonamiento. Este modelo convierte las tensiones tecnológicas en normas procesales de debido proceso.
4.4. Tensiones estructurales en la integración de la IA en el proceso judicial
El análisis transversal de las categorías empíricas permitió no solo describir las formas de uso y las condiciones de legitimidad, tensiones estructurales que atraviesan la incorporación de la IA en la práctica jurídica. Estas tensiones reflejan conflictos normativos entre la racionalidad algorítmica y la arquitectura constitucional del proceso judicial (Wirtz et al., 2019).
La primera tensión es entre la eficiencia y la igualdad procesal. Si bien la IA es valorada por su capacidad para ahorrar tiempo y mejorar la preparación de los escritos, los entrevistados mencionan que el acceso desigual a las tecnologías de IA puede profundizar las asimetrías entre las partes. Cuando una parte dispone de sistemas capaces de procesar grandes volúmenes de información en cuestión de minutos y la otra carece de ellos, la igualdad de condiciones puede verse comprometida (Grimmelikhuijsen & Meijer, 2022).
La segunda tensión se da entre la automatización y la motivación judicial. El deber constitucional de proporcionar un razonamiento exige que las decisiones sean reconstruibles de forma argumentativa y susceptibles de control racional. La caja negra algorítmica puede entrar en conflicto con esta norma cuando la justificación judicial se basa en un razonamiento interno incomprensible o no verificable (Pasquale, 2015). Como ha argumentado Rudin (2019), en los casos de alto riesgo, los modelos directamente interpretables deben preferirse a las «cajas negras», cuya explicación posterior no garantiza la comprensión.
La tercera tensión es entre la eficiencia y la equidad. Las bases de datos históricas para entrenar modelos pueden reproducir sesgos estructurales de discriminación o desigualdad que se encontraban anteriormente en la práctica jurídica (Engel et al., 2025). La equidad algorítmica ha demostrado que diversas métricas de equidad (por ejemplo, la calibración o la paridad de errores) son incompatibles entre sí y no eliminan necesariamente los sesgos sistémicos (Chouldechova, 2017). En el caso analizado, los participantes creen que la búsqueda de una mayor velocidad o previsibilidad puede entrar en conflicto con el principio de no discriminación si los sistemas replican sesgos ocultos en los datos de entrenamiento.
Por último, se reconoce la tensión entre innovación y responsabilidad. Cuando una decisión está en manos de sistemas de terceros o arquitecturas técnicas cerradas, ¿a quién se culpa de los fallos, sesgos o daños? La dispersión entre el diseñador, el proveedor de tecnología y el operador legal puede crear lagunas de responsabilidad que no encajan en las categorías tradicionales del derecho procesal y disciplinario (Malgieri, 2024).
Basándose en las tensiones estructurales identificadas y en el nuevo esquema interpretativo condicional con legitimidad reforzada, el caso del Distrito Judicial de Ica ofrece tres contribuciones importantes al debate mundial sobre la IA y la justicia. Estas contribuciones no solo enriquecen el conocimiento contextual, sino que también entablan un diálogo crítico con la literatura sobre la gobernanza algorítmica, la legitimidad procesal y la rendición de cuentas automatizada.
Primero, el artículo evidencia empíricamente un caso judicial subnacional latinoamericano, un área poco estudiada en casos comparados del norte global. La mayoría de la literatura de IA en la justicia se centra en modelos altamente digitalizados en Europa o América del Norte, donde la infraestructura tecnológica y los marcos legales están más establecidos (Wirtz et al., 2019; Grimmelikhuijsen & Meijer, 2022). La evidencia permite afirmar que, en lugares con infraestructura desigual y marcos regulatorios en construcción, la adopción tecnológica no siempre sigue caminos lineales de modernización, sino procesos negociados y situados normativamente. Este hallazgo cuestiona algunas ideas extendidas sobre la aceptación, la resistencia o el efecto, y convierte la variable contextual en una variable de legitimidad algorítmica.
En segundo lugar, el estudio reconoce una cultura jurídica de control tecnológico. Esta cultura no es tecnofóbica ni enemiga de la innovación, sino de su integración prudente, controlada y subordinada a la Constitución. Los operadores jurídicos admiten la asistencia instrumental de la IA para las labores preparatorias, pero fijan límites estrictos para su uso en el corazón de la decisión: la apreciación de la prueba y la motivación de la decisión. Esta restricción es una forma débil de gobernanza algorítmica, en línea con la tesis de que la legitimidad en las decisiones de alto riesgo necesita un control humano significativo y modelos explicables (Rudin, 2019). Además, se hace eco de las discusiones contemporáneas sobre responsabilidad y rendición de cuentas algorítmica en sistemas de alto riesgo (Malgieri, 2024; Malgieri, 2023). La evidencia sugiere que esta limitación no se deriva de la ley, sino de prácticas profesionales internalizadas que generan barreras normativas a la automatización de la decisión.
En tercer lugar, la investigación propone una aproximación conceptual sobre las condiciones de legitimidad para la incorporación de inteligencia artificial en el proceso judicial. Esta aproximación identifica tres condiciones interpretativas recurrentes en los discursos de los operadores jurídicos: (i) utilidad instrumental en las fases iniciales; (ii) no delegación de la toma de decisiones en las fases centrales del razonamiento jurídico; y (iii) motivación reforzada cuando la IA influye en la construcción argumentativa. Más que constituir un modelo cerrado o predictivo, esta propuesta conceptual articula criterios de legitimidad percibidos por los participantes y dialoga con debates contemporáneos sobre gobernanza algorítmica, supervisión humana significativa, trazabilidad y debido proceso en sistemas judiciales digitalizados. Su relevancia teórica radica en convertir las tensiones tecnológicas en normas prácticas compatibles con la arquitectura basada en garantías del proceso.
La evidencia muestra, entonces, que la legitimidad algorítmica en la justicia no surge de la sofisticación técnica o las métricas estadísticas de precisión predictiva que dominan las conversaciones sobre la justicia algorítmica (Chouldechova, 2017), sino más bien de su alineación narrativa y procedimental con la motivación judicial. La tecnología se justifica en la medida en que su acción es visible, trazable, controlable y subordinada al control humano. La aceptabilidad no la proporciona el algoritmo en sí mismo, sino su encaje en una estructura argumentativa compatible con la racionalidad jurídica y el debido proceso.
Este cambio de la ejecución técnica a la integración constitucional es la mayor contribución teórica de la investigación. Al basar la legitimidad algorítmica en la compatibilidad con las garantías en lugar de en la eficiencia predictiva, el caso Ica abre una agenda de investigación comparativa para analizar cómo los diferentes marcos jurídicos negocian la tensión entre la innovación tecnológica y los derechos fundamentales. En este sentido, la contribución no es solo local, sino que se puede extrapolar analíticamente a otros contextos en los que la digitalización judicial avanza de la mano de la consolidación de marcos normativos sobre la IA.
5. Conclusiones
Los operadores jurídicos del Distrito Judicial de Ica perciben la incorporación de herramientas de inteligencia artificial en el sistema de justicia peruano. La aceptación de estas tecnologías se encuentra condicionada por criterios de legitimidad jurídica vinculados con supervisión humana, transparencia algorítmica, trazabilidad y protección del debido proceso.
La IA es percibida principalmente como un mecanismo de apoyo técnico e instrumental, útil para optimizar tareas documentales y de análisis preliminar, pero insuficiente para sustituir el razonamiento jurisdiccional humano en decisiones que comprometen derechos fundamentales. En este sentido, las percepciones identificadas reflejan una tensión persistente entre eficiencia tecnológica y garantías constitucionales del proceso judicial.
Desde una perspectiva teórica, el estudio contribuye al debate contemporáneo sobre gobernanza algorítmica y legitimidad institucional en contextos judiciales latinoamericanos subnacionales, aportando evidencia empírica sobre las condiciones bajo las cuales los operadores jurídicos consideran aceptable la integración de sistemas automatizados en el ejercicio jurisdiccional.
Entre las principales limitaciones se encuentran el alcance territorial del estudio y el carácter cualitativo de la muestra, por lo que futuras investigaciones podrían ampliar el análisis hacia otros distritos judiciales, incorporar enfoques comparados y explorar diferencias entre especialidades jurisdiccionales y niveles de digitalización institucional.
Referencias
Cabrera, B. M., Luiz, L. E., Cavalcante, D. L., & Teixeira, J. P. (2024). History of technological evolution in the Brazilian judiciary system and the application of artificial intelligence. Procedia Computer Science, 239, 1188–1195. https://doi.org/10.1016/j.procs.2024.06.286
Casey, A. J., & Niblett, A. (2016). Self-driving laws. The University of Toronto Law Journal, 66(4), 429–442. https://doi.org/10.3138/utlj.4006
Chouldechova, A. (2017). Fair prediction with disparate impact: A study of bias in recidivism prediction instruments. Big Data, 5(2), 153–163. https://doi.org/10.1089/big.2016.0047
Creswell, J. W., & Poth, C. N. (2018). Qualitative inquiry and research design: Choosing among five approaches (4th ed.). Sage Publications.
Denzin, N. K., & Lincoln, Y. S. (2018). The Sage handbook of qualitative research (5th ed.). Sage Publications.
Dressel, J., & Farid, H. (2018). The accuracy, fairness, and limits of predicting recidivism. Science Advances, 4(1), eaao5580. https://doi.org/10.1126/sciadv.aao5580
Engels, C., Linhardt, L., & Schubert, M. (2025). Code is law: how COMPAS affects the way the judiciary handles the risk of recidivism. Artificial Intelligence and Law, 33(2), 383–404. https://doi.org/10.1007/s10506-024-09389-8
European Commission for the Efficiency of Justice. (2018). European ethical charter on the use of artificial intelligence in judicial systems and their environment. Council of Europe. https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c
European Parliament & Council of the European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689
Flick, U. (2015). Introducción a la investigación cualitativa (3.ª ed.). Ediciones Morata.
Grimmelikhuijsen, V., & Meijer, A. (2022). Legitimacy of algorithmic decision-making: Six threats and the need for a calibrated institutional response. Perspectives on Public Management and Governance, 5(3), 232–242. https://doi.org/10.1093/ppmgov/gvac008
Hernández-Sampieri, R., & Mendoza Torres, C. P. (2018). Metodología de la investigación: Las rutas cuantitativa, cualitativa y mixta. McGraw-Hill Education.
Hildebrandt, M. (2018). Law as computation in the era of artificial legal intelligence: Speaking law to the power of statistics. The University of Toronto Law Journal, 68(supplement 1), 12–35. https://doi.org/10.3138/utlj.2017-0044
Malgieri, G. (2023). Risk-based approaches to AI governance under the EU AI Act. European Journal of Risk Regulation, 14(3), 482–497. https://doi.org/10.1017/err.2023.34
Malgieri, G. (2024). Artificial intelligence, automated decision-making, and accountability under the EU AI Act. Computer Law & Security Review, 52, 105907. https://doi.org/10.1016/j.clsr.2024.105907
McGinnis, J. O., & Pearce, R. G. (2014). The great disruption: How machine intelligence will transform the role of lawyers in the delivery of legal services. Fordham Law Review, 82(6), 3041–3066. https://ir.lawnet.fordham.edu/flr/vol82/iss6/11
Merriam, S. B., & Tisdell, E. J. (2016). Qualitative research: A guide to design and implementation (4th ed.). Jossey-Bass.
Mittelstadt, B. (2019). Principles alone cannot guarantee ethical AI. Nature Machine Intelligence, 1(11), 501–507. https://doi.org/10.1038/s42256-019-0114-4
Münch, L. A. C., & Ferraz, T. S. (2024). Exploring defuturing to design artificial-intelligence artifacts: A systemic-design approach to tackle litigiousness in the Brazilian Judiciary. Laws, 13(1), 4. https://doi.org/10.3390/laws13010004
Neuwirth, R. J. (2022). The EU artificial intelligence act: Regulating subliminal AI systems. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.4135848
Pasquale, F. (2015). The black box society and algorithmic accountability. Law and Contemporary Problems, 78(1–2), 1–18.
Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1(5), 206–215. https://doi.org/10.1038/s42256-019-0048-x
Saldaña, J. (2021). The coding manual for qualitative researchers (4th ed.). Sage Publications.
Socol de la Osa, D. U., & Remolina, N. (2024). Artificial intelligence at the bench: Legal and ethical challenges of informing—or misinforming—judicial decision-making through generative AI. Data & Policy, 6(e59). https://doi.org/10.1017/dap.2024.53
Sourdin, T. (2018). Judge v robot? Artificial intelligence and judicial decision-making. The University of New South Wales Law Journal, 41(4). https://doi.org/10.53637/zgux2213
Strauss, A., & Corbin, J. (2002). Bases de la investigación cualitativa: Técnicas y procedimientos para desarrollar la teoría fundamentada. Editorial Universidad de Antioquia.
Susskind, R. (2019). Online courts and the future of justice. Oxford University Press. https://doi.org/10.1093/oso/9780198838364.001.0001
Tripathi, P., Malik, A., & Aggarwal, A. (2025). Artificial intelligence in judicial decision-making: Opportunities, risks and ethical implications. En Artificial intelligence-driven research in modern legal education in India (pp. 5–31). Integrity Education.
Veale, M., & Zuiderveen Borgesius, F. J. (2021). Demystifying the draft EU Artificial Intelligence Act. Computer Law & Security Review, 42, 105589. https://doi.org/10.1016/j.clsr.2021.105589
Wachter, S., Mittelstadt, B., & Russell, C. (2017). Counterfactual explanations without opening the black box: Automated decisions and the GDPR. En arXiv [cs.AI]. https://doi.org/10.48550/arXiv.1711.00399
Wirtz, B. W., Weyerer, J. C., & Geyer, C. (2019). Artificial intelligence and the public sector—applications and challenges. International Journal of Public Administration, 42(7), 596–615. https://doi.org/10.1080/01900692.2018.1498103