Item type: Item , Access status: Open Access , Add to my list

Academic Presentation: Artificial Intelligence and Justice — Legal, Ethical and Governance Challenges, Comparative Case Analysis and Responsible AI in Justice

Abstract

Presentación académica ampliada elaborada e impartida por la profesora Marta Gonzalo Quiroga, de la Universidad Rey Juan Carlos, en Rabat (Marruecos) en 2026, en el marco de las actividades académicas desarrolladas durante su estancia de investigación en la Université Mohammed V de Rabat. El documento constituye un resultado de la actividad investigadora y de internacionalización desarrollada durante la estancia, destinado a la difusión de sus líneas de investigación y a la formación y discusión académica especializada. La presentación estudia la incorporación de la inteligencia artificial al ámbito de la justicia desde una perspectiva jurídica, ética e institucional. Su planteamiento se articula en torno al análisis de los derechos afectados, los datos utilizados, la función desempeñada por la tecnología, las garantías procedimentales y las estructuras de gobernanza y responsabilidad. El documento presta especial atención a la diferencia entre usos meramente asistenciales de la IA y aquellos en los que su influencia puede adquirir un carácter determinante en la adopción de decisiones jurídicamente relevantes. El análisis se desarrolla mediante un enfoque comparado basado en cuatro casos internacionales: State v. Loomis / COMPAS, sobre sistemas de evaluación de riesgo en el ámbito penal; SyRI, sobre perfilado algorítmico en la Administración pública; Mata v. Avianca, sobre el empleo de inteligencia artificial generativa en la actividad jurídica; y Moffatt v. Air Canada, sobre responsabilidad vinculada al uso de sistemas conversacionales. La presentación utiliza estos casos para examinar cuestiones diferenciadas de debido proceso, privacidad, proporcionalidad, transparencia, impugnabilidad, exactitud, responsabilidad profesional e institucional y efectos de la utilización de sistemas algorítmicos. Un elemento central del documento es el desarrollo de un método analítico estructurado en cinco dimensiones —derechos, datos, tecnología, procedimiento y gobernanza— concebido para evaluar jurídicamente los sistemas de inteligencia artificial empleados en contextos de justicia. A partir de este marco se examinan, entre otras cuestiones, la calidad y representatividad de los datos, los riesgos de sesgo y automatización, la transparencia y verificabilidad de los resultados, la posibilidad de corrección e impugnación y la identificación de las responsabilidades institucionales asociadas al diseño, despliegue y funcionamiento de estos sistemas. La presentación dedica asimismo un bloque específico a la supervisión humana significativa, analizando las condiciones que deben concurrir para que la intervención de un operador jurídico constituya un control efectivo y no meramente formal. En particular, se consideran la capacidad de comprender el papel desempeñado por la IA, identificar incertidumbres y posibles errores, apartarse de sus resultados y disponer de autoridad, tiempo y competencia suficientes para ejercer un juicio independiente. El documento incorpora además una dimensión aplicada y formativa mediante escenarios prácticos de análisis, ejercicios de workshop y una evaluación de 15 preguntas, junto con notas de impartición y referencias jurídico-académicas. Todo ello convierte la presentación en un recurso de difusión científica y formación avanzada dirigido especialmente a estudiantes de doctorado, investigadores, docentes universitarios y profesionales del Derecho. La presentación incluye también una aproximación específica al contexto marroquí y a los retos asociados al desarrollo de modelos de inteligencia artificial responsable para los servicios públicos de justicia, integrando de este modo la dimensión comparada e internacional propia de la estancia de investigación con su proyección académica, docente y de transferencia de conocimiento. Palabras clave: inteligencia artificial; justicia; justicia digital; gobernanza algorítmica; IA aplicada a la justicia; toma de decisiones judiciales; supervisión humana; derechos fundamentales; debido proceso; transparencia algorítmica; impugnabilidad; responsabilidad institucional; sesgo algorítmico; IA generativa; sistemas predictivos; Administración algorítmica; gobernanza responsable; transformación digital del Derecho; Derecho comparado.

Document viewer

Select a file to preview:
Reload