Interactive Workshop: The Future of Legal Systems in the Age of Artificial Intelligence — Institutional Design and Future Scenarios for 2035
Authors
Abstract
Taller académico e interactivo orientado al análisis prospectivo de la transformación de los sistemas jurídicos mediante la inteligencia artificial. A través de cinco escenarios institucionales proyectados hacia 2035, se examinan los límites de la automatización, la preservación de la autoridad humana, la gobernanza de datos, la transparencia, la auditabilidad, la responsabilidad y la tutela efectiva de los derechos.
Journal Title
Journal ISSN
Volume Title
Publisher
URL external
External URL
DOI
Date
Description
Taller académico interactivo desarrollado por la profesora Marta Gonzalo Quiroga como recurso de formación avanzada y reflexión prospectiva sobre el futuro de los sistemas jurídicos en el contexto de la inteligencia artificial. Su metodología combina escenarios hipotéticos, preguntas de análisis institucional y criterios de diseño orientados a que los participantes puedan evaluar de forma crítica cómo debería organizarse un sistema jurídico en el que determinadas funciones fueran asistidas o desarrolladas por sistemas de IA.
El taller se articula en torno a cinco escenarios institucionales proyectados hacia el año 2035. El primero plantea el diseño de un tribunal en el que la inteligencia artificial gestione la recepción y clasificación inicial de asuntos, la recuperación de información jurídica y determinadas tareas administrativas preliminares. El análisis exige determinar qué funciones deben permanecer bajo control humano, qué información debe ser objeto de transparencia, qué usos deben quedar prohibidos y cómo deben corregirse los errores producidos por el sistema.
El segundo escenario aborda una “AI Legislature”, en la que un Ministerio utiliza inteligencia artificial para comparar legislación, analizar respuestas a procesos de consulta y elaborar opciones regulatorias. Este supuesto permite examinar cuestiones relativas al control de los objetivos del sistema, la preservación de la responsabilidad democrática, la trazabilidad de las decisiones y la necesidad de validación humana antes de que una formulación normativa generada mediante IA pueda adquirir relevancia jurídica.
El tercer escenario se centra en una asociación profesional de abogados que desarrolla un asistente de inteligencia artificial destinado a jóvenes juristas. Se plantean cuestiones relativas a los estándares de verificación exigibles, la protección de la confidencialidad, el registro de consultas realizadas al sistema y la formación necesaria para garantizar un uso profesionalmente responsable de la herramienta.
El cuarto escenario se refiere a la utilización de inteligencia artificial en el ámbito probatorio. Un litigante presenta una grabación de vídeo aparentemente real cuya posible generación mediante IA debe ser determinada por el tribunal. El ejercicio plantea problemas relacionados con la acreditación de la autenticidad, la admisibilidad de evidencia técnica, la eventual exigencia de mecanismos de procedencia o metadatos y la necesidad de evitar que las nuevas exigencias tecnológicas conduzcan a la exclusión injustificada de pruebas auténticas.
El quinto escenario, específicamente referido a Marruecos en 2035, plantea el diseño de una estrategia nacional sobre inteligencia artificial y sistemas jurídicos. Los participantes deben considerar qué institución debería asumir el liderazgo, qué elementos deberían estar sujetos a control o soberanía nacional, qué funciones podrían automatizarse y cómo garantizar el acceso a la justicia de las personas en situación de exclusión o desigualdad digital.
Todos los escenarios se articulan mediante un conjunto común de principios de diseño institucional: limitación de la finalidad, mantenimiento de la autoridad humana, procedencia de las fuentes, gobernanza de datos, seguridad, auditabilidad, transparencia adecuada al contexto, posibilidad efectiva de impugnación, accesibilidad y supervisión continua. Esta estructura permite comparar soluciones y poner de manifiesto que la utilización de IA en sistemas jurídicos requiere no solo decisiones tecnológicas, sino decisiones institucionales y normativas sobre responsabilidad, derechos y distribución de autoridad.
El taller concluye con un debate sobre la proposición de que, para 2035, la IA debería asumir la mayor parte de las funciones rutinarias de los sistemas jurídicos, reservándose a las personas aquellas que impliquen juicios de valor. La cuestión final —quién determina qué debe considerarse una función “rutinaria”— permite identificar el problema constitucional subyacente: la propia clasificación de las funciones susceptibles de automatización constituye una decisión normativa e institucional.
En conjunto, este recurso constituye un instrumento de formación, investigación aplicada y debate académico destinado especialmente a estudiantes de doctorado, investigadores, docentes y profesionales jurídicos. Su enfoque prospectivo favorece el análisis crítico de los modelos futuros de justicia digital y de las decisiones institucionales necesarias para desarrollar sistemas de inteligencia artificial compatibles con los derechos, la responsabilidad, la rendición de cuentas y los principios del Estado de Derecho.
Palabras clave
Inteligencia artificial; futuro de los sistemas jurídicos; diseño institucional; escenarios prospectivos; justicia digital; gobernanza de la IA; automatización jurídica; autoridad humana; responsabilidad institucional; transparencia; auditabilidad; gobernanza de datos; prueba digital; evidencia generada mediante IA; soberanía tecnológica; acceso a la justicia; exclusión digital; Estado de Derecho; Marruecos; 2035.
Keywords
Inteligencia artificial, futuro de los sistemas jurídicos, diseño institucional, escenarios prospectivos, justicia digital, gobernanza de la IA, automatización jurídica, autoridad humana, responsabilidad institucional, transparencia, auditabilidad, gobernanza de datos, prueba digital, evidencia generada mediante IA, soberanía tecnológica, acceso a la justicia, exclusión digital, Estado de Derecho, Marruecos, 2035
Citation
Collections
Endorsement
Review
Supplemented By
Referenced By
Document viewer
Select a file to preview:
Reload

