PROPUESTA DE HERRAMIENTA DE PREVENCIÓN DE DISCURSOS DE ODIO EN REDES SOCIALES BASADA EN IA: ANÁLISIS JURÍDICO Y CRIMINOLÓGICO

Abstract

El presente trabajo analiza la viabilidad y legitimidad de los sistemas predictivos basados en inteligencia artificial como herramienta de intervención preventiva frente a los discursos de odio en redes sociales. A partir de una metodología cualitativa, desde la perspectiva jurídica y criminológica, se examinan los principales retos normativos, éticos y sociales que plantea el uso de algoritmos en el ámbito digital. Se propone el diseño conceptual de una herramienta, denominada Sistema WAVE, orientada a identificar y clasificar contenidos discriminatorios con el fin de fortalecer la prevención y fomentar respuestas institucionales de esta índole de forma efectiva y con respeto a las garantías de los Derechos. Se destaca la necesidad de una regulación que armonice el uso de tecnología predictiva con los derechos fundamentales y el conflicto con los límites del ius puniendi, evitando que la eficacia preventiva se imponga sobre las garantías del proceso penal. Este estudio busca generar una reflexión crítica en torno al uso de herramientas y tecnologías aplicadas a la justicia penal, y sin ánimo de agotar el debate, propone una herramienta coherente con los principios de un Estado social y democrático de Derecho.