DESARROLLO DE UNA APLICACIÓN DE CHAT CON FUNCIONALIDADES DE DETECCIÓN DE CONTENIDO GENERADO POR IA EN IMÁGENES Y TEXTO

Abstract

En una sociedad donde las tecnologías están más cerca del usuario y las herramientas tecnológicas más modernas son más accesibles, surge un problema al que no se le ha prestado tanta atención: ¿Qué tan confiable puede ser el usuario medio a la hora de usar estas herramientas? ¿Qué tan ético se puede ser teniendo potentes artefactos al alcance de un clic y cuáles pueden ser las repercusiones? En relación a esto, en el presente documento hacemos referencia a un tema que ha tomado más fuerza en las últimas décadas: la generación de imágenes o identidades falsas usando técnicas de aprendizaje automático.

La mejora y optimización de este campo han hecho que finalmente el usuario común pueda alcanzar estas herramientas con solo acceder a una aplicación que ofrezca estos servicios, incluso de forma gratuita. Herramientas inicialmente sin ningún tipo de regulación y con un alcance explosivo podrían traer grandes problemas de integridad y confidencialidad. Estas vulnerabilidades sociales ya han sido explotados en otros campos, y podríamos estar ante una evolución del \textit{phishing} o \textit{smishing}.

Ante este problema, se presenta en esta propuesta un sistema ligero que ayude a detectar las principales arquitecturas o técnicas de generación de imágenes surgidas en los últimos años(como GANs y Stable Diffusion), usando igualmente técnicas de Deep Learning. Se hará uso de técnicas de pre-procesado a la vez que un análisis de los resultados, marcando incluso las secciones que han podido delatar a esa imagen.

Posteriormente, se explicará el desarrollo de una aplicación web que integra y permite ver en acción el uso de este modelo de clasificación. Se trata de una versión propia de aplicación de mensajería en tiempo real, que analizará las imágenes enviadas a través de ella para brindar al usuario una capa de seguridad, evitando fraudes o engaños y avisando sobre la veracidad de estas imágenes compartidas a través de la aplicación.

Finalmente, se realizará una integración completa además de un análisis de los resultados conseguidos.