The challenges of media and information literacy in the artificial intelligence ecology: deepfakes and misinformation

Abstract

En la ecología de la inteligencia artificial (IA), los modelos generativos permiten crear manipulaciones hiperrealistas en las que la precisión de los objetos audiovisuales los hace extraordinariamente verosímiles. Estas deepfakes son indetectables por sus elementos constitutivos, lo que acrecienta la preocupación sobre la distorsión de la realidad en el ecosistema informativo, y cómo la capacidad de discernir entre contenidos audiovisuales verdaderos y falsos afecta a la confianza pública y a los sistemas democráticos. Es un enorme desafío que la alfabetización mediática e informacional ayude a combatir eficazmente la desinformación. La investigación presenta los resultados de un cuasiexperimento realizado con 80 jóvenes de la Comunidad de Madrid con el fin de evaluar la capacidad de reconocimiento de las deepfakes dentro de ambientes inmersivos, y si los elementos identificadores de contexto condicionan la credibilidad de las imágenes. Los resultados muestran la pregnancia de las imágenes frente a estos identificadores, lo que inhibe una lectura crítica de la información que identifique las falsificaciones visuales, lo que se potencia por su extraordinaria verosimilitud. Se concluye que el nuevo bioma posthumanista de la realidad virtual y la inteligencia artificial requieren reenfocar los procesos de alfabetización mediática e informacional para concienciar y educar a la ciudadanía con el fin de reducir su vulnerabilidad a la desinformación basada en deepfakes creada con modelos generativo