La investigadora Maite Martín, del grupo de investigación SINAI de la Universidad de Jaén, participó este pasado martes en el seminario internacional sobre Inteligencia Artificial para la Detección y Combate del Discurso de Odio en Redes Sociales que se celebró dentro del marco del Proyecto europeo Real-UP y que contó con más de 250 personas conectadas virtualmente. El seminario fue inaugurado por Pilar Cancela Rodríguez, Secretaria de Estado de Migraciones del Ministerio de Inclusión, Seguridad Social y Migraciones, y por Rafael Pérez Ruiz, Secretario de Estado de Seguridad del Ministerio del Interior.

La catedrática del Departamento de Informática de la UJA expuso el trabajo realizado por el grupo SINAI centrado en el uso de técnicas de Inteligencia Artificial basadas en Procesamiento del Lenguaje Natural (PLN) y Aprendizaje Automático para generar automáticamente contranarrativas que contrarresten el discurso de odio mediante un mensaje positivo, constructivo y veraz. “Una contranarrativa se refiere a una respuesta argumentativa o narrativa diseñada para contrarrestar, desafiar o desmontar un relato predominante que promueva prejuicios, estereotipos, discriminación o discurso de odio. En el contexto de la investigación y desarrollo en el ámbito de la inteligencia artificial y el procesamiento del lenguaje natural, la generación de contranarrativas implica la creación automática de contenido que presenta perspectivas alternativas, positivas y equilibradas con el objetivo de contrarrestar la narrativa perjudicial inicial. Este enfoque busca no solo identificar y analizar el discurso de odio, sino también proporcionar respuestas constructivas y educativas que promuevan la comprensión, la inclusión y la tolerancia”, ha explicado Maite Martín.

El Proyecto Real-UP, liderado por el Observatorio Español del Racismo y la Xenofobia (OBERAXE), tiene como objetivo mejorar las capacidades de las autoridades estatales para identificar, analizar, supervisar y evaluar el discurso de odio en línea. Busca desarrollar y fortalecer estrategias de contranarrativa contra el discurso de odio motivado por el racismo, la xenofobia, la islamofobia, el antisemitismo y el antigitanismo. “Esto se logrará mediante la generación de un mapa de buenas prácticas y herramientas didácticas efectivas para la contranarrativa del discurso de odio en la red”, indica la investigadora de la UJA.

En el último año, el grupo SIANI ha liderado investigaciones pioneras en la Generación Automática de Contranarrativas, utilizando grandes modelos de lenguaje, entre ellos los proporcionados por ChatGPT. Esta metodología innovadora se ha desarrollado en estrecha colaboración con la Oficina Nacional de Lucha contra los Delitos de Odio (ONDOD), entidad vinculada al Ministerio del Interior. Esta colaboración estratégica ha permitido la aplicación práctica de técnicas avanzadas, incluyendo el uso de modelos del lenguaje como GPT3.5 y GPT4 de OpenAI, así como modelos de código abierto como LLaMA o Mistral.

Los avances significativos logrados por el Grupo SINAI en la generación automática de contranarrativas han generado un notable interés en la comunidad científica. Estas investigaciones han sido presentadas en diversos foros, tanto nacionales como internacionales, destacando la calidad y relevancia de los resultados obtenidos. Estos logros no solo consolidan el papel del Grupo SINAI como referente en el campo, sino que también abren nuevas y emocionantes líneas de investigación, prometiendo un impacto significativo en el abordaje y comprensión del discurso de odio en línea.