MADRID 11 Mar. (EUROPA PRESS) -
El Ministerio de Inclusión, Seguridad Social y Migraciones presentó este martes en rueda de prensa el nuevo sistema de análisis de odio en redes, FARO 'Filtrado y Análisis de Odio en las Redes Sociales', en el que se pueden consultar datos en tiempo real, una una adaptación del monitor para la Observación del Odio en el Deporte que ha cedido LaLiga al departamento que dirige Elma Saiz.
En este sentido, la directora del Observatorio Español del Racismo y la Xenofobia (OBERAXE), Karoline Fernández, señaló en la presentación del sistema que FARO es "único" y que este incorpora el uso de la inteligencia artificial para la identificación y análisis a tiempo real de los contenidos de discurso de odio con motivación racista, xenófoba, islamófoba, antisemita y antigitana, publicados en cinco plataformas de redes sociales (Facebook, Instagram, TikTok, YouTube y X).
Los técnicos encargados del sistema expusieron que en 2025 se prevé una muestra anual de 3.500 contenidos, dividida en partes iguales (por periodos mensuales), sobre las que se realizarán las labores de revisión, análisis y reporte a las plataformas.
El número total de contenidos de discurso de odio notificados por el OBERAXE a lo largo del año 2024 fue de 2.871, por lo que el tamaño de la muestra anual inicial supondría un aumento de más del 20% sobre la cifra de los contenidos reportados en el año anterior. En esta misma línea, aseguraron que cuanto mayor sea la muestra, más fácil será que las plataformas retiren los contenidos que incluyan discursos de odio.
Fernández indicó que el OBERAXE inició la monitorización diaria del discurso de odio en redes sociales en el año 2020, en el contexto de la irrupción de la pandemia de COVID-19. Desde 2022, cuenta con la aplicación 'ALERTODIO', diseñada por la Universidad Politécnica de Valencia (UPV), para el registro y recogida de contenidos de discurso de odio identificados en las redes.
En concreto, el monitor FARO permite, de manera automatizada y a través de la incorporación de inteligencia artificial, la captación de contenidos de discurso de odio en las redes sociales y su categorización en tiempo real en base a las variables empleadas en el análisis. El desarrollo técnico del monitor fue realizado a través de Séntisis Intelligence.
Séntisis Intelligence cuenta con una tecnología propia de análisis del lenguaje especializada en el idioma español, que combina algoritmos avanzados y técnicas de inteligencia artificial con más de 100.000 reglas semánticas para poder filtrar la información y clasificarla según los criterios establecidos por el OBERAXE.
En cuanto a los datos, los técnicos del sistema explicaron que dentro del total de mensajes captados cada día, la categoría de "mensajes detectados" hace referencia a la suma de los contenidos filtrados a través de dos capas: por una parte, figuran los contenidos de discurso de odio, entendiendo el concepto de una manera estricta y; por otra, se añade una más amplia que integra los contenidos de discurso odioso y las narrativas discriminatorias.
LALIGA CEDE A INCLUSIÓN SU MONITOR PARA LA OBSERVACIÓN DEL ODIO
La directora del OBERAXEE también recordó que en octubre de 2024 el Ministerio de Inclusión, Seguridad Social y Migraciones y LaLiga firmaron un convenio de colaboración. Como resultado, este último cedió al departamento que dirige Elma Saiz su herramienta MOOD (Monitor para la Observación del Odio en el Deporte). El objetivo es que el Observatorio Español del Racismo y la Xenofobia (OBERAXE) pueda optimizar la estrategia de monitorización del discurso de odio en redes sociales.
Por su parte, el director de marca y estrategia de LaLiga, Ángel Fernández, instó a medios de comunicación y la sociedad en general a ser partícipes de la lucha contra los discursos de odio. "Porque nuestro gran enemigo es la sensación de impunidad", ha señalado.
"Hace unos meses firmamos este convenio con el Ministerio para tratar de poner a disposición el altavoz que tiene la medida y que tiene el fútbol, y sobre todo ceder esta herramienta para que los verdaderamente expertos que llevan años trabajando con Ministerio nos permitieran mejorar", aseguró para añadir que FARO va a ser una "herramienta de gran utilidad".