Este proyecto se enfoca en abordar el creciente desafío del discurso de odio en entornos digitales, analizando múltiples plataformas y manifestaciones de odio.
La era digital se enfrenta a retos y desafíos por la extensa cantidad de información que existen en publicaciones, donde muchas de ellas son negativas y poseen discursos de odio. La Universidad Internacional de La Rioja (UNIR) ha desarrollado un revolucionario ‘Monitor de Odio’ para identificar y analizar expresiones cargadas de odio en publicaciones en línea.
El director del Proyecto del Monitor de Odio de la UNIR, Julio Montero, explica que este algoritmo sofisticado examina tres modalidades de publicaciones: la versión web de los diarios, la versión en Facebook y la versión en X (antes llamado Twitter). El proceso implica la descarga de contenidos y un análisis basado en un algoritmo alimentado previamente con etiquetas de alrededor de 1,200,000 mensajes, detectando desde insultos hasta llamadas a la acción contra grupos vulnerables.
La detección del odio se realiza aplicando el algoritmo a las versiones web y redes sociales mencionadas anteriormente. Este proceso implica la descarga de información y el análisis de las expresiones a través del algoritmo, siendo esencial tanto la recolección de datos como su análisis para identificar patrones y manifestaciones de odio en el contenido digital.
El algoritmo se centra en analizar expresiones de odio en las versiones web oficiales de los diarios, así como en sus perfiles de Facebook y Twitter. Examina una amplia gama de manifestaciones, desde prejuicios y estereotipos hasta expresiones violentas proporcionando una visión integral del odio en línea. Es crucial analizar los niveles de odio, ya que el algoritmo no solo detecta el odio en sí, sino las expresiones que lo acompañan. Estas expresiones, desde insultos hasta llamadas a la violencia, sirven como indicadores del clima de odio en una sociedad, siendo fundamental entender este fenómeno para abordar sus raíces y buscar soluciones efectivas.
El director del proyecto destaca que el odio no es generado por los propios medios, sino principalmente por usuarios anónimos en los foros de discusión asociados con noticias. El anonimato fomenta expresiones intensas de odio, especialmente de carácter político, creando un desafío para las plataformas en línea. El odio se manifiesta en diversas formas y niveles de intensidad. Desde odio político hasta expresiones de odio hacia mujeres, discriminación por orientación sexual, raza e inmigración. La herramienta revela la necesidad de abordar diversas formas de odio presentes en los medios digitales.
Este algoritmo puede ser invaluable para las autoridades al detectar discursos de odio en sus etapas iniciales, permitiendo implementar soluciones preventivas y promover narrativas que desmonten los discursos de odio. La adaptación a diferentes países requerirá ajustes, pero la utilidad potencial es significativa. Julio Montero menciona que, el Proyecto del Monitor de Odio de la UNIR se expandirá primero a los países de lengua hispana, aunque se necesitarán ajustes para adaptarse a las peculiaridades lingüísticas y culturales. La posibilidad de expandirse a otros idiomas está en consideración, con adaptaciones necesarias para garantizar la precisión del análisis.
Frenar el odio en las redes sociales requiere un enfoque racional y de diálogo. La creación de espacios para el diálogo y la promoción de narrativas que desmientan los discursos odios son esenciales. La racionalidad debe prevalecer sobre la irracionalidad, y el diálogo debe ser la herramienta fundamental para contrarrestar el odio en línea y en la sociedad en general.