Cómo detectar y prevenir el odio en los medios de comunicación digitales a través de Hatemedia

Elias Said-Hung/ Julio Montero-Díaz

UNIR Revista inicia con este artículo una serie de 10 capítulos sobre el odio y la desinformación en las redes sociales y en los medios de comunicación digitales, con el proyecto Hatemedia que ha desarrollado UNIR en colaboración con otras universidades como protagonista.

El odio en redes sociales representa uno de los mayores desafíos para la convivencia digital en la actualidad. Las plataformas sociales, se han convertido en espacios donde la discriminación y la hostilidad verbal, gráfica y audiovisual se renuevan constantemente en una escalada continuada. Son escenarios en los que se promueven prejuicios y estereotipos y generan polarización en torno a ellos. El resultado es que se resiente la cultura democrática y se reducen progresivamente los espacios abiertos a la racionalidad del debate, al respeto a las opiniones contrarias, incluso a la tolerancia.

Los medios informativos digitales no son ajenos a estos problemas. Al margen de su enfoque editorial (ideológico), sus noticias más objetivas se vienen convirtiendo muchas veces en ocasión para que la intolerancia, la descalificación e incluso el insulto encuentren espacios para su desarrollo. Los lectores-actores convierten los debates sobre esas noticias en foros de discriminación y polarización.

Proyecto Hatemedia: alcance y resultados destacados

Esa situación ha hecho que se incrementen cada vez más los trabajos académicos que analizan este problema. En esa línea de responsabilidad social se inscribe desde junio de 2021 el proyecto Hatemedia, que ha desarrollado UNIR en colaboración con otras instituciones universitarias. Lo ha financiado el Ministerio de Ciencia, Innovación y Universidades y la Agencia Estatal de Investigación.

Hatemedia pretende:

• Comprender mejor las redes y procesos de difusión de las expresiones de odio en los entornos digitales que generan los medios informativos digitales en España.
• Detectar y monitorear estas expresiones.

Merced a Hatemedia hoy se conoce mejor este fenómeno. Su objetivo era ambicioso: por primera vez se ha trabajado durante un periodo largo de tiempo (no para campañas concretas) y sobre un volumen de datos que superaba ampliamente los de trabajos anteriores. Se analizaron más de 19 millones de datos recabados en X, Facebook y webs de los medios informativos digitales tomados como casos de estudio. Se recolectaron desde enero de 2021 hasta la fecha. Esa riquísima información ha permitido delimitar diferentes tipologías de odio (político, misógino, sexual, xenófobo y general o indiferenciado) y sus distintas intensidades.

Los resultados de Hatemedia son muy variados. Primero, se ofrecen herramientas que permiten detectar el volumen y proporción de las expresiones de odio en estas plataformas. La más interesante es el Monitor de Odio, y su cuadro de mando (dashboard), que muestran indicadores de evolución de las expresiones detectadas. También se han diseñado algoritmos de clasificación de odio.

Entre los resultados más destacados se ha demostrado que, al margen de sus sistemas propios de moderación, en las secciones de comentarios en sus páginas web, 5 de cada 10 mensajes publicados por sus lectores contienen algún tipo de odio. Estos resultados no son muy distintos de los que ofrecen sus versiones de X y Facebook, donde 6 de cada 10 mensajes se asocian al odio.

Otro dato destacado es que el odio político (35%) y general o indefinido (30%) son los principales tipos de odio que muestran estos espacios de debates que promueven los medios informativos digitales españoles, tanto en sus webs como desde plataformas sociales como X y Facebook.

Tiene interés igualmente que sea el odio de ‘baja intensidad’ (expresiones incívicas y malintencionadas) el que más se promueve en los escenarios digitales analizados (7 de cada 10 mensajes, aproximadamente), frente al odio de mayor intensidad (insultos o amenazas).

En resumen: un escenario digital en el que la hostilidad mediática es especialmente alta, aunque no predomine la violencia verbal. Sin embargo, la situación contribuye a facilitarla en la opinión pública de nuestra sociedad.

Desafíos y continuidad del trabajo iniciado en Hatemedia

Estos primeros resultados generados en Hatemedia son el inicio de una línea que continuará mediante nuevos proyectos que darán continuidad al trabajo de los últimos cuatro años. Uno de los principales resultados generados ha sido la formación y consolidación de un equipo de investigación interdisciplinar, que cuenta ya con una dinámica de trabajo valiosa. Su principal activo es la capacidad de establecer diferentes enfoques de aproximación al análisis del odio en los escenarios digitales desde diversas disciplinas.

Los resultados del análisis y las herramientas desarrolladas (como el Monitor de Odio y su cuadro de mando) servirán para aplicar un ‘termómetro’ eficaz a instituciones públicas, medios informativos, asociaciones profesionales y actores académicos, interesados en desarrollar políticas preventivas que mitiguen sus efectos perniciosos.

El equipo tiene clara conciencia de los desafíos que se le presentan. Pretendemos extender la frontera de conocimiento alcanzado en Hatemedia para conocer mejor el perfil de los diseminadores de odio y sus estrategias más allá de los primeros resultados de los análisis exploratorios realizados. Esto permitirá avanzar en el diseño de tácticas, técnicas y procedimientos (TTP), basados en modelos como el Kill Chain, que ayuden de modo más efectivo frente a la diseminación de estas expresiones.

También se pretenden enriquecer las herramientas de clasificación, detección y visualización de indicadores. Se quieren desarrollar los de análisis multimodal y atender a una mayor amplitud de recursos narrativos en este tipo de mensajes (texto, audio, vídeo, emojis e imágenes, por ejemplo).

Un paso más será igualmente el incremento de las redes académicas e institucionales que posibiliten análisis globales más acordes con las dimensiones de esta difusión. Se prestará especial atención al español como eje lingüístico central. Esto exigirá contar con equipos de expertos de diferentes países.

En el ámbito de la responsabilidad social se promoverán acciones formativas para difundir el conocimiento generado. Se pretende formar en habilidades y competencias de análisis crítico para enfrentarse personalmente a tipo de expresiones en los ambientes sociales y profesionales. En la misma línea, se abrirán espacios que ayuden a transferir estas conclusiones al mayor número de agentes sociales posibles.

Hasta ahora, estos desafíos los ha asumido el equipo a cargo de Hatemedia y se han traducido en más de 60 publicaciones (académicas y divulgativas) hasta la fecha. Otras están iniciadas y se concluirán antes del cierre formal del proyecto (junio, 2025).

La hoja de ruta a corto y medio plazo para 2025 prevé avanzar en:

• Propuestas de investigación nacionales y europeas. Ampliación de redes universitarias e institucionales.
• Suscripción de convenios con otras instituciones interesadas, en español.
• Acciones para promover una cultura abierta, racional y tolerante en los espacios digitales y formación de capital humano destinado para tal fin.

En línea con estas acciones, al presente documento le acompañan contenidos publicados desde UNIR que abordarán temas como:

• Conceptos claves que ayuden a comprender las relaciones entre desinformación y odio.
• El impacto del odio político contra las mujeres que ejercen dicha actividad en España.
• El perfil de los odiadores.
• Algoritmos y técnicas de IA para detectar y clasificar las expresiones de odio.
• Contar con un Monitor de Odio similar al de Hatemedia y avanzar en la escalabilidad de éste; el reto de detectar odio, a través de este tipo de recursos.
• La formación como recurso frente al odio.

Estos contenidos los desarrollarán miembros y colaboradores del proyecto Hatemedia, proyecto de transferencia MELIN (generado como resultado del primero) y grupos de investigación SIMI de UNIR, entre otros.

(*) Elías Said-Hung es codirector del proyecto Hatemedia. Catedrático de Ciencias Sociales y doctor en Ciencias de la Información. Preside la Asociación Ciencia, Tecnología y Sociedad (CITESOC) y es docente en la Facultad de Educación de UNIR, aunque su verdadera pasión es la investigación, que satisface como miembro del Grupo de Investigación Inclusión Socioeducativa e Intercultural, Sociedad y Medios (SIMI) de la universidad. También es director de la Revista Española de Pedagogía de UNIR, autor de multitud de trabajos y estudios publicados en revistas científicas y editor de una veintena de libros académicos.

(*) Julio Montero, exvicerrector y catedrático de la Universidad Internacional de La Rioja desde octubre de 2014 y excedente como catedrático de Historia de la Comunicación Social (desde 2007) en la Universidad Complutense de Madrid. Autor de numerosos libros, es codirector junto a Elías Said-Hung de Hatemedia, un proyecto disruptivo en el panorama de la información en España, que cuenta con la financiación del Ministerio de Ciencia, Innovación y Universidades, formado por un equipo multidisciplinar compuesto por expertos en lingüística, ingeniería informática, ciencias sociales y comunicación, que han creado una base de datos con más de 7.200 términos asociados a expresiones de odio en español.

Consulta aquí la última entrevista a Elías Said-Hung publicada en UNIR Revista.

Resuelve tus dudas y amplía tus conocimientos

¿Cuáles son los medios tomados como casos de estudio para el desarrollo de Hatemedia?

El País, El Mundo, ABC, 20 Minutos y La Vanguardia.

¿En qué consisten los mensajes de odio?

La proliferación de mensajes dirigidos contras personas o colectivos sociales vulnerables (como por ejemplo las mujeres, los colectivos LGTBIQ+ o los inmigrantes, entre otros) por motivos raciales, de origen o género, de orientación sexual, religiosos o políticos.

¿En qué consiste el modelo Kill Chain?

Son estrategias que pretenden desarrollar tácticas, técnicas y procedimientos (TTP) destinados a limitar los efectos nocivos de estos mensajes de odio, sin menoscabar la libertad de expresión. Se aplica en entornos de ciberseguridad. Algunos autores e instituciones (Buccino, 2023; la OTAN, 2022; Fundación DISARM, 2023; el Grupo de Acción Exterior de la UE, 2023 y 2024; el Centro Europeo de Excelencia para la Lucha contra las Amenazas Híbridas de la Unión Europea, 2023 y el Ministerio de la Presidencia y DSN, 2024) ya han señalado su eficacia frente a los contenidos desinformativos y su utilidad ante un potencial ciberataque.