Elías Said-Hung/ Julio Montero/ Sergio Arce-García
El papel de las redes sociales como fuente principal de información y su falta de regulación efectiva plantean desafíos en la calidad del debate público y la protección frente a desinformación y discursos polarizadores. Es necesario profundizar en el perfilado y caracterización de los emisores de odio.
Nuestras sociedades están cada vez más condicionadas por el impacto de las redes sociales en la formación de la opinión pública. Un estudio publicado por Save the Children en 2024 revela que más de la mitad de los jóvenes mayores de 14 años se informan principalmente a través de redes sociales, en lugar de recurrir a medios informativos tradicionales o incluso a amigos y familiares. Este cambio, nos sitúa en un contexto donde se observa una pérdida del rol de gatekeeper (guardián) que tradicionalmente ejercían los medios informativos al determinar qué es o no información válida.
Este fenómeno resulta especialmente preocupante por dos razones. Plataformas sociales como Facebook e Instagram han seguido los pasos de Twitter (ahora X) al abandonar sus programas de verificación de contenidos, delegando la responsabilidad de comprobar la veracidad de las publicaciones directamente en los usuarios. Pero también, porque el debate abierto durante la Cumbre sobre Inteligencia Artificial (IA) organizada en Francia en febrero de 2025 evidenció una postura clara, liderada por Estados Unidos, contraria a la regulación del sector, bajo el argumento de que era necesario asumir “riesgos necesarios” para fomentar el avance tecnológico en este campo.
En este contexto, el papel de las redes sociales como fuente principal de información y su falta de regulación efectiva plantean desafíos en la calidad del debate público y la protección frente a desinformación y discursos polarizadores.
No basta con avanzar en la comprensión del fenómeno de la desinformación y el discurso de odio. Se necesita profundizar en el perfilado y caracterización de los emisores de odio. Sobre todo, si lo que se busca es desarrollar tácticas, técnicas y procedimientos (TTP) que permitan implementar acciones tempranas de ataque y defensa. Este tipo de acciones son fundamentales para mitigar la viralización de mensajes que refuerzan prejuicios y estereotipos en la opinión pública.
Comprender quiénes son estos emisores y cómo operan es esencial para anticipar el movimiento de este tipo de usuario, reduciéndo así su influencia y proteger el debate público frente a dinámicas polarizadoras.
¿El odio es espontáneo o existe una coordinación detrás de este tipo de mensajes en las plataformas sociales? Aunque existe una cierta cuota de odio espontáneo en plataformas sociales como X (anteriormente Twitter), los resultados obtenidos en Hatemedia revelan indicios de coordinación entre usuarios. Por tanto, sería ingenuo interpretar la difusión del odio como un fenómeno aleatorio o aislado; sino más bien resulta necesario plantearlo como una acción organizada que busca el posicionamiento de narrativas que intentan legitimar intereses de grupos económicos e ideológicos específicos.
En el marco del proyecto Hatemedia, se han analizado más de 400.000 mensajes publicados por 1.000 usuarios identificados como diseminadores de odio en los debates generados en torno a las noticias compartidas por cinco de los principales medios informativos digitales en España (El Mundo, El País, ABC, 20 Minutos y La Vanguardia), durante enero de 2021. Contrario a lo que podría suponerse, estas cuentas no son de reciente creación, lo que descartaría la hipótesis de que se trate exclusivamente de bots creados ad hoc para campañas específicas. También, presentan características propias de estrategias como el astroturfing, tales como un bajo número de seguidores y seguidos, y destacan por una actividad significativamente superior a la media del resto de los usuarios participantes en los debates.
Otro rasgo identificable en los odiadores es la ausencia de información geográfica precisa en sus perfiles. La mayoría no especifica su ubicación o utiliza localizaciones ficticias. Este comportamiento refuerza la idea de que estas cuentas buscan camuflarse dentro del ecosistema digital mientras amplifican narrativas polarizadoras.
Estos hallazgos subrayan la importancia de seguir analizando las dinámicas y estrategias detrás de estos actores, cuyo impacto en la opinión pública y en los debates digitales es desproporcionado respecto a su número.
En cuanto a los temas predominantes, los usuarios odiadores se centran principalmente en cuestiones políticas y xenófobas. Aunque ocasionalmente comparten mensajes con expresiones de odio violentas o amenazantes, la mayoría de sus publicaciones tiene un nivel de intensidad más bajo. Estos mensajes suelen estar asociados con un tono malintencionado. Lo que hace que estos mensajes sean menos explícitos, pero igualmente dañinos. Además de permitirles a los odiadores posicionar sus narrativas de forma más sutil. Algo que les ayuda a evitar la detección inmediata o la moderación de los mensajes publicados por estos.
Uno de los rasgos distintivos de los usuarios que diseminan discursos de odio es el uso de un lenguaje sencillo y directo, diseñado para maximizar su impacto y alcance. Los mensajes presentan también similitudes estilométricas, aunque con modificaciones intencionales que buscan evitar la detección directa de la coordinación detrás de la viralización del odio promovido por estos usuarios. Además, se observa que publican en días y franjas horarias similares, lo que optimiza el alcance de sus mensajes a un mayor número de usuarios.
Lo expuesto hasta ahora, contribuye a reducir la resistencia cognitiva del receptor de los mensajes con expresiones divulgados por estos usuarios, y amplificar prejuicios y estereotipos, que se posicionan narrativamente mediante ataques dirigidos a deslegitimar a periodistas, medios informativos y políticos. Figuras públicas actúan como canales intermedios para enfocar los ataques hacia colectivos sociales vulnerables, como mujeres, comunidades LGTBIQ+, inmigrantes o la comunidad musulmana, por ejemplo. Todo con el fin último de consolidar narrativas discriminatorias que perpetúan estereotipos negativos y erosionan la cohesión social.
Consulta aquí el perfil de los odiadores en los medios informativos digitales en España.
El estudio de 1.000 odiadores, en el marco del proyecto Hatemedia, muestra que la mayoría de estos usuarios se agrupan en clústeres o comunidades interconectadas, las cuales están unidas por un pequeño grupo de usuarios, que representa el 5% del total analizado. Unos usuarios que adoptan posturas narrativas más extremas y actúan como nodos centrales dentro de la red, a través de la generación de mensajes con un alto grado de polarización. Unas publicaciones que son reforzadas y amplificadas por el resto de las cuentas que orbitan a su alrededor. Algo que hace más eficaz la diseminación de las narrativas de odio que intentan posicionarse dentro de la opinión pública en nuestras sociedades, desde las redes sociales.
El objetivo de Hatemedia y otros proyectos liderados por el grupo investigador a cargo, como por ejemplo el proyecto Hatereligion, recientemente beneficiario de una ayuda para su realización por la Fundación Pluralismo y Convivencia, es seguir contribuyendo al debate académico. Ello, por medio del desarrollo de nuevos enfoques de análisis que, no solo ayuden a detectar la existencia de expresiones de odio en los escenarios digitales de comunicación; sino también, para profundizar en el conocimiento sobre los usuarios que las generan.
La acción antes descrita resulta clave para que el Monitor de Odio y el Cuadro de Mando, desarrollados en el marco del proyecto Hatemedia, continúen evolucionando y se conviertan en herramientas que ayuden a otros a conocer bien cuánto odio se viraliza desde los propios canales institucionales.
La meta es convertir estas herramientas en recursos que no solo midan la cantidad de odio presente, sino que también proporcionen a los moderadores de cuentas vinculadas a medios informativos e instituciones, el acceso a indicadores que les ayude a implementar acciones efectivas para mitigar este tipo de mensajes, desde:
1) La adecuación de normas de participación para los usuarios que acceden a sus contenidos.
2) La mejora de las políticas de moderación de los comentarios publicados por otros usuarios.
3) La implementación de tácticas, técnicas y procedimientos (TTP) orientadas al ataque y defensa preventiva frente a estos emisores.
Unos usuarios, que buscan camuflarse con el resto de usuarios, para aprovechar lo que Granovetter describió en 1973 como la fuerza de los “vínculos débiles”, aprovechando así las conexiones periféricas para amplificar y viralizar sus mensajes.
En definitiva, comprender las dinámicas detrás del discurso de odio y sus emisores no solo es crucial para frenar su propagación, sino también para proteger el espacio público digital y fomentar un entorno más inclusivo y democrático.
Glosario de términos:
- Las TTP (acrónimo de Tactics, Techniques and Procedures, en inglés) son un concepto ampliamente utilizado en los campos de la ciberseguridad, la inteligencia militar y el análisis de amenazas digitales. Hace referencia a las tácticas, técnicas y procedimientos que emplean actores maliciosos (como hackers, grupos de cibercriminales o diseminadores de desinformación y odio) para llevar a cabo sus actividades delictivas.
- El astroturfing es una estrategia de manipulación de la opinión pública que consiste en crear la apariencia de un movimiento o apoyo popular espontáneo, cuando en realidad está organizado y financiado por entidades con intereses específicos, como empresas, partidos políticos o grupos ideológicos.
- La teoría de las fuerzas de vínculos débiles de Granovetter es una teoría de sociología y redes sociales que explica cómo las conexiones interpersonales influyen en la difusión de información, ideas y oportunidades en una red social. Granovetter sostiene que las fuerzas débiles son fundamentales para conectar diferentes clústeres o comunidades dentro de una red social. Mientras que las fuerzas fuertes consolidan la cohesión dentro de un grupo, las fuerzas débiles permiten que la información fluya entre comunidades separadas.
(*) Elías Said-Hung es codirector del proyecto Hatemedia. Catedrático de Ciencias Sociales y doctor en Ciencias de la Información. Preside la Asociación Ciencia, Tecnología y Sociedad (CITESOC) y es docente en la Facultad de Educación de UNIR, aunque su verdadera pasión es la investigación, que satisface como miembro del Grupo de Investigación Inclusión Socioeducativa e Intercultural, Sociedad y Medios (SIMI) de la universidad. También es director de la Revista Española de Pedagogía de UNIR, autor de multitud de trabajos y estudios publicados en revistas científicas y editor de una veintena de libros académicos.
(*) Julio Montero, exvicerrector y catedrático de la Universidad Internacional de La Rioja desde octubre de 2014 y excedente como catedrático de Historia de la Comunicación Social (desde 2007) en la Universidad Complutense de Madrid. Autor de numerosos libros, es codirector junto a Elías Said-Hung de Hatemedia, un proyecto disruptivo en el panorama de la información en España, que cuenta con la financiación del Ministerio de Ciencia, Innovación y Universidades, formado por un equipo multidisciplinar compuesto por expertos en lingüística, ingeniería informática, ciencias sociales y comunicación, que han creado una base de datos con más de 7.200 términos asociados a expresiones de odio en español.
(*) Sergio Arce-García es colaborador de Hatemedia. Profesor de UNIR. Doctor en Humanidades y Comunicación con premio extraordinario con un Máster en Sistemas Integrados, técnico en prevención de riesgos laborales y licenciado en Ciencias Químicas. Pertenece al equipo investigador del grupo de investigación Comunicación y Sociedad Digital (COYSODI) en UNIR desde el 2020. Su principal línea de investigación se desarrolla sobre las redes sociales y medios de comunicación con métodos de análisis masivo y ‘machine learning’. Ha publicado decenas de artículos científicos de alto impacto indexados en WoS o Scopus, así como capítulos de libros.
Los capítulos anteriores de la serie:
- Cómo detectar y prevenir el odio en los medios de comunicación digitales a través de Hatemedia.
- El abecé de la desinformación y el odio: claves para entender y combatir las amenazas digitales.
- Las mujeres que ocupan cargos políticos, principales destinatarias del odio en las redes sociales.
Consulta aquí la última entrevista a Elías Said-Hung publicada en UNIR Revista.
- Escuela Superior de Ingeniería y Tecnología
- Facultad de Educación
- Facultad de Empresa y Comunicación
