Sergio Arce-García/ Elías Said-Hung/ Julio Montero
Los autores analizan en este segundo capítulo de la serie sobre el odio y la desinformación en las redes sociales y en los medios de comunicación digitales, lo importante que es identificar y comprender las palabras y términos relacionados con está práctica para poder combatirla.
Para combatir la desinformación y el discurso del odio, uno de los elementos fundamentales es educar a la sociedad sobre los peligros que generan. Y no solo desde el ámbito de la población general, sino también de los medios de comunicación, los educadores (desde la propia universidad a incluso la educación secundaria), investigadores, técnicos y legisladores deben de conocer y manejar un vocabulario y expresiones comunes. De esta manera se podrá dar a conocer la importancia no solo de su existencia, sino identificándolos al conocer sus técnicas de propagación o formas de captar la atención, dando uniformidad y homogeneidad en sus definiciones.
Desde el Gobierno de España, a través del Ministerio de Presidencia, se abrió a la sociedad civil el aporte de ideas, identificación de problemas, así como la sugerencia de posibles soluciones. Esta iniciativa se concretó con el lanzamiento del Foro de Lucha contra la Desinformación, que cada año propone diversos grupos de estudio.
Durante 2024, uno de los grupos de trabajo, se centró en la creación de un glosario de palabras y términos relacionados con la desinformación y el discurso de odio, dentro del ámbito de la seguridad nacional. En él, participaron 11 expertos, pertenecientes a diversas universidades españolas, como por ejemplo UNIR, el CSIC, el Grupo de Acción Exterior de la Unión Europea con sede en Bruselas, y el Departamento de Seguridad Nacional, bajo la coordinación de Leticia Rodríguez, de la UCA; Sergio Arce-García, de UNIR, y un representante del DSN. El resultado fue el capítulo 1 del documento Trabajos del Foro contra las Campañas de Desinformación – Iniciativas 2024, editado por el Ministerio del Interior, que será presentada oficialmente en próximas fechas.
El glosario, se presenta como una herramienta fundamental para entender la complejidad del fenómeno de la desinformación y la proliferación de las expresiones de odio, a través de los escenarios digitales de comunicación actuales, que ayude a ciudadanos, en general, comprender mejor una serie de conceptos claves, que conviene comenzar a unificar dentro de la opinión pública.
En vista del número de conceptos que resulta importante conocer, en este artículo solo se detallan algunos que los autores consideran prioritarios para ahondar en nuestra comprensión del odio y su impacto en nuestra cultura democrática, desde la promoción de un clima de hostilidad y polarización donde se asientan las narrativas que buscan legitimar estereotipos y prejuicios hacia determinadas personas o grupos sociales en la opinión pública.
En primer lugar, es importante conocer qué se entiende como malinformation, que no es más que el uso de información verífica sacada de contexto o desactualizada, el cual es publicado para causar daño a una persona, o colectivos sociales. Todo con el único propósito de producir un marco de opinión desfavorable hacia los destinatarios de este tipo de mensajes. Contenidos que muchas veces son divulgados por bots o trolls.
El primero, alude a softwares diseñados para el desarrollo de acciones automatizadas en internet, como por ejemplo la divulgación de este tipo de contenidos, para generar desinformación y manipulación de la opinión pública. Mientras que los segundos, son personas reales que ocultan su identidad para poder divulgar mensajes provocadores o dañidos, de forma intencionada, con un objetivo ideológico concreto. Ambos actúan muchas veces en los que se conoce como granjas de bots o de troles, es decir, organizaciones masificadas de sofwares o usuarios reales, que participan coordinadamente para la creación masiva y difusión de mensajes falsos en las redes sociales, para los fines antes expuestos.
Dentro de los usuarios reales existen otros conceptos asociados que aluden, en algunos casos a quienes asumen un papel de Trolls. Tal es el caso de lo que, en el glosario de términos aludido en este artículo, se llama marioneta de calcetín (sock puppet account), es decir cuentas falsas que son utilizadas en las redes sociales para encubrir perfile o identidades reales, con la finalidad de difundir desinformación y expresiones de odio, o bien para protegerse ante ataques provenientes de quien emiten este tipo de mensajes.
Dentro del proyecto Hatemedia, el odio diseminado por los actores mencionados en el párrafo anterior, a nivel de los medios informativos digitales, se clasifican en 4 niveles de intensidad que aluden a contenido dañiño, destinado a causar daño de diferentes formas, a través del uso de mensajes incívicos, mal intensionados, insultantes o amenazantes.
La comprensión del fenómeno del odio, exige ir más allá de la presencia o no de este tipo de expresiones en el escenario digital comunicativo actual. Es decir, saber cuánto odio hay en las redes sociales, por ejemplo. Debemos avanzar en el desarrollo de nuevas acciones, destinadas a comprender el fenómeno desde otros enfoques. Por ello, resulta clave también ir avanzando en la comprensión de conceptos, que no solo nos permiten poner orden terminológico a este fenómeno, sino que nos ayudan a conocerlo mejor.
Uno de esos conceptos está asociado a lo que se ha denominado IA generativa, cuyo rol es cada vez más importante en el escenario actual, ya que es un sistema de generación masiva de nuevos datos que pueden ser usados, tanto para la generación de contenido de odio como para combatirlo, que imitan el contenido creado por los humanos, mediante el uso de algoritmos avanzados. El papel que este tipo de recursos tiene, tanto en la viralización como en la lucha de la diseminación del odio, terminará siendo crucial en el camino que tomen todas estas cuestiones.
Finalmente, los dos conceptos clave, que consideramos necesario ir avanzando en su normalización dentro de la opinión pública, de cara a plantar cara a la creciente proliferación de expresiones de odio en las redes sociales y la desinformación, son Killchain y TTP-Disarm.
El primero es un concepto militar centrado en el análisis de incidentes de forma estructurada, es decir, entendiendo que el proceso de diseminación de este tipo de mensajes se lleva a cabo en fases organizadas y que dan cuenta del ciclo de vida que hay detrás de su diseminación.
Al entender este concepto, cobra cada vez mayor valor comprender también el segundo término, que alude a tácticas, técnicas y procedimientos destinados a descubrir patrones de comportamientos de quienes divulgan este tipo de contenidos en los escenarios digitales actuales. Una herramienta crucial para avanzar más allá de la presencia y detección del odio y de la desinformación, y poder llegar a identificar preventivamente el perfil de quienes difunden este tipo de contenidos. Un escenario que ayudaría a emprender acciones de ataque (red frameworks) y defensa (blue frameworks) preventivas contra este tipo de agentes.
Principales características de los modelos Killchain y TTP-Disarm
Killchain:
- El modelo divide un ciberataque en siete etapas principales, cada una representando un paso crítico.
- El modelo adopta la perspectiva del atacante, lo que permite a los defensores anticipar las tácticas y técnicas utilizadas en cada etapa. Esto facilita la identificación de puntos críticos donde se puede interrumpir el ataque.
- Es aplicable tanto a ataques externos como internos, incluyendo movimientos laterales dentro de una red comprometida.
- Se han desarrollado versiones extendidas para abordar ataques internos y externos, considerando técnicas avanzadas como persistencia dentro de la red y tiempos prolongados de latencia antes de ejecutar acciones finales.
TTP-Disarm:
- Proporciona un enfoque estructurado para analizar y responder a los incidentes relacionados con la manipulación informativa y las campañas de desinformación y odio.
- Define una taxonomía estándar para describir las tácticas, técnicas y procedimientos (TTP) utilizados en las cadenas de ataque.
- Facilita un lenguaje común entre defensores para describir y compartir hallazgos sobre incidentes de manipulación informativa.
- Puede ayudar a identificar incidentes de desinformación y odio, mediante el análisis de patrones y huellas comportamentales.
El trabajo detrás de la identificación de los 125 términos expuestos en el capítulo del libro editado por el Ministerio del Interior, así como el trabajo de Hatemedia, tienen muchos puntos de confluencia. Se necesita avanzar en un aumento de la complejidad en la forma de como intentamos comprender el fenómeno del odio en las redes sociales, pero también se requiere que los ciudadanos y el público en general comprendan términos que son abecé dentro del escenario actual de la comunicación, y que muchas veces son testigos sin saber que detrás hay un concepto que ayuda a comprender más allá de la mera divulgación aleatorea de este tipo de mensajes.
Nota. Accede al canal pódcast del proyecto Hatemedia y conoce más sobre la temática planteada en este artículo.
(*) Sergio Arce-García es colaborador de Hatemedia. Profesor de UNIR. Doctor en Humanidades y Comunicación con premio extraordinario con un Máster en Sistemas Integrados, técnico en prevención de riesgos laborales y licenciado en Ciencias Químicas. Pertenece al equipo investigador del grupo de investigación Comunicación y Sociedad Digital (COYSODI) en UNIR desde el 2020. Su principal línea de investigación se desarrolla sobre las redes sociales y medios de comunicación con métodos de análisis masivo y ‘machine learning’. Ha publicado decenas de artículos científicos de alto impacto indexados en WoS o Scopus, así como capítulos de libros.
(*) Elías Said-Hung es codirector del proyecto Hatemedia. Catedrático de Ciencias Sociales y doctor en Ciencias de la Información. Preside la Asociación Ciencia, Tecnología y Sociedad (CITESOC) y es docente en la Facultad de Educación de UNIR, aunque su verdadera pasión es la investigación, que satisface como miembro del Grupo de Investigación Inclusión Socioeducativa e Intercultural, Sociedad y Medios (SIMI) de la universidad. También es director de la Revista Española de Pedagogía de UNIR, autor de multitud de trabajos y estudios publicados en revistas científicas y editor de una veintena de libros académicos.
(*) Julio Montero, exvicerrector y catedrático de la Universidad Internacional de La Rioja desde octubre de 2014 y excedente como catedrático de Historia de la Comunicación Social (desde 2007) en la Universidad Complutense de Madrid. Autor de numerosos libros, es codirector junto a Elías Said-Hung de Hatemedia, un proyecto disruptivo en el panorama de la información en España, que cuenta con la financiación del Ministerio de Ciencia, Innovación y Universidades, formado por un equipo multidisciplinar compuesto por expertos en lingüística, ingeniería informática, ciencias sociales y comunicación, que han creado una base de datos con más de 7.200 términos asociados a expresiones de odio en español.
Los capítulos anteriores de la serie:
Consulta aquí la última entrevista a Elías Said-Hung publicada en UNIR Revista.
- Escuela Superior de Ingeniería y Tecnología
- Facultad de Educación
- Facultad de Empresa y Comunicación
