así funcionará HODIO, el sistema de Sánchez para vigilar las redes usando tecnología de LaLiga

La herramienta se llama HODIO (Huella del Odio y la Polarización) y fue presentada durante el I Foro contra el Odio celebrado en la Galería de Colecciones Reales; sin embargo, no es una tecnología precísamente nueva, y su procedencia se puede rastrear hasta la que tal vez es la mayor fuente de odio en España: el fútbol.

HODIO no es sino otra herramienta más a disposición del Observatorio Español del Racismo y la Xenofobia (OBERAXE), basada en el trabajo realizado con anteriores proyectos similares para medir el impacto de las redes sociales en la sociedad.

HODIO contra el odio

No en vano, el odio y su gran presencia en redes sociales han formado parte del discurso de Sánchez desde su primera legislatura, pero ha recibido prioridad desde el último enfrentamiento entre el Presidente del Gobierno y el multimillonario Elon Musk, propietario de la red social X.

La plataforma anteriormente conocida como Twitter cambió su política cuando Musk tomó el mando, al considerar que las medidas contra el odio adoptadas por el anterior propietario, como el cierre de cuentas, incentivaba la censura política y el silencio de voces, particularmente provenientes del partido republicano en EEUU.

Desde entonces, X ha sido criticada, especialmente por gobiernos europeos, por fomentar el discurso de odio al permitir la publicación de prácticamente cualquier mensaje, con contadas excepciones de delitos claros y terrorismo.

Pedro Sánchez se ha convertido en el mayor crítico de X, terminando en una guerra de palabras en la que Musk ha llegado a pedir el arresto del Presidente del Gobierno, este último respondiendo con una promesa de “combatir la IA del mal” con la “IA para el bien”.

HODIO es el primer resultado de esta promesa de usar la inteligencia artificial para el bien, y como tal, está basada en esta polémica tecnología, pero también en el trabajo que ya se lleva años haciendo en el Ministerio de Inclusión, Seguridad Social y Migraciones.

De dónde sale HODIO

Y es que HODIO no aparece de la nada. Aunque Pedro Sánchez no ha compartido detalles técnicos sobre el funcionamiento de esta nueva herramienta, sí que ha confirmado que se basa en el trabajo de OBERAXE con el sistema FARO.

FARO (Filtrado y Análisis de Odio en Redes Sociales) es una herramienta lanzada en el 2024 que permite que un equipo de funcionarios monitorice el discurso predominante en redes sociales, lo que ha permitido a OBERAXE publicar varios informes y boletines que explican el funcionamiento de las redes sociales.

Por ejemplo, OBERAXE ya publicó el año pasado un Boletín de Monitorización de Discurso de Odio con datos del 2024, que revela, entre otras cosas, que el 35% del discurso del odio está dirigido a grupos del norte de África y un 24% a “Africanos y otros descendientes”, frente a un 2% de personas latinoamericanas y un 0,31% de europeas.

Otro dato interesante y que puede explicar la formación de HODIO es que X no retiró el 86% del contenido notificado, frente a un 31% del contenido notificado que fue retirado por TikTok, o el 51% de Instagram.

HODIO no es más que la evolución del sistema FARO, con más funciones basadas en inteligencia artificial que pueden ayudar a pintar una imagen más precisa de cómo se crea y se comparte el discurso de odio en redes sociales.

De hecho, algunas fuentes afirman que estamos ante un simple cambio de nombre, y que el sistema FARO pasa a llamarse HODIO; la propia página oficial de Oberaxe ha eliminado referencias a FARO y las ha sustituido por HODIO, confirmando este cambio.

Sin embargo, también hay indicios de que HODIO va a ir más allá de FARO en la lucha contra el discurso de odio; por ejemplo, con la creación de un ranking de redes sociales que medirá la prevalencia del discurso de odio, además de la amplificación del contenido.

Para ello, HODIO usa un sistema mixto de análisis, que une técnicas cuantitativas y de inteligencia artificial con la revisión humana para evitar posibles fallos y mantener la coherencia de los resultados.

En base a este trabajo, se elaborarán informes semestrales (y no anuales como antes), lo que permitirá seguir la evolución de las redes sociales con mayor precisión, incluyendo posibles cambios en los algoritmos que bloquean el contenido en cuestión.

En otras palabras, HODIO ha nacido para señalar a las plataformas que no están haciendo lo suficiente para luchar contra el odio y la polarización, aumentando el uso de inteligencia artificial, que ya se usaba en FARO, para generar más informes periódicos.

Tecnología de LaLiga

Todo esto significa que, en el fondo, HODIO usa tecnología de LaLiga. Y es que en primer lugar, el sistema FARO fue creado basándose en el código de MOOD, una herramienta de la organización de Javier Tebas, diseñada para vigilar los mensajes de odio contra futbolistas y clubes.

MOOD (Monitor de Observación de Odio en el Deporte) fue creado en el 2023 para detectar el volumen de odio y racismo en redes sociales, lo que ha permitido a LaLiga generar contenido que permita “sensibilizar a los aficionados”.

En el 2024, OBERAXE y LaLiga anunciaron que esta última había cedido su tecnología al Ministerio por un periodo de 3 años (prorrogables a 4) para el desarrollo del sistema FARO.

Esta alianza se renovó hace justo un año, cuando se presentó una nueva metodología del discurso racista y xenofobia en tiempo real con el sistema FARO gracias a la implementación de los recientes avances tecnológicos obtenidos por LaLiga.

¿Herramienta de censura?

La reacción en redes sociales al anuncio de HODIO incluye un gran miedo de que esta herramienta pueda ser usada para censurar a los internautas; por ejemplo, cambiando la definición de “odio” a lo que el gobierno de turno considere que es.

Pedro Sánchez y el Ministerio de Inclusión, Seguridad Social y Migraciones han intentado adelantarse a estas críticas, prometiendo “transparencia, rigor académico y el máximo respeto a los derechos fundamentales”.

El uso predominante de inteligencia artificial en la elaboración de los informes también puede ser polémico, por la cantidad de fallos que este tipo de sistemas puede generar y las posibles implicaciones de un informe con datos erróneos. Por eso, el Gobierno ha prometido “revisión humana experta” de estos análisis.

Siendo la evolución de FARO, HODIO no es capaz de indicar que una persona concreta ha compartido discurso de odio, sino que se centra más en el comportamiento general de las redes sociales.

Sin embargo, eso significa que HODIO podría ser usado como “prueba” contra las empresas detrás de estas plataformas, y esta no es una idea descabellada; el propio Pedro Sánchez ha advertido que “las redes sociales tendrán que rendir cuentas” con la publicación de estos informes.

Pero de ahí a que el Gobierno pueda usar estos informes para multar o crear nuevas leyes dirigidas a redes sociales hay un trecho, ya que está limitado a las leyes europeas. De hecho, recientemente la UE desautorizó las medidas de Sánchez para el control digital y de redes sociales, advirtiendo a los estados que debían seguir la Ley Europea de Servicios Digitales.