Europol detecta más de 2.000 contenidos terroristas en TikTok: así se controla la difusión de estos vídeos

La Oficina Europea de Policía, Europol, ha hecho públicas las conclusiones de su investigación sobre contenidos terroristas en TikTok (*) en la que colabora con más 11 países, incluido España. En total, se han retirado más de 2.000 publicaciones de la plataforma.

Contexto. El proyecto se llama Referral Action Day (RAD) y forma parte de una colaboración entre TikTok, las fuerzas de seguridad de varios países y Europol para “abordar el uso de internet por parte de los terroristas” y “prevenir la radicalización online”.

El rastreo de contenidos terroristas en TikTok por parte de las fuerzas de seguridad

En su actuación, Europol ha analizado un total de 2.145 publicaciones en Europa. Muchas están relacionadas con “el yihadismo y el extremismo violento de extrema derecha”, aunque también han evaluado “vídeos y memes”, como explica el Ministerio de Interior.

El objetivo. La idea es “detectar material sospechoso de ensalzar el terrorismo” y “reforzar la prevención de la radicalización entre los usuarios más jóvenes”.

• Lo hacen, además, en el marco de las prioridades de la presidencia española del Consejo de la UE sobre la “prevención del terrorismo y la sensibilización social” acerca del uso de las nuevas tecnologías (página 29).

El canal. En su informe sobre la situación del terrorismo en la Unión Europea, Europol alerta del riesgo de la proliferación de estos contenidos en plataformas como TikTok, que juegan un papel clave en la “radicalización y los procesos de captación de individuos, además de la difusión de propaganda”.

• Europol también centra sus esfuerzos en las aplicaciones que permiten mandar mensajes o tener conversaciones de forma más directa y cerrada, como las plataformas de gaming. Reconoce que son “un desafío para los cuerpos de seguridad”.

A qué están obligadas por ley las plataformas

No pasa solo con los contenidos terroristas en TikTok, las apps que operan en Europa y tienen un impacto importante por la cantidad de usuarios que se las descargan deben cumplir una serie de normas.

• La ley de servicios digitales, por ejemplo, obliga a las plataformas a tomar medidas para “detectar, identificar y retirar” los contenidos ilícitos que detecten. 

• Esto dependerá de la legislación de cada país, pero el texto europeo habla de “delitos de incitación al odio o contenidos terroristas” dentro de esta categoría. 

• Esto incluye las publicaciones relacionadas con el terrorismo, las drogas, los productos falsificados o la pornografía infantil, por ejemplo.

Cómo se controlan los contenidos terroristas en TikTok

Las propias plataformas han ido desarrollando sus mecanismos para rastrear estas publicaciones. TikTok tiene, por ejemplo, moderadores para controlar los vídeos que incumplan sus normas de la comunidad.

Un dato. TikTok publica cada trimestre datos sobre la cantidad de cuentas y publicaciones que elimina. De enero a marzo de 2023, el contenido relacionado con el “extremismo violento” supuso solo un 1,4% de los vídeos borrados y el 86% se eliminaron en menos de un día de detectarse.

Los problemas para detectar contenidos violentos y los déficits de los sistemas de vigilancia de TikTok

A pesar de todo, estos sistemas siguen fallando. En un informe de 2021, el Institute for Strategic Dialogue (ISD) concluyó que “el contenido terrorista” era “fácil de encontrar en TikTok” y que podían perdurar “semanas y meses”, evidenciando que la app seguía sin “aplicar sus políticas básicas en materia de contenidos violentos”.

• El Gobierno estadounidense también analizó ese mismo año cómo las organizaciones terroristas habían usado TikTok en los últimos años, incluido también el asalto al Capitolio. Solo en un mes de investigación, encontraron más de 1.000 vídeos con contenidos violentos relacionados con el supremacismo blanco, el terrorismo islamista o el nazismo.

(*) Nota aclaratoria: Newtral forma parte del programa global de verificación de datos y lucha contra la desinformación de TikTok.