Si la pandemia del COVID-19 nos ha hecho entender el impacto que las noticias falsas pueden tener en nuestro día a día, la invasión de Rusia en Ucrania nos está haciendo entender la importancia de disponer de herramientas de verificación para detectar bulos y fakes. Millones de personas reciben a diario información falsa o manipulada sobre el conflicto en redes sociales como Facebook, Twitter, Tik Tok o Telegram.
Las imágenes y vídeos sobre la guerra son contenidos especialmente potentes, capaces de atraer la atención de grandes audiencias y manipular nuestra opinión. Los creadores de bulos lo saben y lo están usando en nuestra contra. ¿Estamos entonces indefensos ante esta proliferación de desinformación en las redes? Afortunadamente no.
Nuestra primera línea de defensa son los verificadores como Newtral. Cada vez que recibas un contenido sospechoso, lo primero que te recomendamos hacer es consultar nuestro hilo de verificación de bulos o consultar a nuestro equipo de verificación a través de nuestro bot de Whatsapp: +34 627 28 08 15.
Si el contenido aún no ha sido verificado por expertos no te preocupes, existen herramientas al alcance de todos que permiten detectar los bulos más comunes y evitar que te creas o compartas información falsa. En este artículo te ayudamos a conocer las herramientas de verificación que puedes usar para detectar noticias bulos relacionados con la invasión en Ucrania.
“To bot or not to bot”: soluciones de machine learning para detectar bots
Una de las estrategias más comunes para propagar desinformación en redes sociales es la utilización de bots. En medio de un conflicto bélico como el de Ucrania su uso aumenta de manera masiva. Pero, ¿cómo puedo saber si la cuenta de Twitter que estoy siguiendo es un bot?
Una de las herramientas para analizar bots más conocidas es Botometer. Su uso es muy sencillo, introduces el nombre de usuario de Twitter que quieres analizar y el sistema te devolverá una valoración. Cuanto más alto es el número, mayor será la probabilidad de que sea un bot. Su funcionamiento está basado en distintos algoritmos de machine learning entrenados con centenares de miles de casos de ejemplo.
Botomer analiza aspectos como el lenguaje, sentimiento, patrones temporales y estructura de los tweets de la cuenta analizada para realizar una estimación probabilística sobre su comportamiento como bot. La respuesta del algoritmo, por tanto, no es una certeza absoluta. Debemos tener esto en cuenta al interpretar lo que nos devuelve la herramienta. Botometer ofrece distintas señales para determinar si una cuenta es un bot. Cuantas más señales indiquen que algo es un bot, más seguros podemos estar de que lo es. Además no debemos confundir bot con cuenta falsa. Hay bots que son perfectamente legítimos al haber sido diseñados para publicar de manera programada información veraz sobre temas de interés para los ciudadanos.
Una limitación que presenta Botometer es que requiere que introduzcas tu cuenta de Twitter para poder extraer los tweets y realizar el análisis. Una solución similar pero menos intrusiva en este sentido es BotSentinel. Además de devolver una estimación del comportamiento como bot de una cuenta, BotSentinel permite identificar las frases, hashtags y URLs más utilizadas por dicho perfil, lo que puede ser útil para detectar qué tipo de mensajes está intentando promover una determinada cuenta.
Puede ser interesante también analizar cómo un determinado hashtag o etiqueta se está moviendo en Twitter. twXplorer, herramienta financiada por la fundación Knight y la fundación McCormick, puede utilizarse para identificar el origen de los hashtags, las cuentas que los mueven y enlaces relacionados. Combinando esto con las herramientas de detección de bots indicadas más arriba podrías intentar identificar granjas de bots que estén promocionando un determinado hashtag en la red.
Herramientas de verificación para detectar bulos mediante forensia de imágenes: Reveal y Forensically
Las imágenes de una guerra son un elemento visual muy potente que puede ser utilizado con mucho éxito en campañas de desinformación. Durante este conflicto estamos viendo un uso habitual de imágenes fuera de contexto, utilizando fotografías de episodios bélicos anteriores, imágenes de videojuegos o imágenes trucadas para polarizar la opinión en uno u otro sentido. La última tipología de fakes es la más difícil de detectar sin disponer de ciertos conocimientos técnicos pero, por fortuna, hay algunas herramientas (conocidas como forensia de imágenes) que nos pueden ayudar a detectar estas modificaciones.
El grupo de investigación CERTH es el creador de una de las herramientas de forensia de imágenes más conocidas por los verificadores: Reveal. Esta aplicación tiene en cuenta las características propias del algoritmo de compresión de imágenes JPG para tratar de identificar áreas de la imagen que hayan sufrido algún tipo de retoque digital. Para ello la aplicación incluye una serie de algoritmos predefinidos que intentan identificar en la imagen áreas de “calor” que pueden ser indicativas de algún tipo de modificación como, por ejemplo, si se ha copiado y pegado sobre la imagen un contenido que venía de otra. Una manera en la que la herramienta es capaz de lograr esta identificación es comparando si hay zonas de la fotografía que tiene un grado de compresión distinto al de otras. Esto podría ser síntoma de que trozos de la imagen provenían de otro fichero fuente y que, por tanto, la herramienta ha sufrido algún retoque digital.
Reveal permite además hacer de manera muy sencilla una búsqueda inversa de la imagen en Google (la primera acción que debe hacer cualquier verificador tratando de identificar si una imagen puede haber sido trucada) y obtener sus metadatos asociados.
Otra herramienta que podemos usar para detectar imágenes trucadas es Forensically. Los principios básicos a entender para utilizar la herramienta son muy parecidos a los de Reveal. Una vez seleccionada la imagen puedes escoger el tipo de análisis a hacer entre los algoritmos disponibles (PCA, ELA, análisis de ruido, detección de clonado…) y parametrizar la sensibilidad de cada algoritmo.
Lo más importante a tener en cuenta cuando utilizamos alguna de estas herramientas es que no nos van a decir nunca si la imagen es o no falsa. Es nuestro deber interpretar los resultados del análisis para llegar a una conclusión final y para ello, es muy importante leer la documentación de ayuda que ofrecen las propias herramientas.
Por último, tenemos alguna otra utilidad más sencilla de utilizar como la Geolocalización de la imagen que pueden ayudarnos a detectar muchos bulos. A partir de los metadatos de la imagen, Forensically es capaz de saber el lugar en el que fue tomada. Otra herramienta que nos puede ayudar a geolocalizar imágenes en un mapa es Pic2Map. La herramienta extrae los metadatos EXIF de la imagen para determinar las coordenadas GPS en que se obtuvo. De manera alternativa, cualquier otra herramienta de visualización de metadatos EXIF como, por ejemplo, Exif Data Viewer o las soluciones nativas de cada sistema operativo, pueden valernos también para alcanzar el mismo objetivo.
El problema en el mundo real es que la mayor parte de las imágenes que nos encontramos en internet proceden de redes sociales y sitios web que no mantienen los metadatos de la imagen original, por lo que en buena parte de nuestros casos de interés nos encontraremos con que no podemos obtener la información.
Invid y herramientas de verificación para detectar deep fakes
La invasión de Ucrania por parte de Rusia ha provocado que nos encontremos en las redes miles de vídeos, reales o no, sobre el conflicto. A nivel técnico, un vídeo es un conjunto de imágenes (frames) en secuencia. Por tanto, para verificar que no ha sido manipulado un vídeo tendremos que validar si se ha modificado algún subconjunto de los frames que conforman la secuencia. Además, aun cuando el contenido visual no haya sido manipulado, es posible que sí lo haya sido el audio, complicando todavía más la labor de la verificación. A la posibilidad de estas modificaciones manuales por parte de un humano, se ha añadido también en los últimos años el peligro de los deep fakes. Todos hemos visto deep fakes muy convincentes de personajes públicos como Barack Obama o Donald Trump. ¿Cómo saber entonces si hay una persona real detrás de un vídeo?
La creación de deep fakes se sustenta en el uso de redes generativas adversarias (GAN). Las GAN son una arquitectura de redes neuronales en las que dos algoritmos pelean uno frente a otro para mejorar su comportamiento. Uno de ellos actúa como agente malicioso y se encarga de imágenes ficticias, mientras que el otro tiene por objetivo detectar las imágenes falsas. Ambos algoritmos pelean uno contra el otro, aprendiendo el primero de ellos en cada paso cómo construir imágenes cada vez más convicentes. Dos de las técnicas deep fakes más habituales en la desinformación política son el ‘face swapping’, que superpone el el rostro de una persona sobre el cuerpo de otra, y la de ‘face reenactment’, que recrea a una persona aplicándole los movimientos de otra persona (incluyendo el movimiento de los labios).
¿Estás seguro de poder detectar un deepfake con tus propios ojos? En el reto “Detect Deep Fakes” del MIT puedes poner a prueba tu propia percepción visual.
La tecnología de deep fakes ha avanzado a pasos agigantados en los últimos años, pero no así los métodos de detección, que se encuentran todavía en fase de investigación. Aunque los gigantes tecnológicos como Facebook están empezando a tomar cartas en el asunto, financiando proyectos como el Deep Fake Detection Challenge, estamos lejos de disponer de una solución práctica para su detección. Existen sin embargo algunas herramientas experimentales como DeepWare que podemos evaluar con casos de deep fakes conocidos.
Por fortuna, la experiencia de los verificadores nos indica que, de momento, los deep fakes son minoría en el panorama actual de la desinformación. Pero hay muchos otros vídeos igual de peligrosos que son utilizados, bien fuera de contexto o bien con sencillas manipulaciones (cheap fakes), para desinformar. La principal herramienta que usamos los equipos de verificación para la detección de noticias falsas con vídeos es INVID. Desarrollado en el marco de distintos proyectos de investigación de la Unión Europea, incluyendo el último proyecto WeVerify, INVID se presenta como un plugin para Google Chrome, con funcionalidades útiles para rastrear vídeos en la red.
Una de las herramientas más útiles de este plugin es la búsqueda de miniaturas en vídeos de Youtube. Basta indicarle la URL del vídeo que queremos validar y la propia herramienta se encargará de extraer miniaturas de distintos instantes temporales del vídeo y realizar una búsqueda inversa en Google. De esta manera, podemos validar de una manera rápida en qué otros lugares de la red aparece el vídeo (o imágenes del vídeo) y detectar si está siendo utilizado fuera de contexto. Por último, INVID también nos permite extraer fácilmente metadatos sobre el vídeo de Youtube, incluyendo fecha de creación, fuente, etc.
¿Qué podemos hacer para evitar la desinformación sobre la guerra en Ucrania?
Con la guerra en Ucrania, periodistas y verificadores han aumentado los equipos que dedican a chequear el contenido que circula en redes. Organizaciones europeas de periodistas de investigación como Bellingcat han creado listas con la recopilación de hechos dudosos sobre el conflicto y se han lanzado a la labor de verificarlos cuando es necesario.
Las redes sociales, por su parte, están añadiendo etiquetados específicos para identificar a organizaciones gestionadas por los gobiernos y que podamos tener mayor visibilidad así del tipo de fuente que propaga la información. Además, están haciendo variaciones en sus algoritmos de recomendación para minimizar el potencial impacto de amplificación de campañas de desinformación dirigidas.
Este trabajo conjunto, sin embargo, aunque extremadamente importante, no puede llegar a detener totalmente el flujo de desinformación que está circulando por la red.
La mejor defensa que tenemos como individuos frente a este fenómeno es dudar siempre. Cuando encuentres una información dudosa intenta primero verificar su fuente y, si continúas con dudas, utilizar alguna de las herramientas básicas como la búsqueda inversa de imágenes para validar su autenticidad. Las herramientas que hemos explicado anteriormente son muy útiles para verificar bulos poco complejos aunque algunas requieren cierto conocimiento sobre la manipulación de imágenes para ser utilizadas con seguridad.
Recuerda que en Newtral disponemos de nuestro servicio de verificación de Whatsapp +34 627 28 08 15. Ayúdanos a detectar la desinformación sobre el conflicto enviando toda información sospechosa a nuestro servicio de verificación. Entre todos podemos construir una internet más segura.
0 Comentarios