Qué es y cómo funciona SynthID, la marca invisible que identifica los contenidos creados con IA

Con el objetivo de facilitar la identificación de contenidos generados con inteligencia artificial (IA) y evitar así la propagación de desinformación, están surgiendo nuevas herramientas como SynthID. 

¿Qué es SynthID? Enrique Dans, experto en innovación tecnológica y sistemas de información, explica a Newtral.es que “SynthID es una tecnología desarrollada originalmente por Google DeepMind para insertar marcas de agua invisibles en contenidos generados mediante inteligencia artificial (IA)”. 

• “La idea es relativamente sencilla: introducir en el contenido generado una señal imperceptible para las personas, pero detectable posteriormente mediante herramientas específicas”, señala el experto.

• Open AI, también ha desarrollado una herramienta que permite comprobar si una imagen fue generada con sus herramientas de IA, siempre que conserve las señales de procedencia.

¿Cómo inserta esas marcas? Dans explica que “en el caso de las imágenes [o vídeos], estas marcas de agua son pequeñas modificaciones distribuidas por los píxeles de la imagen y diseñadas para no afectar perceptiblemente a la calidad visual, pero sí para dejar un patrón matemático reconocible por los sistemas de detección”. 

En el caso de los audios, Javier Galué, divulgador de Inteligencia Artificial, indica a Newtral.es que lo hace “con frecuencias” de sonido que no pueden percibirse al escuchar el archivo, pero sí pueden detectarse con herramientas especializadas de IA.

Dans explica que en los textos “el mecanismo es diferente”. La marca de agua de SynthID se introduce modificando ligeramente la probabilidad con la que el sistema elige determinadas palabras. “El resultado sigue siendo perfectamente natural para un lector humano, pero contiene patrones estadísticos que permiten deducir posteriormente si fue generado por un modelo que incorpora este sistema de marcado”. 

• “La detección se basa en algoritmos que analizan esos patrones, por lo que ofrece una probabilidad de identificación, no una certeza absoluta”, señala. 

Limitaciones. Los expertos consultados señalan que esta tecnología no es infalible. “Las marcas de agua pueden degradarse o desaparecer cuando el contenido es editado, recortado, comprimido, traducido, reformulado o procesado por otros sistemas”, señala Dans. 

• “Además, solo funcionan de manera fiable cuando el contenido ha sido generado por modelos que incorporan expresamente ese mecanismo. Un contenido generado por un modelo que no implemente SynthID o una tecnología equivalente no dejará ninguna señal detectable”, apostilla Dans.

“Aunque las marcas de agua representan una herramienta interesante para mejorar la trazabilidad de los contenidos generados por IA, resulta exagerado presentarlas como una solución definitiva al problema de la identificación de contenido sintético. Más bien, son una capa adicional de información que puede ayudar en determinados contextos”, señala el experto.