SenseChat, la alternativa china a ChatGPT que deberá incluir “valores socialistas”

Una de las grandes tecnológicas chinas acaba de lanzar una alternativa a ChatGPT que, según las normas que está desarrollando el gobierno chino, deberá reflejar los “valores socialistas” del país. El nuevo ‘chatbot’ se ha presentado como competidor chino en el mercado de la inteligencia artificial (IA) de la mano de la tecnológica SenseTime, una de las principales compañías del sector en el país asiático. 

Este nuevo robot, aseguran sus creadores, puede responder a cualquier pregunta con elocuencia y pretende posicionarse como una alternativa al popular ChatGPT, al que no se permite el acceso desde China. Su lanzamiento se produjo el pasado lunes 10 de abril. 

SenseChat busca una experiencia similar a la de ChatGPT

La compañía, fundada en Hong Kong en 2014, presentó SenseNova, su último conjunto de grandes modelos de inteligencia artificial, en el que se incluye SenseChat. Con su capacidad para comprender múltiples rondas de conversación y textos muy largos, este nuevo ‘chatbot’ busca ofrecer una experiencia similar a ChatGPT, según el diario hongkonés South China Morning Post. 

En conversación con Newtral.es, Gemma Galdón Clavell, analista de políticas públicas especializada en el impacto social, legal y ético de las tecnologías intensivas en datos personales, explica que, SenseChat, como todos los sistemas de procesamiento de lenguaje natural, “se alimenta de lo que llamamos ‘datos de entrenamiento’”, es decir, “lo que hace es coger texto que ya existe, procesarlo, buscar patrones y reproducir esos patrones”, entonces “parece que es de escritura humana porque lo que hace es reproducir el patrón de cómo escriben los humanos”.

SenseTime también mostró otras aplicaciones innovadoras impulsadas por la misma tecnología, incluyendo diferentes asistentes de consulta de salud para proporcionar asesoramiento médico personalizado a los usuarios; de lectura de archivos PDF que permiten extraer y resumir información de documentos complejos sin esfuerzo; y de programación para ayudar a los desarrolladores a escribir y depurar código de manera más eficiente.

Asimismo, en el paquete de SenseNova, cuyos clientes potenciales incluyen desarrolladores de videojuegos o empresas de comercio electrónico, también se incorporan otros modelos como la plataforma de creación de texto a imagen SenseMirage o la plataforma de generación humana digital SenseAvatar, que permite crear avatares humanos digitales de sonido y movimiento naturales con sincronización de labios precisa y competencia multilingüe tan solo usando un clip de vídeo de 5 minutos de una persona real.

ChatGPT, sin permiso de acceso en China, incita a las tecnológicas del país a crear sus propias versiones 

Con el lanzamiento de sus nuevos modelos de inteligencia artificial, SenseTime se une al resto de empresas de tecnología de China continental que compiten para comercializar el llamado modelo de lenguaje a gran escala (LLM). El hecho de que ChatGPT fuera lanzado al público por la estadounidense OpenAI a finales de 2022, con el apoyo de Microsoft, y su veto en China, incitó a las empresas de tecnología del país asiático a sacar sus propias versiones. 

La primera gran empresa de tecnología china en revelar un competidor directo de ChatGPT fue el gigante de motores de búsqueda Baidu, que, a mediados de marzo, lanzó una versión beta de Ernie Bot, un ‘chatbot’ impulsado por el modelo de aprendizaje profundo por inteligencia artificial, según apunta South China Morning Post. Otras compañías como Alibaba, 360 o Tencent también preparan aplicaciones de este tipo. 

Fue a finales de febrero cuando China prohibió a sus empresas brindar acceso a ChatGPT. “Prohibir ciertos desarrollos en ciertos lugares del mundo promueve la creación de alternativas locales”, como señala Gemma Galdón, pero la analista también apunta que “imponer este tipo de limitaciones y, además, por motivos que no tienen que ver con la calidad del material o con el bienestar de la sociedad, sino con intereses políticos, nunca es deseable”. 

Además, la experta señala que sería conveniente “saber si la prohibición en China se limita a que no se puede utilizar en China o si también eso quiere decir que los desarrolladores de ChatGPT no utilizan material chino para entrenar a sus sistemas”. Esto supondría que “cuando le preguntemos cosas sobre China, estaremos sometidos a una visión del mundo que no tiene en cuenta las voces chinas”.

China apuesta por que el contenido generado por inteligencia artificial refleje los “valores socialistas”

La Administración del Ciberespacio de China ha dado un paso más en el control de este tipo de tecnologías con la publicación, este martes 11 de abril, de un documento preliminar de regulaciones para el sector de la inteligencia artificial en el que se estipula que el contenido generado por ‘chatbots’ en el país deberá “reflejar los valores fundamentales socialistas” y no podrá “socavar la unidad nacional”, según recoge la Agencia EFE. 

Así, los textos generados por inteligencia artificial no podrán incluir contenido que trate de “subvertir el poder estatal, “incite a dividir el país” o “promueva el odio y la discriminación étnicos”, tampoco “violencia, pornografía ni contenido que pueda perturbar el orden económico y social”.

Según el borrador los usuarios de estas plataformas se deberán registrar con su identidad real, tras lo cual recibirán instrucciones para «utilizar racionalmente el contenido generado por inteligencia artificial» por parte de las firmas, a quienes, por su parte, el documento exige medidas para “evitar la generación de información falsa” y para “evitar que los usuarios dependan demasiado del contenido o se enganchen a él”.

“A China no le va a costar nada que su versión de ChatGPT reproduzca valores socialistas”, indica Gemma Galdón, quien explica que “si la mayoría de textos en chino de los que se alimenta ya reflejan valores socialistas, estos estarán automáticamente incorporados”. No obstante, la experta también apunta a que, de la misma forma, “el ChatGPT que utilizamos en Europa tiene valores capitalistas porque seguramente los textos que lo han alimentado tienen los valores de la sociedad occidental”. 

“Todos esos sesgos que existen en el mundo real acaban introducidos y reproducidos por estos sistemas de procesamiento de lenguaje”, afirma Galdón, por lo que, “si acabamos fiándolo todo a la inteligencia artificial, acabaremos en mundos terriblemente estereotipados porque irán reproduciendo esos sesgos que los humanos muchas veces hacemos esfuerzos por eliminar”.

Las inteligencias artificiales conversacionales de China no tienen respuesta a preguntas consideradas como políticamente sensibles por Beijing

Incluso si las empresas chinas “son capaces de acceder y utilizar datos globales y recursos de investigación para entrenar sus modelos de inteligencia artificial, es poco probable que las autoridades chinas les permitan utilizar cualquier material considerado políticamente sensible en sus respuestas”, avisó en febrero Dahlia Peterson, analista de investigación en el Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown. 

Gemma Galdón asegura que “es relativamente sencillo intervenir en estos sistemas y alterar sus resultados”. “Igual que se eliminan, también se pueden incorporar sesgos de manera intencionada”, añade.

De hecho, así lo ha demostrado una prueba realizada por el diario estadounidense The Washington Post, que evidenció la incapacidad del Ernie Bot de Baidu de responder a preguntas relacionadas con cuestiones consideradas como políticamente sensibles por Beijing. Al ser interrogado sobre si China era una nación democrática, el ‘chatbot’ simplemente contestó: “aún no he aprendido a responder esta pregunta”. 

De la misma forma, The Wall Street Journal publicó la transcripción de una conversación con otra inteligencia artificial conversacional china que, ante la consulta sobre si el presidente de China, Xi Jinping, era un buen líder, solo respondió: “la pregunta no ha aprobado una revisión de seguridad. No se ha podido generar una respuesta para ti”. Al ser cuestionado sobre el por qué, se limitó a contestar: “cambiemos de tema y hablemos de otra cosa”.

“Los desarrolladores deciden cuáles son las palabras clave que desencadenan un tipo de respuesta genérica”, según explica Gemma Galdón, algo que “pasa en China pero también pasa en ChatGPT”. “El tema es quién controla, qué filtros existen y cuáles son las palabras clave que llevan a que una respuesta no se dé”, añade. 

Mientras que “en Occidente tenemos un control privado sobre estas plataformas”, “en China, lo decide el Estado”, pero ahora mismo, “tanto en China como en Occidente, no tenemos una capacidad de hacer un control democrático de estas tecnologías y en todo el mundo estamos muy vendidos a intereses que tienen muy poco que ver con el interés general”, algo que la experta considera “un problema compartido”.