Nos habéis preguntado a través de nuestro servicio de verificación de WhatsApp por un vídeo que acumula más de tres millones de visualizaciones en YouTube y que afirma que ChatGPT guarda toda la información que se le proporciona.
¿Qué dice el vídeo? En las imágenes se observa a Maxmaxdata, profesor de Big Data en la Universidad de Deusto y experto en IA, realizar un “experimento” en una conversación con ChatGPT. El usuario le da ciertos datos personales, le pide que los olvide y luego se escucha a la IA responder preguntas que demostrarían que, si realmente hubiera borrado esos datos, no debería saber contestar.
- Un apunte. Al usar ChatGPT y registrarte, la herramienta ya obtiene varios datos tuyos, como tu nombre, datos de contacto, dirección IP y geolocalización.
¿Guarda ChatGPT la información que le doy en las conversaciones? Según afirma a Newtral.es Rubén Maestre, científico de datos, “todas las herramientas de IA que utilizamos (ChatGPT, Grok, Perplexity, etc.) utilizan los chats para entrenar sus modelos (…) Por eso siempre te avisan de que no des datos privados como contraseñas, direcciones o emails porque las entrenan con esos datos”.
- Según la política de privacidad de OpenAI, dueña de ChatGPT, la empresa no busca activamente información personal para entrenar a sus modelos ni tampoco vende los datos de los usuarios a terceros.
Maestre advierte de que, en el caso de proporcionar información como contraseñas o direcciones, existe el riesgo de que la IA pueda revelar esos datos en una respuesta futura. No obstante, también señala que esto no es común, debido a las medidas de seguridad implementadas por las empresas.
Según OpenAI, hay tres formas de que ChatGPT no guarde tu información para mejorar sus modelos:
- Desactivando la opción ‘Mejorar el modelo para todos’ en configuración.
- Utilizando los ‘chats temporales’.
- Utilizando las versiones para empresas: ChatGPT Enterprise y ChatGPT Team.
Es posible que ocurra lo que se ve en el vídeo, aun llevando a cabo alguna de estas tres acciones, pero por otro motivo: la ventana de contexto.
- Para poder mantener una conversación fluida con los usuarios, ChatGPT guarda la información que se le da para que, por ejemplo, si le dices que vas de viaje a Nueva York dos preguntas después no te recomiende un restaurante en Madrid.
- Borja Sanz Urquijo, profesor en la Universidad de Deusto y experto en inteligencia artificial, define la ventana de contexto como las últimas «palabras» de la conversación que recuerdan los grandes modelos de lenguaje (LLMs) como ChatGPT.
- Esto es lo que podría estar ocurriendo en el vídeo viral: la información ya brindada por el usuario forma parte de la ventana de contexto de la IA, sin importar que este le pida que lo olvide.
Publicidad - Según OpenAI, en ChatGPT esas ventanas son exclusivas de las conversaciones, a no ser que la opción de memoria esté activada.
- Es decir, si después de hablar sobre restaurantes de Nueva York en un chat, abres otro, ese nuevo no debería saber que vas a viajar a Estados Unidos. En el caso del vídeo viral, es probable que si el usuario hubiera comenzado una conversación diferente, ChatGPT no recordaría su información personal.
Para que ChatGPT borrara esa información, hasta hace unos días, lo único que había que hacer era eliminar el chat. De esa forma desaparecía inmediatamente de la página web y era eliminada de los sistemas de OpenAI en un plazo de 30 días.
Pero ahora, como resultado de la demanda de The New York Times a OpenAI por usar sus artículos sin permiso, una orden judicial les ha obligado a preservar todas las conversaciones de ChatGPT por tiempo indefinido. La empresa ya ha apelado la decisión.
- A pesar de este posible cambio, varios expertos con los que ha contactado Newtral.es destacan la falta de transparencia en servicios como los de OpenAI, por lo que resulta imposible verificar que estos datos realmente no fueran almacenados previamente.
