Carissa Véliz, experta en ética algorítmica: los magnates de la IA “simulan predecir pero moldean el futuro conforme a sus intereses”

¿Qué tiene que ver la relación entre Catalina de Médici y Nostradamus con Donald Trump y Elon Musk u otros cibermagnates de la inteligencia artificial? Para la profesora de Ética de la IA de la Universidad de Óxford Carissa Véliz (CDMX, 1986), “que todos son profetas vendiendo un futuro que asusta”. La reina francesa consultaba al astrólogo para anticipar la suerte de sus hijos en la corte. Cinco siglos después, los nuevos oráculos digitales susurran al oído del poder con la misma promesa: leer lo que viene. Y escribir el futuro “a su conveniencia”. Por más diferente que sea la tecnología, “el rol político que está jugando la IA es el mismo que el oráculo de Delfos o que el astrólogo medieval”.

Charlamos con Véliz en este capítulo de Esto no ha pasado tras su paso por el primer Encuentro Internacional sobre Derechos Digitales de Barcelona. La filósofa fue pionera de la divulgación de las humanidades en el terreno algorítmico. Cuando todavía era estudiante en Salamanca, escarbó en los archivos tras la pista de su familia exiliada en México tras la Guerra Civil. De aquellos ficheros, a las grandes bases de datos que alimentan el saber y la vigilancia ciudadana automatizada.

Ahora publica Profecía (Debate, 2026), donde se adentra en el espinoso terreno de las predicciones del futuro que hace la IA y sus magnates. “Ellos tienen muchísimos intereses económicos, no han diseñado [sus chats de modelos de lenguaje] para la democracia. Simulan predecir el futuro pero en realidad lo moldean conforme a sus intereses”. El ecosistema de los nuevos ricos cibernéticos está plagado de fingidos estoicos, cuando el mundo necesita –según Véliz– más epicúreos. Después de todo, fueron los anti-profetas originales, y por eso los persiguieron.

Delfos está en Silicon Valley

Entre las consultas más frecuentes en los chatbots de IA están las mismas que se hacían a los oráculos griegos o adivinos romanos: salud, política y dinero. Newtral.es advertía hace meses de los riesgos clínicos de tratar a una IA como psicóloga; profesionales como Marina Romero Algarra recuerdan que los chatbots “no están diseñados para confrontar ideas”. Para Véliz, esa dependencia emocional cotiza ahora al alza mientras se desploma la socialización presencial.

Ella recupera el caso del emperador Caracalla, asesinado en el siglo III por su asistente Macrino, tras recibir el vaticinio de su propio asesinato a manos del propio Macrino: la profecía dirigió a la mano homicida. La autora tira del hilo: lo mismo ocurrió con John Dee aconsejando a Isabel I y con Rasputín susurrando al zar Nicolás II. Hoy, los Musk, Altman o Schmidt ocupan ese lugar. “Tienen más poder que sus antecesores”. ¿Somos la ciudadanía sus rehenes?

“Venden una idea del futuro que muchas veces es negativa, para asustarte. Porque cuando te asustas, lo que haces es darles poder”. Matiza: “Ellos tienen muchos intereses financieros en que esas predicciones se vuelvan ciertas y, sobre todo, en que tú actúes de manera que las conviertas en profecías autocumplidas”. El proyecto Stargate, el plan de OpenAI y SoftBank de inyectar 500.000 millones de dólares en infraestructura de IA con bendición presidencial, encaja en ese cuadro.

Publicidad

Los modelos de inteligencia artificial son malos oráculos para los tiempos presentes porque se alimentan necesariamente del pasado. De una selección concreta del pasado con que han sido entrenados. Y lo sucedido antes no garantiza que se vuelva a repetir conforme a un patrón definido, que es donde las IA se mueven bien.

“Los algoritmos [de estas grandes empresas] son muy conservadores. Por eso son tan sexistas y tan racistas, porque están basados en el pasado y porque están diseñados para hacer dinero. No están hechos para perseguir la verdad o para apoyar la democracia”. Esto, pese a que ni siquiera las grandes corporaciones con modelos de lenguaje (desde el ChatGPT de OpenAI al Claude de Annthropic) tienen un modelo de negocio rentable definido, como explicaba en Esto no ha pasado la periodista e investigadora en ciudadanía y tecnología Marta Peirano.

La idea que “te venden es que están viendo algo como si ya estuviera escrito. El futuro nunca está escrito. Lo que hacen es moldear el futuro, y eso significa que nos roban agencia”. Desde el momento en que hacemos una búsqueda y los resultados nos los devuelve digeridos una IA, a los algoritmos de recomendación de produtos en el comercio electrónico o la música. “No sólo predicen; prescriben”.

Aceptar términos y condiciones, un acto de fe en un futuro “trucado”

Fuera de las inteligencias artificiales, hay un acto cotidiano de fe en el futuro que aceptamos a golpe de clic: los términos y condiciones de una web o aplicación. El abogado Samuel Parra ya alertaba en Newtral.es de que con la IA generativa ese desequilibrio se agrava porque la normativa europea va por detrás.

La filósofa lo describe como un contrato profundamente asimétrico: “Quieres ser un partícipe de tu sociedad y muchas veces tienes que utilizar estas herramientas. No es que te den opciones, no es que haya un proceso de negociación: o lo aceptas o no lo puedes utilizar. Y, además, cuando lo aceptas, aceptas que también puede cambiar en cualquier momento, por lo que no tiene sentido no aceptarlo”. Ahí, sostiene, se rompe la simetría que rige cualquier otra transacción cotidiana: “Cuando yo entro a una tienda o compro un producto físico, no tengo ese abuso”.

Quien firma, en realidad, está apostando ciegamente por un futuro cuyas reglas marcará la otra parte. Es el reverso ético del modelo de negocio que la academia lleva años retratando: el llamado capitalismo de la vigilancia descrito por Shoshana Zuboff, donde la predicción del comportamiento futuro de los usuarios es la mercancía principal y la certeza, el producto que se vende a terceros.

Vigilancia y predicción en tiempos anticlimáticos

“Vigilancia y predicción son socias del crimen en la lucha por el poder”, dice Véliz. Pero vigilar y predecir en lo que le pedimos, por ejemplo, a una agencia meteorológica. Ella pone como ejemplo la riada derivada de la dana que sufrió Valencia en 2024. Dejó obsoletos los llamados periodos de retorno de inundación, es decir, las estadísticas con que las aseguradoras y los promotores tasaban el tiempo que pasa entre catástrofe y catástrofe.

“Estamos viviendo momentos nunca vistos. Pero las IA ‘preciden’ conforme a lo ocurido en el pasado

Para Véliz, el problema es de base: “Estamos viviendo momentos que nunca hemos vivido antes. El cambio climático es un ejemplo de que no tenemos una base de datos sobre el futuro. Solamente tenemos una base de datos sobre el pasado, en el que no existía el cambio climático”. Los algoritmos, sin embargo, no se manejan bien en la incertidumbre que define el futuro.

Si hubo un tiempo en que la física decía que el universo enteramente predecible, la mecánica cuántica y después la teoría del caos nos devolvieron la indeterminación. Puede que el futuro esté escrito, pero es indescifrable por definición. Y, seguramente, cada vez más. Pese a ello, una parte de la cultura tecnológica reciente, la que Véliz identifica con ciberlibertarios y nuevos estoicos de Silicon Valley, ha vuelto a abrazar un fatalismo a la carta. Todo está escrito y es descifrable con tecnología suficiente. “Pero cuando no les conviene, cambian de narrativa”, zanja.

“La predicción siempre es un mapa y nunca es el territorio. Y es muy importante defender en ese momento nuestra agencia para poder construir el futuro en el que queremos vivir”. Si hay una lección que nos dejó la ciencia (y los acontecimientos) del siglo XX es que la indeterminación es consustancial a nuestra existencia. Sólo nos queda “abrazar la incertidumbre”. Contra lo que se pueda pensar, “se puede vivir más feliz“. Basta con mudarse a un jardín sin cobertura, el ruido predictivo se amortigua y el mental, también.