¿Vikingos negros? Google Gemini y sus imágenes con diversidad forzada

Lo esencial. Google limitó esta semana la capacidad de su herramienta de inteligencia artificial Gemini a la hora de crear imágenes de personas. La compañía se vio obligada a tomar la decisión después de recibir críticas por la diversidad forzada de su generador de imágenes en Gemini.

• Los usuarios se quejaban de la existencia de un sesgo contra los blancos. Gemini generaba imágenes de personas no-blancas cuando el contexto histórico demandaba lo contrario.
• Capturas en las que Gemini creaba imágenes de «vikingos» y «papas» de raza negra se hicieron virales en X, donde su fundador Elon Musk alimentó la ferocidad de las críticas.

Desde Google, la controversia supone un nuevo tropiezo mediático en su competencia con OpenAI, los creadores de ChatGPT. Pero también es un escollo político con el que otras compañías tecnológicas ya han tenido que lidiar en el pasado dado el tinte ideológico con el que se impregna todo en Estados Unidos.

• De hecho, la mecha de la polémica la avivaron influencers de la derecha estadounidense para señalar una supuesta parcialidad ideológica de Google.
• Así, el movimiento conservador retoma su papel en las ‘guerras culturales’ para argumentar que sus seguidores son víctimas de sesgos y censuras.

En realidad, la polémica ilustra una dinámica más compleja: la dificultad que implica entrenar y ajustar herramientas de inteligencia artificial que ya usan decenas de millones de personas diariamente.

[Riesgos detrás de Worldcoin, la compañía del creador de ChatGPT que escanea los iris de las personas]

Padres fundadores negros

La polémica. La controversia se remonta a la queja de que la inteligencia artificial de Gemini estaba manipulada para forzar la diversidad de sus creaciones. Gemini creaba imágenes de personas cuya raza no era fiel a la realidad histórica que pretendían sus usuarios.

• Por ejemplo, a la petición de generar imágenes de «padres fundadores de Estados Unidos», Gemini generaba imágenes de personas negras o nativoamericanas.
• En otros casos, a las peticiones de crear imágenes de «un soldado alemán en 1929» o «una pareja alemana de 1820», Gemini generaba imágenes de personas negras o asiáticas.

Críticas. Figuras habituales de la derecha estadounidense como @EndWokeness propagaron ejemplos similares, aunque la crítica no fue exclusiva de esa parte del espectro ideológico.

• El periodista experto en datos Nate Silver o el bloguero de economía Noah Smith también se hicieron eco de la controversia.
• Otros críticos, como Elon Musk, encomendaron a Google a tomar medidas para paliar los fallos.

Más allá de la diversidad forzada de Gemini

Contexto. La existencia de sesgos discriminatorios en la inteligencia artificial es una realidad debatida desde hace años, también en Google. La controversia con la diversidad en Gemini parece un caso muy sencillo de sobrecorrección.

• Herramientas de inteligencia artificial como Gemini operan sobre modelos de lenguaje grandes que han sido entrenados con billones de líneas de texto e imágenes.
• Todos esos textos e imágenes tienen un sesgo discriminatorio histórico, por lo que los modelos se han entrenado con sesgos que luego podrían repetir.
• Por ejemplo, sobrerrepresentando a personas negras al hacer imágenes de presidiarios o sobrerrepresentando a personas blancas al generar imágenes de familias felices.

En el caso de Gemini, sus ingenieros hicieron una corrección para sobrecompensar sesgos con diversidad y multiculturalidad en su representación de personas. Claramente ha tenido resultados inesperados.

• Por otro lado, también ha demostrado que las IA generativas no son «tan inteligentes», pues son incapaces de entender los matices históricos o temporales que a veces buscan sus usuarios.

¿Y ahora? La controversia pone a Google en una situación compleja.

• Por un lado, sus investigadores llevan años indagando en los sesgos perjudiciales que tienen sus modelos de lenguaje. El objetivo: poder ajustarlos.
• Pero por otro, las soluciones que han planteado hasta ahora tienen consecuencias dañinas para la compañía conforme intenta abrir el acceso de sus herramientas de IA a más personas.

La pregunta es si las grandes compañías tecnológicas deben ser más precavidas a la hora de presentar sus productos de IA al gran público. Pero en el caso de Google, estos impedimentos son más difíciles de gestionar porque les frenan en su carrera por competir con OpenAI, un rival que todavía no se ha visto envuelto en una polémica del mismo calibre.