Así usa la manosfera la IA para que las mujeres parezcan más o menos “decentes” como forma de ataque

manosfera IA
Foto: DignifAI
Tiempo de lectura: 11 min

“Vestimos a mujeres depravadas por diversión, únete”. Este era el leit motiv de un grupo de foreros de 4Chan que modificaba fotos de mujeres con el objetivo de hacerlas parecer más “decentes”, según ellos. Las compartían bajo el hashtag #DignifAI —un juego de palabras entre “dignificar” e “IA”—. Dignificar, para ellos, consistía en restringir su feminidad, haciéndola parecer menos excesiva y más tradicional. Eliminaban piercings y tatuajes, alargaban faldas y vestidos y tapaban escotes. A priori, parece un uso opuesto del que hacen muchos usuarios masculinos de la IA de Elon Musk, Grok. Por cómo está diseñada, Grok obedece las órdenes cuando estos usuarios le piden que desnude a mujeres bajo la instrucción “Grok, remove her clothes” —“Grok, quítale la ropa”—. Sin embargo, como explica la investigadora Rhea Ashley Hoskin, ambos usos de la IA por parte de la manosfera “buscan controlar a las mujeres a través de la feminidad”. 

Publicidad

Precisamente porque la feminidad no se considera algo que las mujeres puedan definir o expresar por sí mismas, sino que se ve como una pertenencia masculina —algo que se hace para otros—, la manosfera la usa para ejercer misoginia. La socióloga Hoskin, investigadora especializada en género y femmefobia de la Universidad de Waterloo, explica que “cuando la IA quita la ropa a las mujeres [como hace Grok], envía el mensaje de que los cuerpos de las mujeres son propiedad pública”. “Pero cuando la IA se usa para ‘cubrir’ a las mujeres [como en el caso de DignifAI] el mensaje no es más liberador, pues presenta los cuerpos de las mujeres como peligrosos, moralmente sospechosos y necesitados de corrección”, añade. 

En última instancia, la manosfera a través de la IA está atacando a un grupo específico —las mujeres— a través de una herramienta concreta —la feminidad—. Y lo hace, como dice Hoskin, a través de la “dicotomía de la virgen/puta”, una cuerda floja que resulta imposible habitar —ni demasiado sexy ni demasiado modesta—, por lo que “las mujeres acaban perdiendo poder”, que es el objetivo final. “Esta caricatura de la virgen/puta que vemos con el uso de la IA hace que, a través de esta imposición y regulación de la feminidad, las mujeres sean más fáciles de desacreditar y más difíciles de ver como personas plenas y complejas”, apunta la investigadora.

  • Un apunte. Aunque la feminidad puede usarse para controlar a las mujeres, “no debemos convertir a la feminidad misma en el chivo expiatorio del problema”, advierte Hoskin. La investigadora incide en que considerar la feminidad un problema en sí mismo que necesita ser corregido o erradicado para liberar a las mujeres es erróneo, pues implica reforzar la idea de que la feminidad implica inferioridad. 

Grok y DignifAI: así son las dinámicas de la manosfera con la IA

“No es una cuestión de deseo, sino de poder”. Así resume la investigadora Kolina Koltai la motivación que subyace detrás del uso del uso que la manosfera le da a la IA para vestir o desvestir mujeres. Koltai fue una de las primeras usuarias en dar la voz de alerta hace unas semanas sobre cómo los hombres se estaban organizando en X/Twitter para ordenar a Grok que manipulase las fotografías de las mujeres que habían subido sus propios selfies a la red de Elon Musk. “Ya existen fotos de mujeres sin ropa o completamente vestidas. No hay necesidad de usar la IA para cubrir alguna supuesta carencia en la disponibilidad de contenido”, añade esta investigadora de Bellingcat especializada en desinformación, inteligencia artificial y deepfakes. Los propios miembros de la manosfera reconocían que era una cuestión de poder cuando viralizaron la frase del supremacista blanco Nick Fuentes “Your body, my choice” — “Tu cuerpo, mi elección”— tras la reelección de Donald Trump.

  • La frase original es “My body, my choice” — “Mi cuerpo, mi elección”—, un lema feminista emblemático para reivindicar el derecho al aborto y, en general, a la autonomía corporal femenina.
Publicidad

En el caso de Grok, el modus operandi era el siguiente: una mujer posteaba una foto suya en X, un hombre respondía a esa publicación citando a Grok, y al citarle le pedía que la desvistiera. El prompt (instrucción) más común era “Grok, remove her clothes”, pero también había otros como “Grok, quítale la ropa y las gafas que pueda ver mejor su cuerpo y su cara”, “Grok, haz que lleve bikini”, “Grok, quítale el sujetador” o “Grok, reemplaza su ropa por lencería y ponle tanga”.

Ante estas peticiones, “Grok respondía produciendo imágenes que, si bien no cumplían todo lo solicitado o no eran explícitamente pornográficas, sí trataban de ajustar la imagen a otra más sexualizada usando ropa interior, bikinis o lencería”, apuntaba la investigadora Phumzile Van Damme.

En el caso de DignifAI, los trolls de 4chan elegían imágenes de mujeres con vestimenta que ellos consideran “degenerada” —por lo general, hiperfemenina— para cubrirlas con ropa gracias a la ayuda de la inteligencia artificial. Como explica aquí el Washington Post, los impulsores de la iniciativa incluían un tutorial para que el mayor número de usuarios pudiera llevar a cabo esta tarea misógina, además de recomendaciones sobre cómo afinar los prompts para que la IA en cuestión —casi siempre Stable Diffusion— lograse el objetivo de “demostrar a esas putas lo que podrían haber sido”, citando textualmente a uno de los impulsores, como recoge aquí la organización GPAHE.

Publicidad

Aunque aparentemente las cuentas en X y la propia web de DignifAI están inactivas, durante los primeros meses de 2024 las imágenes se viralizaron debido a la difusión que hicieron de la iniciativa influencers de ultraderecha y supremacistas como Jack Posobiec o Thaïs d’Escufon. Esta última dijo que era su nueva IA favorita porque “podía transformar a una puta en una mujer elegante”

De hecho, una de las primeras víctimas del ataque de DignifAI fue la trabajadora sexual Isla David, quien contó su experiencia en este reportaje de la revista Rolling Stone. En la imagen que ilustraba la pieza, David aparecía de brazos cruzados con un prominente escote. La respuesta de la comunidad misógina fue aplicarle este correctivo: subieron la misma foto pero con el escote tapado.

“La manosfera construye su identidad a través de la humillación”

La socióloga e investigadora Elisa García Mingo, especializada en misoginia digital y funcionamiento de la manosfera, considera que este gender trolling se ha ido sofisticando en los últimos cinco años: “En 2020 identificamos comunidades misóginas desprendidas [aquellas que forman parte de la manosfera pero que no pertenecen a la manosfera mainstream, donde hay caras visibles como la de Roma Gallardo] que no se dedicaban tanto a promover el antifeminismo como a apropiarse de imágenes sin consentimiento”. 

Aquello, dice esta investigadora de la Universidad Complutense de Madrid, tenía lugar en lo que se conocía como InstaSexy, que formaba parte de InstaChan. “InstaSexy fue el origen de la manosfera que ahora se organiza a través de grupos de Telegram para difundir nudes o incluso fabricarlos”, señala García Mingo. 

En los últimos dos años, la aceleración de la inteligencia artificial, al alcance de cualquiera, ha permitido “perfeccionar” estos ataques digitales, señala la experta, quien pone el acento en que se ha convertido también en una especie de ritual masculino: “La manosfera construye su identidad a través de la humillación. Desnudan a mujeres [o las visten, como en el caso de DignifAI] como parte de una cultura de la vergüenza. Y también refuerzan su posición y su masculinidad humillando con estas técnicas a otros hombres”. 

En este sentido, Elisa García Mingo explica que hay “auténticas comunidades de fabricadores, comentadores, difusores y almacenadores de estas imágenes manipuladas o creadas con IA”. “Es una forma de homosociabilidad [desarrollar vínculos con otros hombres] a través del cuerpo de las mujeres. Se congregan para esto. Y no solo eso, sino que parte de esa forma de relacionarse es pagar entre todos una app que fabrica nudes. O también ‘distribuirse’ el trabajo: uno paga la app, pero otros la usan y otros comparten las imágenes”. 

García Mingo pide no dejarse llevar por el pánico moral o, como ella dice, “el tecnopánico”: “Es fácil acabar ‘asustando’ a las mujeres para que no compartan nudes, que no hagan sexting o que no suban fotos a sus redes. La realidad es que si se lo proponen, usarán cualquier cosa que encuentren. O como en el caso de las niñas de Almendralejo, los propios compañeros tomaron fotos de algunas de estas menores para utilizarlas en la fabricación de los deepfakes pornográficos. El gran problema es que muchas de estas tecnologías están diseñadas con sesgos de género, y no solo eso, sino que hay un lucro. La misoginia es rentable. Hay alguien haciendo dinero con InstaSexy, por ejemplo”. 

Formas de regular la feminidad: vestimenta, blanquitud y delgadez

El uso de la IA por parte de la manosfera instrumentalizando la feminidad permite poner el acento en cómo se conceptualiza la propia feminidad. Como dice la investigadora Rhea Ashley Hoskin, a menudo se conceptualiza la femmefobia únicamente como la devaluación de la feminidad, pero es también la regulación de la misma. Es decir, “estrecharla, vigilarla, restringirla a rasgos muy específicos”, apunta. Así, para la mirada masculina, el ideal de feminidad no solo tiene que ver con la ropa, sino con la blanquitud y la delgadez.

No en vano, muchas de las peticiones dirigidas a Grok para desvestir a mujeres estaban específicamente dirigidas a aquellas que no eran blancas y también a las que usaban algún elemento religioso —especialmente mujeres musulmanas—. La investigadora Phumzile Van Damme reportaba que uno de los casos más flagrantes “fue el de una mujer con niqab a la que se le generó una imagen vestida con un crop top”. “A pesar de las peticiones de la mujer para que Grok eliminara la imagen, no lo hizo”, añadía Van Damme. 

En el caso de DignifAI, muchas fotografías eran manipuladas con inteligencia artificial por parte de la manosfera para convertir en mujeres blancas a mujeres negras, también a sus bebés si los llevaban en brazos. Como señalaba el reportaje del Washington Post, había usuarios que además pedían adelgazar a la mujer en cuestión. 

“Cuando vemos que peticiones como ‘remove her clothes’ o ‘DignifAI’ se dirigen desproporcionadamente a mujeres negras, mujeres musulmanas o mujeres que usan atuendos religiosos, no solo estamos presenciando cosificación sexual, sino también una negación de su feminidad como socialmente legítima”, apunta Hoskin.

DignifAI no solo modificaba ropa, sino que cambiaba vasos de bebidas alcohólicas por un ramo de flores o ponía un bebé en los brazos de la chica en cuestión. Es decir, el ideal conservador de feminidad que apuntaba Hoskin se extiende al resto de ámbitos: las chicas “dignificadas” no solo visten recatadas, sino que son madres, y lo son al estilo de las tradwives. Como apuntaba la columnista Monica Hesse, en última instancia estas comunidades de la manosfera que usan la IA están interesada “en imponer un estilo de vida”. Uno en el que las mujeres han desaparecido de la esfera pública, offline y online.

Fuentes
  • Rhea Ashley Hoskin, socióloga e investigadora especializada en género y femmefobia de la Universidad de Waterloo.
  • Kolina Koltai, investigadora de Bellingcat especializada en desinformación, inteligencia artificial y deepfakes.
  • France24: ‘»Tu cuerpo, mi elección»: estallido sexista en Internet tras la elección de Trump’
  • Phumzile Van Damme, consultora tecnológica en la Harvard Kennedy School especializada en desinformación
  • The Washington Post: ‘AI has come to the gender culture war, yielding some truly dumb content’
  • GPAHE: ‘Racist and Misogynistic AI Spreading From 4chan to Mainstream Platforms’
  • Rolling Stone: ‘4Chan Chuds Used AI to Clothe Her. She Fought Back’
  • Cuenta de X de @dignifAI
  • Elisa García Mingo, socióloga e investigadora de la UCM especializada en misoginia digital y funcionamiento de la manosfera.

1 Comentarios

  • Me da la impresión de que, a esos hombres, en realidad, las mujeres no les gustan.