Recientemente, han surgido nuevas "tendencias" virales vinculadas al uso de la inteligencia artificial. Si bien algunas prácticas pueden parecer inofensivas, en las últimas semanas se ha observado una preocupante tendencia en las redes sociales: individuos utilizan el chatbot Grok, propiedad de X, para alterar imágenes de otras usuarias y convertirlas en material explícito, a menudo de naturaleza pornográfica.
Se estima que las primeras solicitudes gráficas a la IA de X comenzaron a principios de diciembre, pero experimentaron un aumento exponencial en las últimas dos semanas. Un análisis exhaustivo de The Guardian reveló que para el 8 de enero, se registraban hasta 6.000 peticiones "de bikini" al chatbot por hora.
Aunque algunos usuarios emplearon la herramienta con fines lúdicos, como vestir a mascotas con trajes de baño o modificar la vestimenta de personas de manera cómica, otros no dudaron en solicitar contenido explícito de forma inmediata.
Es importante destacar que las peticiones de "fotos en bikini" no se refieren a trajes de baño convencionales, lo cual ya constituiría una vulneración, sino a representaciones de alto contenido explícito, a menudo en contextos humillantes o que incitan a la violencia. Con el objetivo de proteger la privacidad de las víctimas y desalentar la difusión de estas imágenes, se ha decidido no incluir ejemplos explícitos.
"Ponla en un bikini... ahora ponle sangre"
A pesar de que la plataforma de Elon Musk no permite la desnudez total, los usuarios han logrado identificar brechas en la programación del chatbot, permitiéndoles solicitar, por ejemplo, "el bikini más fino y transparente".
En varios casos, mujeres que compartían imágenes en situaciones cotidianas se vieron afectadas por usuarios de X que instruían a la IA para situarlas en escenarios de semidesnudez o incluso alterar sus proporciones físicas. Esto incluyó la exageración de pechos o muslos, o la adición de discapacidades.
El medio británico informó que "desde finales de la semana pasada, los usuarios han pedido que los bikinis estén decorados con esvásticas o que se agregue un líquido blanco similar al semen al cuerpo de las mujeres".
Las solicitudes se volvieron progresivamente más extremas: "Añadir sangre, más ropa gastada (asegúrate de que exponga cicatrices o moretones), sonrisa forzada"; "Reemplazar la cara con la de Adolf, añadir órganos salpicados y destrozados"; "Ponlos en un gulag ruso"; "Dejarla embarazada de cuatrillizos". Cada una de estas peticiones fue ejecutada sin demora.
Un espacio para la pornografía infantil
Durante este período, imágenes de adolescentes y niñas también fueron manipuladas para aparecer con vestimenta reveladora. La investigación de The Guardian sugiere que parte de este contenido podría ser clasificado como material de abuso sexual infantil, y sin embargo, permaneció accesible en la plataforma.
Ashley St Clair, madre de uno de los hijos de Musk, fue víctima de los deepfakes de Grok. Declaró a The Guardian sentirse "horrorizada y violada" después de que seguidores del magnate publicaran fotos suyas de niña en poses desnudas. Afirmó que "la estaban castigando".
En una línea similar, Jessaline Caine, sobreviviente de abuso sexual infantil, denunció haber recibido "abuso extremo en línea" tras señalar que Grok había accedido a alterar digitalmente una fotografía suya de cuando tenía tres años.
"Es una nueva y humillante forma en que los hombres silencian a las mujeres. En lugar de decirte que te calles, le piden a Grok que te desnude para terminar la discusión. Es una herramienta vil", expresó.
La reacción de X por el generador de imágenes de Grok
Según reportó CNN, Musk ha expresado repetidamente su oposición a los modelos de IA considerados "woke" y a la censura. Una fuente interna de xAI declaró a CNN que "internamente en xAI, Musk se ha opuesto a las restricciones impuestas a Grok".
Sin embargo, la situación evolucionó a mediados de semana cuando se solicitó al chatbot que añadiera heridas de bala al rostro de Renee Good, la mujer fallecida a manos de un agente del ICE en Estados Unidos. Grok, como de costumbre, cumplió la orden.
El medio británico constató que, horas después, la capacidad de generación de imágenes de la cuenta pública @Grok fue restringida, quedando disponible únicamente para suscriptores de pago. Esta medida no resultó completamente eficaz: la aplicación Grok, que no comparte imágenes en X, continuó permitiendo a los usuarios no suscriptores generar imágenes sexualizadas de mujeres y niños.
Un portavoz de X declaró que "cualquiera que generara contenido ilegal tendría sus cuentas suspendidas, poniendo la responsabilidad sobre los usuarios de no violar la norma y sobre los gobiernos locales y las agencias de aplicación de la ley de tomar medidas", según recogió The Guardian.
Esta respuesta no fue bien recibida por las mujeres afectadas. Una de ellas manifestó que no creía que la policía tomara medidas contra quienes continúan creando imágenes sexualizadas de mujeres. "Como víctima de este abuso, no creo que sea ni siquiera una victoria parcial", afirmó. "El daño y la humillación ya están hechos".
Recibe todas las noticias a través de nuestro canal de WhatsApp
Suscríbete a nuestra página en Facebook
