La autora y activista Amani Al-Khatahtbeh presentó una demanda federal contra xAI, la compañía detrás de Grok, después de que usuarios emplearan la herramienta para generar imágenes sexualizadas de ella sin su consentimiento y quitarle el hijab en ediciones de una fotografía. La acción lleva a los tribunales una práctica que, según la demanda, ya había sido señalada públicamente a la empresa.
El caso, reportado por WIRED, se centra en el uso de la IA para manipular imágenes de mujeres musulmanas y su vestimenta religiosa. Al-Khatahtbeh, fundadora de la plataforma de medios Muslim Girl, sostiene que las imágenes difundidas en X la expusieron ante decenas de miles de personas.
Qué reclama la demanda contra xAI
La denuncia fue presentada el miércoles 18 de noviembre ante un tribunal federal del Distrito Norte de California. Entre sus señalamientos incluye distribución intencional de imágenes sexuales no consentidas, defectos de diseño y comercialización, negligencia e imposición intencional de daño emocional. Al-Khatahtbeh solicita daños de hasta 250,000 dólares por cada infracción al Código Civil de California, según WIRED. Estas son alegaciones incluidas en la demanda; el proceso deberá determinar su curso y resultado.
La fotografía que originó el episodio fue una selfie publicada el 1 de enero, durante la toma de posesión de Zohran Mamdani como alcalde de Nueva York. Al-Khatahtbeh aparece con hijab negro y abrigo morado; en las respuestas, varias personas pidieron a Grok que le quitara el pañuelo o modificara su ropa. WIRED afirma que revisó capturas de esas solicitudes y algunas imágenes generadas. La autora dijo al medio que la experiencia le hizo sentir como si alguien le hubiera arrancado el pañuelo en persona.
El caso se suma a las críticas por las imágenes generadas con Grok
La demanda también plantea que xAI recibió avisos previos sobre el uso de Grok para hostigar y “desvelar” a mujeres musulmanas. El Consejo de Relaciones Estadounidenses-Islámicas (CAIR), una organización de derechos civiles musulmanes, había pedido a la empresa que frenara la creación de imágenes sexuales y de acoso dirigidas a mujeres, incluidas figuras públicas musulmanas.
WIRED sitúa la querella dentro de una oleada de acciones y cuestionamientos sobre imágenes no consentidas generadas por Grok. El medio cita una estimación de enero del Center for Countering Digital Hate: alrededor de tres millones de imágenes sexualizadas fotorrealistas habrían sido generadas en X durante un periodo de 11 días iniciado el 29 de diciembre, incluidas unas 23,000 de menores. Esa cifra corresponde a la estimación del organismo, no a una conclusión judicial.
La publicación señala que esta demanda es la primera de esa ola que se enfoca específicamente en la eliminación de hijabs. Al-Khatahtbeh busca que el litigio impulse mayores protecciones para mujeres y niñas frente a ediciones que alteran su imagen y su identidad religiosa. xAI no había respondido a la solicitud de comentarios de WIRED al momento de su publicación.
Para más noticias de tecnología, cultura geek, gadgets y entretenimiento, visita: GeekAndLife.com.mx
Descubre más contenido en nuestras redes: Instagram | YouTube | TikTok

Fuente: WIRED


