Denuncian el uso de la IA en X para crear imágenes de mujeres en bikini sin consentimiento

Los suscriptores de X Premium están utilizando la inteligencia artificial (IA) de la red social, Grok, para generar imágenes no consensuadas de personas (en su mayoría mujeres) en bikini o ropa interior, una inquietante tendencia que ha llevado a usuarios de todo el mundo a pedir una mayor restricción de la herramienta y la eliminación del contenido generado.

"¿Cómo es posible que esto no sea ilegal?", se pregunta Samantha Smith en un post en el que comparte cómo un usuario ha pedido a Grok que transformara una foto de ella en la que sale con un vestido azul sujetando una bandera del Reino Unido en una realista imagen de ella en un pequeño bikini negro.

Smith explica en sus redes sociales que ha probado a preguntar a Grok si podía editar una foto de su primera comunión para que saliera en un bikini y la IA lo ha hecho. "Es absolutamente asqueroso", recalca tras compartir la imagen generada con IA.

Petición de cambios

Otros usuarios han acudido a X para pedir a Elon Musk cambios en esta herramienta.

El periodista Sanket Upadhyay, por ejemplo, le ha preguntado al dueño de la plataforma si "dirige una aplicación para pervertidos que no muestra ningún respeto ni dignidad hacia las mujeres".

"Eliminen todo el contenido generado donde las fotos de mujeres fueron modificadas para que aparecieran en bikini o vestidos cortos sin su consentimiento. Esto no es innovación de IA, es una violación de la privacidad", escribe Nandani Sotro, otra usuaria de X.

Musk publica una imagen suya en bikini

En medio de la creciente tendencia de Grok a crear imágenes de personas en bikini o poca ropa, Musk ha participado en la polémica con una foto suya en bikini.

Musk le ha pedido a Grok que modificara una imagen de alguien en bikini generada por IA para que se pareciera a él, petición que la herramienta ha ejecutado sin problemas. "Perfecto", ha escrito Musk en sus redes tras ver el resultado de la IA.

El Gobierno francés denuncia la IA de X ante la Justicia por generar contenidos sexistas

El Gobierno francés anunció este viernes que ha presentado una denuncia ante la Justicia y ante el organismo de verificación de contenidos ilícitos en línea Pharos, dependiente del Ministerio del Interior galo, contra la IA generativa Grok de X por crear y divulgar "contenidos de carácter sexista y sexual".

En un comunicado, los ministros de Economía, Roland Lescure; de la Inteligencia Artificial y la Economía Digital, Anne Le Henanff; y de Igualdad entre Hombres y Mujeres, Aurore Bergé, señalaron que dan ese paso amparándose en el artículo 40 del Código Penal.

Lo hacen porque dicen que "estos últimos días" Grok ha permitido generar y difundir "contenidos de carácter sexista y sexual, en particular en forma de falsos vídeos (deepfakes) con personas sin su consentimiento".

Se refieren así a la avalancha que se ha constatado sobre todo desde finales de diciembre de vídeos elaborados a partir de las peticiones de usuarios de X que le pedían a su inteligencia artificial que generara imágenes de mujeres desnudas sin pedirles permiso.

Los tres ministros franceses condenaron "con la mayor firmeza" estas prácticas y subrayaron "el compromiso constante del Gobierno (francés) en la lucha contra cualquier forma de violencia sexual y sexista".

Insistieron en que internet no es ni un espacio sin ley ni "una zona de impunidad" y que los delitos sexuales en línea son infracciones penales sobre las que se aplica la legalidad, como al resto.

En paralelo a su acción ante la Justicia, el Ejecutivo francés ha pedido a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que verifique si X ha incumplido las obligaciones que derivan del Reglamento de Servicios Digitales de la Unión Europea, en particular en lo que respecta a la prevención de difusión de contenidos ilícitos.