El Gobierno denuncia que en 11 días la inteligencia artificial de X generó 3 millones de desnudos, muchos de niños

El Gobierno ha denunciado este martes que en 11 días la inteligencia artificial (IA) de la red social X ha generado más de 3 millones de fotos de desnudos, incluyendo 23.000 de niños y niñas.

En la rueda de prensa posterior al Consejo de Ministros, la portavoz del Gobierno, Elma Saiz, ha señalado que a partir de ahora, el Ministerio de la Presidencia, Justicia, Relaciones con las Cortes solicitará a la Fiscalía General del Estado investigary, en su caso, perseguir estos posibles delitos de violencia sexual digital en las principales redes sociales.

"No podemos permitir, a través del algoritmo, que se pueda amplificar o amparar todo esto", ha advertido Saiz, que ha alertado de que "está en juego la seguridad de nuestros hijos, de nuestras hijas, la protección de su imagen, de su intimidad y de su libertad".

Según han informado fuentes del Ministerio de Juventud e Infancia, en apenas 11 días, la IA de X generó más de 3 millones de fotos de desnudos, incluyendo 23.000 de niños y niñas, hechos que han provocado "una enorme alarma social" y que ponen en riesgo la salud mental, el bienestar y el desarrollo de niños, niñas y adolescentes.

La fiscal general debe consultar a la Junta de fiscales de Sala

El Consejo de ministros ha invocado el artículo 8 del Estatuto Orgánico del Ministerio Fiscal para pedirle que investigue los delitos que X, Meta y TikTok podrían estar cometiendo por la creación y difusión de pornografía infantil mediante la inteligencia artificial.

El artículo octavo del Estatuto Orgánico del Ministerio Fiscal establece que el Gobierno puede pedir a la Fiscalía que promueva ante la Justicia "las actuaciones pertinentes en orden a la defensa del interés público".

Según dicho precepto, la fiscal general del Estado, Teresa Peramato, deberá convocar a la Junta de Fiscales de Sala del Tribunal Supremo, un órgano que la asiste en materia doctrinal y técnica.

Esta Junta está presidida por Peramato e integrada por la teniente fiscal del alto tribunal y los fiscales de Sala. El fiscal jefe de la secretaria técnica, el recién nombrado Julio Cano Antón, actúa como secretario.

Una vez oído el criterio de la Junta, la fiscal general debe resolver "sobre la viabilidad o procedencia de las actuaciones interesadas" y exponer "su resolución al Gobierno de forma razonada".

Difusión masiva e indiscriminada

El informe presentado este martes en el Congreso de ministros explica que las herramientas de inteligencia artificial integradas en las redes sociales no sólo están permitiendo crear imágenes sexuales de apariencia realista a partir de fotografías de personas menores de edad, sino que, además, contribuyen, gracias a la configuración algorítmica, a su difusión masiva e indiscriminada en el entorno digital.

La activación del artículo 8 se produce tras considerar que estos hechos "podrían estar afectando al interés público tutelado por el Ministerio Fiscal", y supondrían una vulneración de varios artículos sobre elaboración de material pornográfico utilizando a menores; producción, venta, distribución, exhibición, ofrecimiento o facilitación de material pornográfico o la adquisición o posesión de pornografía infantil, incluidos los deepfakes, para uso propio, así como el acceso a sabiendas a este contenido a través de internet.

También vulneraría un artículo sobre la distribución o difusión a través de internet de contenidos específicamente destinados a promover, fomentar o incitar delitos relacionados con la pornografía infantil del Código Penal, así como un posible delito contra la integridad moral.