El gobierno pide a la Fiscalía que investigue las redes sociales que utilizan inteligencia artificial para difundir pornografía infantil: “La impunidad de los gigantes debe terminar” | Sociedad

El Consejo de Ministros ha dado un paso más en la lucha contra la impunidad de las grandes tecnológicas al decidir pedir a la Fiscalía General del Estado que active sus mecanismos para frenar el uso de herramientas de inteligencia artificial (IA) para crear y distribuir pornografía infantil en las redes sociales. De esta forma, el Gobierno avanza en una de las cinco medidas anunciadas por el presidente Pedro Sánchez para frenar los problemas provocados por las plataformas tecnológicas. “No podemos permitir que todo esto sea amplificado o protegido por algoritmos”, advirtió la portavoz del Gobierno, Elma Saiz, en una rueda de prensa tras la reunión ministerial que aprobó la medida. El ejecutivo cree que la convergencia entre la inteligencia artificial generativa y las redes sociales ha creado un ecosistema de riesgo en el que prolifera la promoción y distribución de contenidos sexuales y pornográficos.

“Están en juego la seguridad de nuestros hijos e hijas, su imagen, su privacidad y su libertad”, añadió Seiz. Según explicó el portavoz, el Ministro de Justicia, Félix Bolaños, entregará un informe a la Fiscalía mostrando lo que está sucediendo en otros países. “Hemos dado un paso más para salvaguardar los derechos de los niños en las redes sociales”, afirmó la ministra de la Juventud y la Infancia, Sira Rego, en Bluesky, una red social que compite con X.

El presidente del Gobierno, Pedro Sánchez, ha anunciado la puesta en marcha de una medida para investigar a las plataformas digitales “por posibles delitos cometidos por la creación y distribución de pornografía infantil mediante inteligencia artificial”, en referencia a estos programas capaces de crear imágenes pornográficas de menores (falsificaciones profundas). Esta es una de las cinco medidas contra las redes sociales anunciadas por el propio Sánchez en Dubai el 3 de febrero. Dijo que las redes sociales “se han convertido en un Estado fallido, donde se ignora la ley y se tolera el crimen”.

“Estas plataformas están atacando la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no puede permitir esto. La impunidad de los gigantes debe terminar”, escribió el martes el presidente en su cuenta de la red social X, una de las plataformas en las que prevé actuar.

El Centro para Contrarrestar el Odio Digital publicó durante unos días (del 29 de diciembre al 8 de enero) un estudio sobre las imágenes generadas por la inteligencia artificial Grok de Elon Musk: los usuarios de la herramienta crearon 3 millones de imágenes de contenido sexual explícito, de las cuales al menos 23.000 mostraban a menores. Según varios estudios, más del 90% de los vídeos falsos e imágenes surrealistas suelen afectar a mujeres y niñas, y los menores del Instituto de Almendralejo estuvieron expuestos a influencias pornográficas debido a estos programas.

Lo que hizo el Consejo de Ministros fue instar a la Fiscal General del país, Teresa Peramato, a investigar estos posibles delitos de pornografía infantil y violencia sexual digital a través de la Presidencia. Por lo tanto, el gobierno deberá “adoptar las acciones penales que considere apropiadas y desarrollar normas y mecanismos operativos que permitan a las víctimas, sus tutores y representantes legales” defender sus derechos ante la fiscalía.

El artículo 8 de la Ley Orgánica del Ministerio Público, al que se refirió Sánchez, señala que “el Gobierno podrá solicitar al Fiscal General del Estado la promoción judicial de las acciones pertinentes para salvaguardar el interés público”. Una vez notificado, Peramato deberá convocar al Consejo de Fiscales del Tribunal para emitir un dictamen, aunque este no será vinculante dado que la última palabra la tiene el propio titular del Ministerio Público. Reportaje de Rocío Martínez.

En una carta a la fiscalía, el gobierno señaló que la responsabilidad por los delitos cometidos se extiende más allá de los usuarios individuales de la red que los cometieron, “pero también se puede incurrir en responsabilidad penal dentro de las plataformas debido al control que ejercen sobre los contenidos”. Se refería a las propias herramientas de IA integradas en ellas, como Grok y Meta AI en X, y a la forma en que los algoritmos de esas plataformas priorizan ciertos contenidos sobre otros.

El Gobierno ha tomado esta decisión, que está respaldada por un informe técnico elaborado conjuntamente por Presidencia, el Ministerio de Transformación Digital y el Ministerio de la Juventud para combatir la “impunidad” que existe en línea. Como tal, se refiere a “un entorno digital caracterizado por la impunidad y la tolerancia a conductas delictivas que ponen en riesgo la privacidad, la imagen y la libertad de los menores”.

La administración se suma así a una tendencia internacional de actuar contra las grandes plataformas tecnológicas. Hace dos semanas, la fiscalía francesa allanó la sede de París

X se registró en París el mismo día en que Sánchez anunció en Dubái que el Gobierno prohibiría el acceso a las redes sociales a los menores de 16 años por el impacto que la exposición a contenidos nocivos podría tener en su salud mental. Para ello, anunció un impulso para prohibir el acceso a la plataforma a menores de 16 años, medida que actualmente se está tramitando en el Congreso. “Los protegeremos del Salvaje Oeste digital”, afirmó.

De las otras cinco medidas propuestas por Sánchez, dos son de carácter más legal o judicial: legislación para que los directores de las grandes tecnológicas puedan ser procesados ​​por “múltiples infracciones que se produzcan en sus plataformas”; e introducir el delito de manipulación de algoritmos. Los otros dos son más técnicos: restringir el acceso de menores a Internet e implementar un sistema para monitorear el discurso tóxico en línea, que, en palabras de Sánchez, “seguirá un rastro de odio y polarización que cuantifica y revela cómo las plataformas digitales fomentan la división y amplifican el odio”.