La plataforma de redes sociales de Elon Musk
El viernes, la comisionada Julie Inman Grant dijo que su agencia podría usar sus poderes regulatorios existentes para “investigar y tomar medidas apropiadas” contra los productos de inteligencia artificial que no brindan salvaguardias adecuadas, a medida que aumenta la evidencia de que la controvertida plataforma se está utilizando para generar material de abuso infantil.
“Estoy profundamente preocupado por el uso cada vez mayor de la IA generativa para sexualizar o explotar a las personas, particularmente cuando hay niños involucrados”, dijo Inman Grant en un comunicado en LinkedIn.
Inman Grant dijo que ha aumentado la cantidad de informes de imágenes sexualizadas creadas con la herramienta de inteligencia artificial de Grok.
“Hemos entrado en una era en la que las empresas deben garantizar que los productos de IA generativa cuenten con salvaguardias y barreras de seguridad adecuadas en cada etapa del ciclo de vida del producto”, dijo.
“Al adoptar un conjunto de mejores prácticas de seguridad de IA, pueden predecir de manera efectiva cómo los actores maliciosos explotarán las características de diseño y las vulnerabilidades antes de que ocurran daños”.
X, anteriormente conocido como Twitter, ha publicado miles de imágenes de personas representadas desnudas por IA sin su consentimiento.
Starmer describió el jueves las imágenes como ilegales e intolerables y dijo que su gobierno tomaría medidas, incluso a través de Ofcom, el regulador de comunicaciones de Gran Bretaña.
“Es una vergüenza, es repugnante y no debe ser tolerado. X necesita tener esto bajo control”, dijo Starmer.
“Ofcom cuenta con todo nuestro apoyo para tomar medidas al respecto”.
El regulador británico dijo a principios de esta semana que estaba investigando acusaciones de material de abuso sexual infantil en línea en la web oscura supuestamente creado por Grok y que se había puesto en contacto con la compañía de Musk sobre los informes.
La agencia eSafety dijo en un comunicado el viernes que había recibido varios informes en las últimas semanas sobre el uso de Grok para generar imágenes sexualizadas o de explotación y que se había puesto en contacto con X para averiguar qué medidas de protección tenía implementadas para prevenir el abuso.
Un portavoz del gobierno albanés dijo que el uso de IA generativa para producir material sexualizado sin consentimiento era “aborrecible” y que estaba comprometido a restringir el acceso a herramientas de imágenes de desnudos en Australia.
Las nuevas leyes que entrarán en vigor el 9 de marzo obligarán a los servicios de inteligencia artificial a, entre otras cosas, restringir el acceso de los niños a contenidos sexualmente explícitos, así como a material violento y temas relacionados con la autolesión y el suicidio.
Estas regulaciones siguen a la acción coercitiva de la Comisión de eSafety contra una empresa con sede en el Reino Unido que ofrecía dos servicios Nudify ampliamente utilizados que permitían a sus usuarios manipular fotografías de personas reales.
Estos servicios habían atraído a unos 100.000 visitantes cada mes en Australia, y eSafety dijo que se habían utilizado para crear imágenes explícitas y falsas de estudiantes en escuelas australianas. Los sitios web fueron retirados de Australia en noviembre tras una advertencia oficial de eSafety.
Un mes después de que eSafety introdujera por primera vez en el mundo la prohibición de las redes sociales para menores de 16 años por parte del gobierno albanés, Inman Grant todavía enfrenta cargos de desacato por parte del Congreso de los Estados Unidos a menos que testifique sobre las leyes de seguridad en línea antes del martes 13 de enero.
El congresista republicano Jim Jordan, presidente del Comité Judicial de la Cámara de Representantes, ha afirmado que la Ley de Seguridad en Línea de Australia amenaza la libertad de expresión de los ciudadanos estadounidenses y ha pedido dos veces a Inman Grant que rinda cuentas de sus intentos anteriores de obligar a las empresas de medios sociales a eliminar contenido gráfico de sus plataformas.
El Congreso tiene la autoridad para obligar a los ciudadanos estadounidenses que viven en el extranjero a testificar y ser declarados culpables de desacato al Congreso por no hacerlo. El desacato al Congreso puede resultar en multas o prisión.
Inman Grant chocó con Musk el año pasado cuando eSafety exigió que X eliminara imágenes gráficas de un ataque con cuchillo en una iglesia de Sydney, argumentando que la eliminación global era necesaria porque los australianos podían usar VPN para acceder al contenido. El caso fue desestimado.
La Comisión Europea ha ordenado a X que mantenga todos los documentos relacionados con Grok por más tiempo mientras el bloque garantiza el cumplimiento de sus reglas después de condenar
El regulador italiano dijo que estaba cooperando con la Comisión Irlandesa de Protección de Datos – la principal autoridad de protección de datos de la UE para X con sede en Irlanda – y se reservaba el derecho de tomar medidas adicionales.
Suecia se unió a las críticas el jueves, diciendo que las imágenes generadas por IA eran inaceptables después de que el viceprimer ministro del país fuera atacado esta semana por la solicitud de un usuario de Grok.
con Bloomberg, Reuters
Sé el primero en enterarte cuando haya novedades importantes. Regístrese para recibir alertas de noticias de última hora por correo electrónico o habilitar notificaciones en la aplicación.
Mike Foley es corresponsal sobre clima y energía de The Age y The Sydney Morning Herald.Conéctese por correo electrónico.De nuestros socios
About The Author
