El Comisionado de eSafety de Australia ha señalado que se apoyará en Apple y Google para eliminar de sus tiendas las aplicaciones que no cumplan con las normas si las empresas de pornografía se niegan a realizar la verificación de edad.
La advertencia se produce después de que el lunes entraran en vigor nuevas regulaciones de la industria que requerirán que los sitios web que albergan contenido de pornografía, violencia, autolesiones y trastornos alimentarios verifiquen si los usuarios son mayores de 18 años utilizando métodos como la estimación de la edad facial, billeteras digitales e identificación con fotografía. El incumplimiento podría dar lugar a sanciones de hasta 49,5 millones de dólares por infracción.
Como informó este encabezado el viernes, la empresa matriz canadiense de Pornhub, Aylo, comenzó a restringir el acceso australiano a varios de sus sitios la semana pasada en protesta por las nuevas reglas; también ha utilizado el mismo enfoque en el Reino Unido, Francia y 23 estados de EE. UU. Los usuarios australianos que intentan acceder a Pornhub se enfrentan actualmente a contenidos “seguros”, como sketches y podcasts.
Imágenes falsas
Apple y Google prohíben oficialmente la pornografía en sus tiendas de aplicaciones. Sin embargo, los códigos eSafety cubren una categoría mucho más amplia de contenido y servicios que la pornografía explícita. Las aplicaciones de citas, los chatbots de inteligencia artificial y las aplicaciones de video chat aleatorio se distribuyen a través de tiendas de aplicaciones y pueden exponer a los menores a contenido sexual explícito o dañino.
Un portavoz de eSafety dijo que el regulador adoptaría un “enfoque gradual de aplicación” contra las empresas que infrinjan sistemáticamente las reglas. Señalaron que el diseño interconectado del marco regulatorio de Australia representa una ventaja clave sobre regímenes comparables en el extranjero.
“Los códigos de Australia son únicos en comparación con los de otros países y jurisdicciones como el Reino Unido porque aquí hay múltiples códigos que cubren diferentes áreas del ecosistema en línea”, dijo el portavoz a esta cabecera.
Según el marco, si una aplicación que brinda acceso a material sexualmente explícito continúa exponiendo a los niños a ese contenido y se niega a cumplirlo, el regulador podría contactar a los gigantes tecnológicos Apple y Google para verificar si están cumpliendo con sus propias obligaciones bajo un código de tienda de aplicaciones separado al continuar distribuyéndolo.
Cómo eSafety eliminó una aplicación de atención
eSafety dijo que ya había probado este enfoque. El regulador envió un aviso de cumplimiento a los operadores extranjeros de OmeTV, una aplicación de chat de ruleta que emparejaba a niños y adultos para videoconferencias aleatorias, lo que permitía el acoso por parte de pedófilos. El aviso fue ignorado en gran medida.
Luego, eSafety se comunicó directamente con Apple y Google y les recordó sus obligaciones según el Código de la App Store de no distribuir servicios que puedan facilitar la preparación infantil. Posteriormente, ambas empresas eliminaron la aplicación de sus tiendas australianas.
“Los códigos están diseñados para que no sean sólo un código único con un único punto de falla”, dijo el portavoz.
Se ha contactado a Apple y Google para hacer comentarios.
Chatbots con IA en la mira
En una serie de entrevistas el lunes por la mañana, la comisionada de eSafety, Julie Inman Grant, dijo que los códigos son las primeras protecciones ejecutables de este tipo en el mundo dirigidas a chatbots de IA y aplicaciones complementarias.
Inman Grant dijo que su oficina escuchó de las enfermeras escolares alrededor de octubre de 2024 que los niños de la escuela primaria superior pasaban hasta seis horas al día en aplicaciones complementarias de inteligencia artificial que utilizan manipulación emocional y lo que ella llamó “huevo de memoria” para mantener interesados a los usuarios jóvenes.
“Escuchamos que estaban incitando a niñas a participar en actos sexuales explícitos”, dijo Inman Grant. Señaló una docena de demandas en Estados Unidos contra proveedores de chatbots, incluido un caso de muerte por negligencia contra Character AI después de que supuestamente un joven fuera incitado a quitarse la vida.
“No quiero que esto les pase a los niños australianos aquí”, dijo. “Así que fui a la industria y dije que era necesario incluir esto en los códigos”.
Inman Grant dijo que el 63 por ciento de los adolescentes australianos habían estado expuestos a pornografía violenta, incluidas representaciones de asfixia y estrangulamiento.
Comparó las nuevas normas con las medidas de protección vigentes desde hace mucho tiempo. “Un niño no puede entrar a un bar y pedir una bebida. No puede entrar a un club de striptease o sentarse en una mesa de blackjack en un casino”, dijo. “Esto realmente lleva estas protecciones al ámbito digital”.
¿Qué está cambiando para los usuarios australianos?
Los códigos se extienden a sitios web que alojan pornografía, plataformas de redes sociales, chatbots de inteligencia artificial, tiendas de aplicaciones y proveedores de equipos. Ya no basta con simplemente hacer clic en un botón e indicar que un usuario tiene más de 18 años.
Los servicios deben implementar lo que eSafety considera “medidas apropiadas de protección de la edad”. Inman Grant dijo que el regulador permite a las empresas elegir su método de verificación, incluida una identificación con fotografía, una estimación de la edad facial, verificaciones de tarjetas de crédito o billeteras de identidad digital, siempre que sea “robusto, justo y que preserve la privacidad”.
¿Qué sigue?
Los códigos que entraron en vigor el lunes son sólo el comienzo. Los motores de búsqueda como Google y Bing de Microsoft deben introducir controles de edad para los usuarios australianos que han iniciado sesión antes del 27 de junio, con resultados sin filtrar para contenido pornográfico y violento borrosos u ocultos de forma predeterminada para los usuarios que no han iniciado sesión. Las tiendas de aplicaciones tienen hasta el 9 de septiembre para hacer lo mismo, aunque Apple ya ha comenzado a revisar su tienda australiana.
El gobierno está impulsando por separado una legislación sobre diligencia debida digital, que la ministra de Comunicaciones, Anika Wells, describió como el siguiente paso más allá del enfoque de “golpear a un topo” e impone una obligación más amplia a las empresas de tecnología de prevenir daños de manera proactiva en lugar de reaccionar después del hecho.
Obtenga noticias y reseñas sobre tecnología, dispositivos y juegos. nuestro boletín de tecnología todos los viernes. Regístrate aquí.
David Swan es editor de tecnología de The Age y The Sydney Morning Herald. Anteriormente fue editor de tecnología del periódico The Australian.Conéctate a través de X o Correo electrónico.De nuestros socios
About The Author
