El Ministro de Educación de Tasmania ha remitido la queja de un padre sobre cómo una escuela de Hobart manejó un incidente de falsificación de pornografía con IA a un regulador para su consideración.
Según la policía de Tasmania, las imágenes de varias niñas de Friends’ School, la escuela cuáquera más grande del mundo, se utilizaron para crear material pornográfico deepfake.
Los padres de dos de los niños dijeron que la policía les dijo que se habían identificado 21 víctimas.
Un deepfake es una imagen o vídeo en el que el rostro o el cuerpo de una persona real ha sido editado utilizando software de inteligencia artificial para crear una representación falsa.
Cinco estudiantes varones han abandonado la escuela, pero los padres de las víctimas dicen que sus hijas “no sabían a quién acudir” en busca de apoyo.
Una madre dice que su hija no sabe a qué niñas de la escuela se les informó y por eso no puede comentarlo con nadie. (Reuters: Hollie Adams)
Una madre le dijo a ABC que se enteró del incidente por primera vez a principios de marzo a través de la “charla” de su hija.
El 1 de abril, después de que la policía interviniera, un oficial superior de la escuela la llamó y le dijo que se trataba de la fotografía de su hija.
Dijo que después de que le informaron sobre el incidente del deepfake, el miembro del personal le explicó que la mayoría de los padres no les dirían a sus hijos que habían sido identificados en el material y que ese era el mejor curso de acción.
“Me sentí alentada a no decírselo a mi hija”
dijo la madre.
“Hablamos de agresión sexual, de pornografía infantil, y les quitan la voz a nuestras niñas”.
“Nuestras niñas tienen derecho a saber que han estado involucradas en cosas como esta y tienen derecho a que se les eduque sobre cómo lidiar con ello”.
La madre le escribió al ministro de Educación, Jo Palmer, y le dijo:
Las chicas ahora se encuentran en situaciones embarazosas y desagradables entre ellas.
No están seguros de qué pueden decirle a quién, especialmente porque no quieren compartir información sin darse cuenta con estudiantes que no han sido informados por sus padres.
Esto ha creado un ambiente de confusión, aislamiento y vergüenza para las niñas que necesitan más apoyo y solidaridad.
En respuesta, la señora Palmer dijo: “No puedo ni imaginar la angustia que ha causado esta situación”.
La ministra de Educación de Tasmania, Jo Palmer, dijo que había remitido la denuncia a la inspección escolar no gubernamental. (ABC Noticias: Morgan Timms)
El ministro dijo que dado que Friends’ School era una escuela no gubernamental, estaría regulada por la Junta de Registro de Escuelas No Gubernamentales (NGSRB), que garantizaría el cumplimiento de las políticas, procedimientos y prácticas escolares.
“He enviado su queja a la NGSRB para su revisión y acción apropiada”, respondió.
En un correo electrónico a los padres la semana pasada, la directora Esther Hill dijo que la escuela había actuado “con prontitud y de acuerdo con nuestros compromisos de mantener a los niños seguros”.
Dijo que las familias de los estudiantes identificados y afectados habían sido informadas de manera “cuidadosa y solidaria” y que las comunicaciones habían sido “dirigidas por la policía y el asesoramiento de expertos”.
Dijo que la escuela había realizado una revisión de sus “procesos, políticas y medidas” y estaba buscando “aportes externos” para garantizar las mejores prácticas en el futuro.
“Nuestro enfoque sigue siendo garantizar que todos los jóvenes afectados se sientan seguros, apoyados y respetados”, decía el correo electrónico.
Otro padre decide contárselo a su hija
ABC habló con una segunda madre que dijo que escuchó por primera vez “rumores” sobre el incidente del deepfake, pero que nunca pensó que su hija podría verse afectada.
Dijo que quedó “asombrada” cuando la escuela se puso en contacto con ella para confirmar que la imagen de su hija había sido reproducida por IA en pornografía ultrafalsa.
“No lo podía creer”
ella dijo.
Ella describió la llamada del personal superior de Friends’ School como cautelosa y carente de detalles.
Dijo que le dijeron que todos los niños involucrados en el incidente habían sido retirados de la escuela, que sus teléfonos habían sido destruidos y que la mayoría de los padres no se lo contarían a sus hijas.
“Colgué y llamé a mi marido y él me dijo: ‘¿Qué diablos?'”, dijo.
Decidieron contárselo a su hija esa misma noche.
Imágenes supuestamente compartidas en el chat grupal de chicos.
Ambos padres pidieron ponerse en contacto con la policía, quien les dijo que las fotos de las niñas alteradas por la IA se habían compartido en un chat grupal de niños y que sus imágenes parecían provenir de las redes sociales.
Se dice que cinco niños crearon los dibujos y ahora todos han abandonado la escuela.
Las primeras imágenes producidas fueron imágenes completamente vestidas, generadas por IA, antes de que avanzaran a desnudez y pornografía, le dijeron a una madre.
La policía de Tasmania dijo que no se habían presentado cargos porque “los cinco jóvenes están siendo procesados en virtud de la Ley de justicia juvenil”.
Cinco niños abandonaron la escuela y están siendo tratados “de acuerdo con la Ley de Justicia Juvenil”, dijo la policía. (Pexels: Estudio Cottonbro)
La policía dijo que había trabajado estrechamente con la escuela y brindado asesoramiento sobre recursos educativos y de apoyo adecuados para la comunidad escolar en general, incluidos materiales del Comisionado de Seguridad Electrónica, ACCCE y ThinkUKnow.
Un joven de 19 años del sur de Australia se convirtió este mes en la primera persona en el país en ser procesada en virtud de una nueva ley federal destinada a combatir la pornografía adulta deepfake.
En un conjunto de herramientas de eSafety para escuelas, el Comisionado de eSafety describió las leyes sobre deepfakes como “en evolución”, con “un reconocimiento cada vez mayor del grave daño que pueden causar”.
La reacción de la escuela fue incorrecta, dice la madre
Ambos padres dijeron que les gustaría que la escuela reuniera a los estudiantes afectados para abordar el problema.
“Después de decírselo a todos los padres, ¿por qué no reúnes a las niñas?”
dijo uno.
“Tomar todo (el año escolar) juntos y tener una conversación individual. Es una oportunidad de aprendizaje. Me decepcionó lo mediocre que fue su respuesta”.
Una madre escribió al Ministro de Educación y su queja fue enviada al regulador. (ABC Noticias: Abadía de Haberecht)
Una madre dijo que contrató a un psicólogo antes de contárselo a su hija y que estaba preocupada por las niñas a las que no se les había dicho.
“Hay estudiantes que no reciben el mismo consuelo, atención y orientación que recibió mi hija”, dijo.
Ambos padres dijeron que sus hijas luchaban por no poder hablar con sus amigos al respecto.
“No sabe si se lo han contado a otras niñas. Por eso no hablan de ello en la escuela”.
dijo uno.
El otro dijo: “Es casi como si hubiera un elemento de vergüenza en ello”.
“El mundo digital cada vez más complejo” requiere responsabilidad compartida, dice la escuela
En una declaración a la ABC, la directora de Friends, la Sra. Hill, dijo que la escuela no podía superar los desafíos por sí sola.
“En las escuelas, educamos activamente a los estudiantes a través de programas específicos, aportaciones de expertos y conversaciones continuas con las familias sobre el uso ético y responsable de las nuevas tecnologías”, dijo.
“Muchos de nuestros mayores desafíos surgen fuera del horario escolar, en dispositivos personales fuera de las puertas de la escuela.
“Apoyar a los jóvenes para hacer frente a un mundo digital cada vez más complejo requiere un compromiso compartido de las autoridades, las escuelas y las familias pertinentes, basado en expectativas claras y valores sólidos y coherentes”.
El Servicio de Apoyo a la Agresión Sexual dijo que los deepfakes se habían convertido en un problema creciente para los jóvenes, las familias y las escuelas.
Renae Pepper, líder clínica del programa de Prevención, Evaluación, Apoyo y Tratamiento (PAST) del servicio, dijo que muchas comunidades todavía estaban trabajando en cómo responder a incidentes deepfake y que era importante que las respuestas se centraran en la seguridad y el bienestar de los afectados y no causaran más vergüenza o daño.
Recomendó el programa PAST a los padres preocupados de que sus hijos pudieran crear o compartir contenido como deepfakes.
La Junta de Registro de Escuelas No Gubernamentales dijo que no podía comentar sobre asuntos individuales.
About The Author
