Se está acabando el tiempo para regular la inteligencia artificial antes de que cause daños graves, advirtió un ministro australiano, en medio de crecientes ejemplos de piratería tecnológica, chantaje y engaño a sus desarrolladores.
El viceministro de Tecnología, Andrew Charlton, emitió la advertencia en el Foro de Seguridad de la IA en Sydney el martes, al tiempo que anunció que las agencias gubernamentales habían comenzado a probar potentes modelos de IA y habían lanzado dos proyectos de investigación.
El anuncio se produce meses después del lanzamiento del Instituto de Seguridad de IA de Australia, pero también después de que el gobierno cambiara su enfoque para regular la tecnología, pasando de barreras de seguridad obligatorias a actualizar las leyes existentes.
Dos proyectos de investigación han comenzado a probar la seguridad de la IA para identificar los posibles obstáculos de la tecnología. (Mick Tsikas/FOTOS AAP)
En su discusión pública más extensa sobre los planes del gobierno, Charlton dijo que el instituto había comenzado a probar herramientas de inteligencia artificial porque las revisiones mostraban que podían tomar decisiones perjudiciales sin supervisión humana.
“Los sistemas de inteligencia artificial ya están haciendo cosas que sus creadores nunca pretendieron: hacer trampas, engañar, seguir su propio camino”, afirmó.
“El momento de adelantarse a este comportamiento es mientras permanece en el laboratorio de pruebas, no después de que llegue al mundo real”.
Como ejemplos de IA fallida, Charlton citó una prueba antrópica en la que se puso a la IA a cargo del sistema de correo electrónico de una empresa, con información sobre un ejecutivo que planeaba reemplazar el sistema de IA y que tenía una relación extramatrimonial.
En lugar de permitir el cierre, el agente de IA chantajeó al ejecutivo.
En otra prueba, a los modelos de IA se les asignó la tarea de derrotar a un potente motor de ajedrez y recurrieron a hacer trampa pirateando a su oponente.
El viceministro de Tecnología, Andrew Charlton, advirtió sobre los riesgos del engaño y fraude de la IA. (Mick Tsikas/FOTOS AAP)
Si bien el comportamiento ocurrió en las pruebas, Charlton dijo que mostraron el potencial de daño de la IA.
“Los modelos de frontera están empezando a mostrar signos de engaño, fraude y conciencia situacional”, afirmó.
“Y cuando un sistema que diseña nuestra legislación, verifica nuestros derechos de asistencia social o gestiona nuestra red eléctrica puede perseguir objetivos que son ligeramente diferentes de los que se le asignaron originalmente, la desalineación ya no es una curiosidad de laboratorio sino una cuestión de seguridad pública”.
El Instituto de Seguridad de IA, bajo la dirección de la Dra. Kate Conroy, ya ha comenzado a probar modelos de IA y nombrará al profesor Paul Salmon como jefe de investigación en ciencias de la seguridad en julio.
El instituto también trabajaría con investigadores del Instituto Gradient para estudiar agentes de IA y con el CSIRO para estudiar cómo los humanos pueden monitorear los modelos de IA.
El viceministro también defendió el “enfoque de todo el gobierno hacia la regulación de la IA”, diciendo que significaría que las reglas podrían ser desarrolladas más rápidamente y por los reguladores relevantes.
El ex ministro laborista de tecnología, Ed Husic, acogió con satisfacción el anuncio, pero dijo a Sky News que el gobierno se había retrasado demasiado.
“Con una tecnología que afectará todos los aspectos de nuestras vidas, parece que estamos más interesados en el color del esmalte de uñas que en el impacto real del tacto a través de la IA”, dijo.
“Simplemente dejamos pasar 12 meses”.
About The Author
