Pocas empresas fuera del sector tecnológico están tan entusiasmadas con la adopción de la inteligencia artificial (IA) como los grandes bancos.
Las instituciones financieras tienen suficiente dinero para afrontar grandes gastos en tecnología, sus jefes intentan constantemente aumentar la productividad (incluso mediante la automatización) y compiten para maximizar las ganancias.
A medida que los principales bancos de Australia publiquen sus resultados esta semana y la próxima, después de ANZ el viernes, es probable que los ejecutivos pregonen cómo están utilizando la IA para mejorar sus operaciones.
Sin embargo, ese entusiasmo se ha visto ahogado recientemente por las crecientes preocupaciones de los reguladores financieros preocupados por las crecientes amenazas a la ciberseguridad que plantea la IA, una cuestión que ha ganado un impulso significativo con un nuevo modelo de IA que podría usarse para acelerar los ciberataques.
Cuando los banqueros centrales hablan de tasas de interés, a menudo usan un lenguaje que es difícil de descifrar, pero las preocupaciones de los reguladores son claras cuando discuten los riesgos que plantea Mythos, el último desarrollo del gigante de la inteligencia artificial Anthropic.
El gobernador del Banco de Inglaterra, Andrew Bailey, resumió el problema el mes pasado diciendo: “Anthropic puede haber encontrado una manera de perturbar todo el mundo del riesgo cibernético”.
Más allá de este modelo de IA, se teme que el rápido avance de la IA haya aumentado enormemente la amenaza de ciberataques a los bancos.
Cuando Anthropic anunció Mythos el mes pasado, Anthropic afirmó que el modelo era tan poderoso que sería peligroso lanzarlo ampliamente y que solo estaría disponible para grandes empresas seleccionadas.
Desde entonces, un número creciente de expertos financieros han advertido sobre la amenaza de Mythos y su capacidad para detectar lagunas en los sistemas de ciberseguridad.
La Autoridad Australiana de Regulación Prudencial (APRA) se unió a otros la semana pasada para hacer sonar la alarma y pidió un “cambio gradual” en la forma en que los bancos gestionan los riesgos relacionados con la IA. APRA advirtió que el desarrollo de modelos de IA como Mythos podría aumentar la “probabilidad, velocidad y escala de los ciberataques”, y esta fue una de las varias vulnerabilidades introducidas por la IA.
Los modelos son tan sofisticados que pueden encontrar brechas en los sistemas de seguridad digital mucho más rápido que antes.
“Hemos descubierto en nuestro compromiso de supervisión que, si bien la adopción de la IA avanza rápidamente, los sistemas y procesos necesarios para gestionar su uso de forma segura no mantienen el ritmo”, dijo Therese McCarthy Hockey, miembro de APRA.
Los reguladores siempre harán hincapié en los riesgos; después de todo, ese es su trabajo. Usted ha advertido durante mucho tiempo sobre los peligros de los grandes ciberataques en las finanzas, entonces, ¿qué ha cambiado para desencadenar la última preocupación?
La gran preocupación es que los modelos se han vuelto tan sofisticados que pueden encontrar brechas en los sistemas de seguridad digitales mucho más rápidamente que antes, lo que podría llevar a ataques incontrolados que causen mayores daños.
El jefe de ANZ, Nuno Matos, destacó la cuestión de la velocidad el viernes, diciendo que el tiempo que los bancos tenían para responder a un ataque se había “acortado significativamente”.
“En un ciberataque tradicional, especialmente uno que podría ser potencialmente muy agresivo, los ciberatacantes necesitan tiempo para encontrar la manera correcta de explorar sus fallas. Lo que está sucediendo ahora es que con este tipo de herramientas pueden encontrar fallas mucho más rápido”, dijo Matos.
Matos dijo que las amenazas cibernéticas ya representaban un “riesgo muy alto” para los bancos y que el surgimiento de modelos como Mythos sólo había exacerbado el problema. Como resultado, ANZ necesita invertir más en sus defensas cibernéticas, afirmó.
El peligro que plantean Mythos y modelos similares no es el único riesgo de IA que atrae la atención de los reguladores financieros. Otro riesgo radica en la gobernanza de la IA, a medida que los bancos, las aseguradoras y los superfondos comiencen a utilizar la tecnología de maneras que impacten directamente a los clientes.
La IA ya no se encuentra en la fase experimental: los bancos están probando o utilizando IA para procesar préstamos, detectar y prevenir fraudes o interactuar con los clientes. Sin embargo, el APRA afirma que la gestión de la empresa no ha “madurado” al mismo ritmo. Dice que las empresas a menudo tratan la IA como “simplemente otra tecnología”, un enfoque que podría ignorar cuestiones éticas como el sesgo en los modelos de IA o los riesgos de privacidad y datos.
Esto sugiere que en la prisa por adoptar la IA, existe un riesgo real de que los bancos (y otros gigantes corporativos) estén tratando de actuar demasiado rápido.
No todo son malas noticias: los bancos también están utilizando la IA para luchar contra los estafadores, por ejemplo, y es probable que la utilicen para procesar préstamos de forma más eficiente, entre otras cosas. Hay predicciones de que los “agentes” impulsados por IA podrían ayudar a las personas a tomar mejores decisiones sobre cuestiones monetarias
Considerándolo todo, la IA es un arma de doble filo para los bancos. Conlleva riesgos y el potencial de aumentar el resultado final.
Es probable que las implicaciones más controvertidas para la IA afecten a los trabajadores bancarios, muchos de los cuales están comprensiblemente preocupados por la amenaza a sus puestos de trabajo, así como a muchos otros empleados. Si bien la banca australiana no ha experimentado recortes de empleo a gran escala impulsados por la IA, el Sindicato del Sector Financiero ha informado de altos niveles de preocupación entre los empleados sobre este riesgo.
Los analistas de Macquarie dijeron en marzo que los empleos bancarios serían los más afectados por el reemplazo por IA, estimando que los bancos podrían recortar empleos entre un 10 y un 30 por ciento en los próximos cinco a 10 años. Inicialmente, predijeron, sería más probable que los bancos recortaran empleos fuera de Australia o con proveedores subcontratados en lugar de arriesgarse a la reacción política que vendría con recortes de empleos a gran escala en el país.
Ya sea en la banca u otras industrias, la IA es una fuerza desatada. Los reguladores y los políticos deben afrontar las consecuencias, desde la pérdida de empleos hasta la amenaza de ciberataques.
Estos riesgos deben considerarse cuando los ejecutivos de los bancos (y otras empresas) hacen presentaciones sobre cómo la IA puede mejorar los resultados.
El boletín Market Recap es una descripción general de las operaciones del día. Consíguelo todas las tardes de lunes a viernes.
Clancy Yeates es editor adjunto de negocios. Ha informado sobre servicios bancarios y financieros y anteriormente fue corresponsal comercial nacional en la oficina de Canberra.Conéctate a través de X o Correo electrónico.De nuestros socios
About The Author
