Cuando Anthropic anunció a principios de este mes que había creado una nueva herramienta de inteligencia artificial capaz de encontrar y explotar vulnerabilidades de seguridad en Internet mejor que casi cualquier experto humano, dejó claro que la herramienta era demasiado peligrosa para permanecer en manos de otros. … cualquier. En cambio, la empresa dirigida por Darío Amodei ha optado por seleccionar un pequeño grupo de empresas estadounidenses -entre ellas Apple, Microsoft o Amazon- para “proteger el software” que, según ellos, es “el más crítico del mundo”. Luego se lo dio a otras empresas para que pudieran buscar fallas en el sistema.
La maquina se llama Vista previa del mito de la nube y pudo detectar “miles de vulnerabilidades de alta gravedad, incluidas algunas en los principales sistemas operativos y navegadores web”, en cuestión de semanas. Desde el anuncio, gobiernos y empresas de todo el mundo han llamado la atención sobre los peligros que plantea. Lo mejor de todo es que si cae en manos de ciberdelincuentes, estos podrán utilizarlo para buscar de forma más eficaz vulnerabilidades de seguridad en grandes empresas.
En el Reino Unido, el gobierno está presionando a las empresas más grandes para que refuercen sus sistemas de ciberseguridad en medio del temor de que el lanzamiento de la herramienta desencadene una ola de ciberataques. Mientras tanto, la Comisión Europea está evaluando las posibles implicaciones en materia de ciberseguridad. Se ha reunido con Anthropic en múltiples ocasiones en las últimas semanas, aunque aún no ha tenido acceso directo al modelo para revisarlo y analizar sus riesgos.
El presidente del Bundesbank, Joachim Nagel, advirtió recientemente sobre el riesgo y afirmó que “todas las instituciones relevantes deberían poder utilizar dicha tecnología para evitar distorsiones de la competencia”. En Estados Unidos, el secretario del Tesoro, Scott Bessant, y el presidente de la Reserva Federal, Jerome Powell, sostuvieron hace días reuniones de emergencia con los directores ejecutivos de los principales bancos para advertirles sobre los peligros cibernéticos que plantea el modelo.
La herramienta también ha alarmado a países como China y Rusia. Actualmente, las empresas del gigante asiático no cuentan con una tecnología similar a Mythos Preview, aunque los expertos en IA esperan desarrollar una herramienta similar dentro de unos meses. Más matizada es la situación bajo Putin, que está rezagado en IA. Según el New York Times, un medio de comunicación ruso cercano al Kremlin clasificó la máquina como “Peor que la bomba atómica».
La creación del mito también condujo a la reconciliación entre los humanos y el gobierno de Estados Unidos. En febrero, Washington ordenó a todas las agencias federales que dejaran de utilizar la tecnología de la empresa después de que ésta se negara a utilizar su inteligencia artificial para desarrollar armas autónomas o sistemas de vigilancia nacionales. Recientemente, la Casa Blanca y Anthropic evaluaron Mythos para posibles usos en misiones de ciberseguridad y defensa. Donald Trump afirmó el pasado martes que esperaba empezar a “llevarnos muy bien” con la empresa que dirige Amodai.
una espada de doble filo
La nueva tecnología de Anthropic actualmente sólo está disponible para empresas estadounidenses y también ha estado disponible para un puñado de empresas británicas en los últimos días. A pesar del entusiasmo de la empresa, ya corre el riesgo de caer en manos de un tercero. Según Bloomberg, citando a una persona familiarizada con el asunto, algunos Usuario no autorizado logró acceder al modelo Anunciado el mismo día. Desde entonces, lo han utilizado múltiples veces, aunque por motivos de seguridad: no para lanzar ciberataques. La compañía ha confirmado que está investigando la posible filtración.
Pese al entusiasmo de Anthropic, su IA puede haber caído en manos de usuarios no autorizados por la empresa
Aún así, todos los expertos consultados por ABC enfatizaron que Mythos es un arma de doble filo. “Por un lado, es excelente para detectar fallas y solucionarlas, pero también puede causar muchos problemas si cae en manos de actores maliciosos”, dijo el hacker ético. Antonio Fernández.
“Puede ser brutal”, señaló. david sanchoinvestigador de amenazas de la empresa de ciberseguridad Trend AI. «Lo que le pase depende de quién lo utilice. Por ahora, a Anthropic parece irle bien ya que mantiene mucho control sobre las empresas que tienen acceso. Puede ser de gran ayuda para quienes estamos comprometidos con la defensa nacional”, continuó el experto.
Hervé LambertEl responsable de operaciones de Panda Security no tiene ninguna duda de que, a pesar del entusiasmo de la empresa de IA, los ciberdelincuentes seguirán intentando explotar la tecnología: “Seguramente intentarán utilizarla en el futuro para poder trabajar mejor y más rápido. Con ella, todos los ataques pueden volverse más eficientes y más rápidos”.
Lambert destacó que “estamos hablando de tecnología muy peligrosa”; y Josep AlbersEl director de investigación de la empresa de ciberseguridad ESET está de acuerdo, pero no ve “ningún motivo para entrar en pánico” por el momento: “No creo que Mythos represente el fin del mundo. Sólo creo que puede empezar a cambiar la forma en que se descubren y explotan las vulnerabilidades”. “Todavía hay muchas incógnitas sobre esta tecnología y el daño real que puede causar”.
About The Author
