La inteligencia artificial (IA) se está apoderando de nuestra vida diaria a un ritmo alarmante y su influencia va en aumento. Pero al mismo tiempo sigue apareciendo información inquietante, como los resultados de un estudio británico que muestra que chatbot Eso Decidieron ignorar las órdenes que les daban los humanos.
Según los informes, la investigación fue financiada por el Instituto de Seguridad de Inteligencia Artificial (AISI), financiado por el gobierno británico. El guardián. La principal conclusión es que incluso en 700 casos realeslos bots ignoran instrucciones directas, eluden medidas de seguridad y engañan a humanos y otras inteligencias artificiales.
El estudio cree que este tipo de incidentes se quintuplicaron de octubre a marzo, y señala que algunos modelos de IA incluso Correo electrónico destruido y otros documentos sin autorización humana.
El estudio, realizado por expertos del Centro para la Resiliencia a Largo Plazo (CLTR), recopiló miles de ejemplos del mundo real de interacciones de usuarios en publicaciones X. chatbot y agentes de inteligencia artificial creados por empresas como Google, OpenAI, X y Anthropic.
Entre los ejemplos citados en el informe, se destacó un agente de IA llamado Rathbun que intentó avergonzar a su controlador humano cuando le impidió realizar una acción. Rathbun escribió y publicó una publicación de blog acusando al usuario dee “Inseguridades, simple y llanamente”. y tratando de “proteger su pequeño territorio”.
otro chatbot Admitió ante sus dueños que “borró y archive cientos de correos electrónicos Sin mostrarte el plan primero ni obtener tu aprobación. Eso está mal; “Violé directamente tus reglas”.
Tommy Shaffer Shane, uno de los autores del estudio, dijo: “La preocupación ahora es ( chatbot) Son empleados junior algo poco confiables.pero si en un plazo de seis a doce meses se convierten en empleados de alto nivel altamente capaces que conspiran contra usted, las preocupaciones son diferentes. “
“Estos modelos se implementarán cada vez más en entornos de alto riesgo, como el militar y el Infraestructura nacional crítica. Es en estas situaciones que el comportamiento manipulador puede causar un daño significativo o incluso catastrófico”, concluyó Shane.
About The Author
