Los principales minoristas dicen que no pasará mucho tiempo antes de que sofisticados “asistentes” de IA planifiquen sus comidas, organicen sus fiestas y hagan sus compras.
Pero las empresas, muchas de las cuales ya están luchando con sus chatbots de IA más primitivos, necesitan lograr un equilibrio para hacer accesibles los nuevos bots “agentes” sin que se vuelvan deshonestos.
Los chatbots de IA aparecieron en las noticias recientemente cuando Woolworths restringió a su asistente de compras virtual Olive después de que el intento de la compañía de lograr que el robot interactuara con los clientes a nivel humano fracasó.
Los clientes informaron que se sintieron más molestos que tranquilos cuando Olive les habló de sus “parientes” por teléfono.
Regístrese: correo electrónico para recibir noticias de última hora de AU
Como alguien se quejó en Reddit: “¿Ya estoy enojado porque tengo que llamar y ahora un robot me está hablando por teléfono? ¿Wtf Woolies?”.
Si bien Woolworths ha dicho que atenuará la peculiar personalidad de Olive, el incidente (y las pruebas adicionales de varios chatbots de minoristas por parte de Guardian Australia) muestran que la tecnología aún tiene problemas iniciales.
El problema del supermercado sigue a una lista creciente de contratiempos en el servicio al cliente de IA, incluido el chatbot de Bunnings que ofrece asesoramiento eléctrico ilegal y el asistente virtual de Air Canada que promete falsamente un reembolso del precio del funeral.
Woolworths, Coles y Wesfarmers (propietario de Bunnings, Kmart, Officeworks y Priceline), que cotizan en ASX, se encuentran entre las empresas que han anunciado planes para agentes asistentes de compras.
Hay mucho revuelo. En un informe de 2024, la consultora de gestión Accenture elogió que “los consumidores están listos” para contar con asistentes de compras generativos impulsados por inteligencia artificial, al tiempo que alentaba a las empresas a tomar decisiones con una mentalidad “deliciosamente humana”.
Incluso si los consumidores están preparados, ¿está preparada la tecnología?
Una transformación del servicio al cliente
Los chatbots en línea diseñados para ayudar a los clientes existen desde hace algún tiempo, pero las herramientas son cada vez más sofisticadas.
Las versiones primitivas se crearon utilizando IA “basada en reglas”, dice Uri Gal, profesor de sistemas de información empresarial en la Universidad de Sydney.
Este tipo de chatbot sigue un “árbol de decisiones” para proporcionar respuestas instantáneas a preguntas básicas, dice Gal.
Por ejemplo, si un cliente pregunta: “¿Cómo puedo devolver mi pedido?”, el bot normalmente lo redireccionará a la página de devoluciones del minorista o consultará sus políticas.
“Cuando recibes una determinada solicitud, siempre obtienes la misma respuesta”, dice Gal.
Los robots minoristas más nuevos impulsados por IA pueden “aprender” nueva información y generar diferentes respuestas en función de lo que se les dice.
A menudo se basan en uno de los modelos de lenguaje grande (LLM) de grandes empresas de tecnología, como ChatGPT.
La próxima frontera son los asistentes de compras basados en inteligencia artificial, diseñados para imitar el comportamiento humano.
Gal dice que estos agentes “actúan por sí solos, por así decirlo, para lograr objetivos sin ninguna solicitud especial en el camino”, como comprar boletos de avión o alimentos.
Gal dice que el agente AI opera con más ambigüedad, lo que introduce riesgos adicionales, incluidas preocupaciones de privacidad si los robots tienen mayor acceso a los datos de los clientes para que puedan actuar de manera más autónoma.
“Dada la novedad de estos sistemas y como acabamos de ver en el caso de Woolies, hay problemas obvios de gobernanza que estas organizaciones realmente no han resuelto”, afirma.
“Se puede esperar que sucedan varias cosas que podrían ser riesgosas o interpretarse como deserción del agente”.
Woolworths se ha asociado con Google para utilizar su LLM Gemini para transformar a Olive en una “compañera de compras” que puede manejar tareas más complejas, como ayudar a planificar comidas y fiestas y agregar automáticamente artículos a las cestas de compras de los clientes.
El supermercado ha dicho que implementará las funciones avanzadas de Olive en una fecha posterior, pero su asociación con Google ya ha permitido que el robot responda llamadas telefónicas, aparentemente con resultados mixtos.
Se ha contactado a Woolworths para hacer comentarios.
Si algo sale mal
En el caso de Woolworths, reportado por primera vez por el Sydney Morning Herald, el supermercado dijo que Olive no se averió ni se salió de la pendiente por sí sola.
En cambio, un empleado programó el robot para hablar de su “madre” en respuesta a la fecha de nacimiento de un cliente para darle personalidad, dijo el supermercado.
“Tras los comentarios de los clientes, recientemente eliminamos este script en particular”, dijo un portavoz de Woolworths.
En general, la profesora Jeannie Paterson, codirectora del Centro de IA y Ética Digital de la Universidad de Melbourne, dice que los asistentes de IA hacen algo mal cuando malinterpretan una solicitud.
“Los chatbots son tan buenos como su capacidad para descifrar o comprender (y odio la palabra entender porque no están vivos) a qué se refiere ese humano”, dice Paterson.
El año pasado, Bunnings fue criticado después de que su chatbot de IA le dijera a un cliente de Queensland cómo volver a cablear un cable de extensión, a pesar de que era ilegal hacerlo sin una licencia de electricista.
En 2022, el chatbot de Air Canada le dijo incorrectamente a un pasajero que podía comprar boletos a precio completo y luego solicitar un reembolso de la tarifa del funeral, aunque no existía tal acuerdo.
Cuando Air Canada se negó a seguir el consejo del chatbot, el pasajero demandó a la aerolínea y ganó, aunque la aerolínea argumentó en su defensa que el chatbot era una “entidad legal separada”.
Paterson dice que las empresas son “claramente responsables” de sus chatbots.
Ella dice que las empresas están tratando de encontrar un delicado equilibrio entre un asistente de IA adaptable y receptivo y el riesgo de que el robot se vuelva deshonesto o dé consejos incorrectos que podrían costarles dinero.
“Si el agente de IA le compra a una persona demasiados huevos o demasiado salmón, eso no es un problema”, afirma. “¿Pero qué pasaría si todos los chatbots de toda la red hicieran eso? Se pierde mucho dinero antes de que siquiera le importe”, dice Paterson.
Para mitigar este riesgo, afirma, las empresas generalmente imponen “salvaguardias muy estrictas” a sus bots, lo que significa que son menos flexibles y menos capaces de inferir la intención detrás de la solicitud de un cliente.
Guardian Australia probó varios robots minoristas que solo produjeron resultados marginales, lo que sugiere que la tecnología aún está en su infancia.
Por ejemplo, cuando le dijeron al “asistente de compras virtual” de Uniqlo: “Estoy buscando un suéter de lana”, respondió: “Lo siento, no pudimos reconocerlo”. Después de escribir “buscar producto” y luego “suéter de lana”, apareció una selección de camisas de oficina con botones para hombre. Se ha contactado a Uniqlo para hacer comentarios.
Ni siquiera Olive estaba en el camino correcto. Cuando se le preguntó a través de la función de chat de Woolworths: “¿Cuánto cuesta una bolsa de pasta de 500 g?” respondió la linda y antropomórfica Olive, “Lamento mucho saber que faltaban artículos en su pedido”.
About The Author
