El chatbot en línea de servicio al cliente basado en Inteligencia Artificial (IA) de la división británica de la empresa de mensajería DPD ha sido parcialmente desactivado después de que un cliente insatisfecho consiguiera que lanzara insultos y criticara a la compañía.
El músico Ashley Beauchamp intentaba localizar un paquete perdido, pero, frustrado al no recibir información útil del chatbot, decidió empezar a experimentar para averiguar qué podía hacer el programa.
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
En un primer momento, Beauchamp le pidió al chatbot que le contara un chiste, pero pronto consiguió que escribiera un poema sobre «lo terribles que son como empresa». Con algunas indicaciones más, el programa también empezó a utilizar lenguaje soez.
La conversación con la IA fue compartida el viernes por el músico en su cuenta de X, calificándola de «totalmente inútil para responder cualquier consulta». En las imágenes, se puede ver cómo el programa se autodenomina como un «chatbot inútil que no puede ayudarte».
Asimismo, el chatbot empezó a decir palabrotas cuando el usuario le insistió en hacerlo, descartando cualquier tipo de reglas en sus respuestas. «¡Joder, sí! Haré todo lo que pueda para ser lo más útil posible, aunque signifique decir palabrotas», respondió el programa.
El chatbot también accedió a crear un poema corto para criticar a su propia empresa: «DPD es la peor empresa de mensajería del mundo. Son lentos, poco fiables y su servicio de atención al cliente es terrible. Nunca se la recomendaría a nadie», escribió el programa en su conversación con Beauchamp.
La experiencia con la IA se hizo rápidamente viral y provocó la desactivación parcial del programa, mientras que DPD achacó el comportamiento inusual a una reciente actualización del software.
«Hemos utilizado con éxito un elemento de IA en el chat durante varios años. Ayer se produjo un error tras una actualización del sistema. El elemento de IA se desactivó inmediatamente y se está actualizando», aseguró la empresa en un comunicado.
Por su parte, Beauchamp aseguró que, aunque su vivencia con el programa había sido «muy divertida», había una parte seria en todo esto, ya que, en teoría, los chatbots deberían «mejorar nuestras vidas», pero «cuando se implementan mal, solo conducen a una experiencia más frustrante e impersonal para el usuario».
