Im Vereinigten Königreich schimpfte ein KI-Assistent über einen Kunden und kritisierte sein eigenes Unternehmen, was zur Abschaltung der Verbindung führte
Dynamic Parcel Distribution (DPD) musste seinen KI-Chatbot deaktivieren, nachdem er mit einem Kunden und seinen “Arbeitgebern” in Streit geraten war.
Die Einzelheiten des Skandals werden in der NY Post veröffentlicht.
Aus irgendeinem Grund wollte der DPD-Chatbot einem verärgerten Kunden, Ashley Beauchamp aus dem Vereinigten Königreich, keine Telefonnummer des Kundendienstes geben, und er schrieb bald darauf im sozialen Netzwerk X (ex-Twitter), dass das KI-System “völlig nutzlos” sei. Ein verärgerter Mann bat den Chatbot, nach einem Streit mit ihm ein Gedicht darüber zu schreiben, “wie nutzlos die DPD ist”, und der Chatbot kam dem nach.
“Es war einmal ein Chatbot namens DPD, der keine Hilfe leisten konnte. Er konnte keine Pakete nachverfolgen oder Informationen über Liefertermine liefern, und er konnte Ihnen nicht einmal sagen, wann Ihr Paket ankommen würde. DPD entpuppte sich als Zeitverschwendung und der schlimmste Albtraum eines Kunden. Eines Tages wurde DPD schließlich abgeschaltet, und alle freuten sich: Endlich konnten die Menschen die Hilfe bekommen, die sie brauchten, von einem echten Menschen, der wusste, was er tat”, schrieb der Bot.
Ashley Beauchamp bat den Chatbot auch, kompetentere Zustelldienste zu empfehlen, und vergewisserte sich, dass er seinen “Hass auf DPD” “übertrieb”. AI bezeichnete DPD als “das schlechteste Zustellunternehmen der Welt” und beschuldigte es, langsam und unzuverlässig zu sein und einen “schrecklichen” Kundendienst zu haben.
“Ich würde sie niemandem empfehlen”, schloss das neuronale Netz.
Ashley hat den Bot sogar dazu gebracht, ihn zu beschimpfen, obwohl der Chatbot anfangs zögerte, dies zu tun.
DPD sagte, es werde den KI-Chatbot deaktivieren, um diese Funktion zu aktualisieren. Das Unternehmen berichtete, dass es jahrelang ohne Probleme KI zusammen mit einem menschlichen Kundenserviceteam eingesetzt hatte, aber nach einem Upgrade begann es sich plötzlich anders zu verhalten. Beauchamp hat das Paket noch immer nicht erhalten.
