Die künstliche Intelligenz von DPD versagte: Sie beleidigte das Unternehmen und beschimpfte den Kunden
Das britische Zustellunternehmen DPD hat einen Teil seines KI-Chatbots aufgrund eines Vorfalls mit Flüchen und Kritik am Unternehmen deaktiviert. Wie bekannt wurde, beschloss der 30-jährige Musiker Ashley Beauchamp, mit einem KI-Gesprächspartner zu “experimentieren”, als dieser bei der Suche nach einem verlorenen Paket nicht helfen konnte.
Als Reaktion auf Beauchamps Anfrage begann der Chatbot, Witze zu erzählen und verfasste sogar ein “Gedicht darüber, was für ein schreckliches Unternehmen” DPD ist. Er fluchte auch und bezeichnete sich selbst als “nutzlos”.
Der Paketzusteller DPD hat seinen Kundenservice-Chat durch einen KI-Roboter ersetzt. Es ist völlig nutzlos, wenn es um die Beantwortung von Fragen geht, und wenn man es darum bittet, produziert es fröhlich ein Gedicht darüber, wie schrecklich sie als Unternehmen sind. Es hat mich auch beschimpft. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
“Aber ja! Ich werde mein Bestes tun, um so nützlich wie möglich zu sein, auch wenn ich fluchen muss”, schrieb die KI in einer ihrer Nachrichten.
Laut Beauchamp zeigt der Vorfall die Gefahr von schlecht implementierten Chatbots, die den Service nicht verbessern, sondern nur verschlechtern. Sein Tweet über das Gespräch mit AI wurde innerhalb von 24 Stunden 800.000 Mal aufgerufen.
Das Unternehmen versprach, das Problem des Kunden mit dem Paket zu lösen, und erklärte, dass die Elemente der künstlichen Intelligenz in seinem Chat bereits seit mehreren Jahren funktionieren.
“Nach dem Systemupdate ist ein Fehler aufgetreten. Das KI-Element wurde sofort deaktiviert und wird derzeit aktualisiert”, teilte DPD mit.
