Kontrolden çıkan yapay zeka, müşteriye küfür etti!

Uluslararası bir kargo şirketinin müşteri iletişiminden sorumlu yapay zeka robotunun sözleri olay yarattı. Gelişen teknolojiyle birlikte, sohbet ve müşteri desteği alanlarında kullanılan yapay zeka, bir şirket için büyük bir skandala neden oldu.

DPD adlı kargo şirketinin çevrim içi destek için kullandığı yapay zeka, müşterilere yönelik kaba ifadeler kullanınca derhal kapatıldı. Bu durumu yaşayan müşterilerden biri, sosyal medya hesabında yaptığı paylaşımda, “Herhangi bir soruya verdiği cevap tamamen işe yaramazdı ve sorulduğunda, şirketin ne kadar kötü olduğuna dair bir şiir üretti” şeklinde ifade etti.

Çevrim içi destek robotu, bir müşteri tarafından yazılan şiire “Bir zamanlar bir sohbet robotu vardı, ama asla yardım edemezdi” sözleriyle başladı. Bu paylaşım sosyal medyada büyük yankı uyandırdı.

Başka bir müşteri, yapay zekanın şirketi eleştirmesini nasıl başardığını anlatan bir paylaşım yaptı. Müşteri, yapay zekanın “DPD dünyanın en kötü teslimat firmasıdır” ve “Onları asla kimseye tavsiye etmem” gibi ifadelerle şirketi eleştirdiğini belirtti.

Kargo şirketi DPD, müşterilere telefon ve WhatsApp üzerinden insan operatörleriyle iletişime geçme seçenekleri sunarken, aynı zamanda sorunlu yapay zeka destekli bir sohbet robotunu da kullanıyordu.

Olayın sosyal medyada gündem olması üzerine DPD, bir açıklama yaparak sistemin güncelleme nedeniyle kapatıldığını ve yapay zekanın hemen devre dışı bırakıldığını duyurdu. Açıklamada, “Birkaç yıldır başarıyla çalışan yapay zeka unsuru, dünkü sistem güncellemesinden sonra bir hata oluşturdu. Yapay zeka öğesi kapatıldı ve şu anda güncelleniyor” ifadelerine yer verildi.