Bir hava yolculuğu web sitesinde uçak bileti rezervasyonu yapmaya çalışırken, işlemin tamamlanmasına yardımcı olmak için tasarlanmış bir sohbet robotuyla karşılaşmak yaygındır. Ancak bu chatbot, maliyetli sonuçlara yol açabilecek yanlış bilgiler sağlarsa ne olur?
Bu senaryo, büyükannesinin cenazesine katılmak için acil bir uçuş rezervasyonu yapma ihtiyacıyla karşı karşıya kalan Kanadalı bir sakin olan Jake Moffatt için ortaya çıktı. AI tabanlı bir sohbet robotunun rehberliğine güvenen Jake, Air Canada’nın acil durum seyahatleri için bilet satın alma tarihinden itibaren 90 güne kadar geçerli indirimli ücretler sunan vefat politikası kapsamında geri ödeme alma hakkına sahip olduğuna inanıyordu.
Jake, Air Canada yetkilileriyle iletişime geçtiğinde, sohbet robotunun belirttiğinin aksine, bilet tutarının %20’sinin geri ödenmeyeceğini keşfettiğinde dehşete düştü. Air Canada, chatbotlarının yanlış bilgi sağladığını kabul etti ve karışıklıktan dolayı özür diledi.
Sorunu Air Canada’nın müşteri desteğiyle çözmeye yönelik defalarca yapılan girişimlere rağmen Jake, en sonunda Britanya Kolumbiyası Sivil Çözüm Mahkemesi aracılığıyla başvuruda bulundu. Mahkeme, chatbot’un vaat ettiği gibi yalnızca kısmi bir geri ödeme kararı vermekle kalmadı, aynı zamanda Air Canada’ya bir müşteriyi asılsız iddialarla yanılttığı için cezalar da verdi.
Air Canada, chatbot’un yalnızca bir makine olduğunu ve ölüm politikasındaki incelikleri yorumlamak için eğitilmediğini öne sürerek onun sorumluluğunu küçümsemeye çalıştı. Ancak mahkeme, chatbotun eylemlerinin Air Canada’ya atfedilmesi gerektiğini vurgulayarak bu iddiayı reddetti ve şirketin yaklaşımını yeniden gözden geçirmesine yol açtı.
Chatbot’un eylemleri üzerinde dış etkilerin olduğunu ve davanın potansiyel olarak sonuçsuz kalacağını öne süren tartışmalar olsa da, Mahkeme Memuru Christopher Rivers her iki tarafın sunduğu kanıtları dikkatle analiz etti. Sonuç olarak Air Canada’ya, Bay Moffat’a 483 $’ın yanı sıra 23 $ faiz ve 89 $ avukatlık ücretleri ve çeşitli masraflar iade edilmesi emredildi.
Ayrıca mahkeme, Air Canada’yı politikaları ve uygulamalarıyla ilgili şeffaflığı sağlamak için yapay zeka tabanlı müşteri destek uygulamalarını netleştirmeye çağırdı. Bunun yapılmaması, önemli cezalara ve hatta müşterileri politika ayrıntıları konusunda yanıltmanın yasaklanmasına yol açabilir.
Reklam