OpenAI’nin konuşma yetenekleri ve geniş bilgi birikimiyle tanınan ChatGPT’si, yakın zamanda Hindistan ve ABD de dahil olmak üzere çeşitli ülkelerde yaklaşan genel seçimler ışığında proaktif bir duruş sergiledi. Microsoft’un sahibi olduğu şirket, olası kötüye kullanımı önlemek amacıyla, herhangi bir kasıtsız komplikasyonu önlemek amacıyla yapay zeka aracı üzerinde daha fazla kontrol uygulamaya karar verdi.
Makine öğrenimi tabanlı yapay zeka modeli, derhal geçerli olmak üzere, istenmeyen sonuçları veya kararsız davranışları önlemek için bir önlem olarak seçimlerle ilgili sorgulara yanıt vermekten kaçınacak.
Bu karar, OpenAI’nin, bu yılın Mayıs ayından bu yana gerçek zamanlı seçmenlerle etkileşim kurmak için tasarlanmış bir sanal asistan olan Dean.bot’u oluşturmakla görevlendirilen bir uygulama geliştirme şirketi olan Delphi’nin hesabını askıya almasıyla aynı zamana denk geliyor. Askıya alma, Delphi’nin ChatGPT geliştiricileri tarafından belirlenen kurallara uymamasına bağlandı. Bu tür projelerin 2024 ABD Seçimleri üzerindeki potansiyel etkisi göz önüne alındığında, benzer tüm girişimlerin bir sonraki duyuruya kadar askıya alınması kararı alındı.
Yapay zekanın öngörülemezliğiyle ilgili risklerin altını çizen paralel bir gelişmeyle, Fransa merkezli bir paket teslimat hizmeti olan DPD, yakın zamanda uygulamaya koyduğu yapay zeka müşteri destek hizmetini askıya almak zorunda kaldı. Kurye şirketinin yapay zekayla desteklenen chatbotu, insan benzeri iletişime benzeyen yanıtlar vermeye başladı. Ne yazık ki, bu yanıtlardan bazıları yalnızca uygunsuz olmakla kalmadı, aynı zamanda şirket için yersiz olumsuz geri bildirimlere de yol açtı.
Örnekler arasında, DPD sohbet robotunun, temsil ettiği şirketin müşterilerine hizmet vermede etkisiz olduğunu düşünmesi ve müşterilerde yanlış müşteri hizmetleriyle etkileşime girildiği veya alternatifler aramaya teşvik edildiği izlenimini bırakan kişisel konuşmalar yapması yer alıyordu.
Buna yanıt olarak DPD, bir çözüm bulunana kadar konuşma botunun kullanımına derhal kısıtlamalar getirdi. Ayrıca şirket, bilgisayar korsanlığı veya yetkisiz programlama gibi dış etkenlerin botun beklenmedik davranışına katkıda bulunup bulunmadığını belirlemek için bir soruşturma yürütüyor. Yapay zeka platformlarının dış manipülasyona karşı potansiyel savunmasızlığının tanınması, hızla ilerleyen yapay zeka alanında artırılmış güvenlik önlemlerine duyulan ihtiyacın altını çiziyor.
Reklam