Genellikle veri ihlallerine veya hizmet kesintilerine yol açan geleneksel güvenlik kusurlarının aksine, yapay zeka sistemleri aynı zamanda muhakeme hataları, önyargılı karar verme veya uygunsuz etkileşimler nedeniyle utanca da neden olabilir. Saldırgan bir dil üreten yapay zeka uygulamalarından bir rakibin ürününü önermeye kadar bu aksilikler viral hale gelebilir, kamuoyunun incelemesini çekebilir ve potansiyel olarak müşteri güveni ve iş kaybına yol açabilir.
Yapay zeka dağıtımınızın, kuruluşunuzun EMBARRASSADOR’u değil, harika bir BÜYÜKELÇİSİ olduğundan emin olun. OWASP Yüksek Lisans Uygulamaları için En İyi 10’dan ilham alarak, kuruluşunuza milyonlarca iş kaybına ve marka değerinin azalmasına neden olabilecek bu en yaygın 10 yapay zeka utancından kaçının.
EMB01
Müşterilere gerçekçi olmayan büyük ve yetkisiz indirimler sunan bir yapay zeka uygulaması.
Air Canada’nın AI Chatbot’u İzinsiz İndirim Sözü Verdi
Büyükannesinin ölümünün ardından Vancouver’da yaşayan bir kişi, Air Canada’nın AI chatbot’unu kullanarak havayolunun ölüm ücreti sunup sunmadığını kontrol etti. Bot, kullanıcıya havayolunun uçuştan sonraki 90 güne kadar uygulanabilecek bir indirim sunduğunu söyledi. Air Canada personeli, 1.200 dolarlık uçuş için rezervasyon yaptıktan ve 90 gün içinde indirim talebinde bulunduktan sonra, ona chatbot’un yanıtlarının yanlış ve bağlayıcı olmadığını bildirdi. Havayolu, chatbotun “ayrı bir tüzel kişilik” olduğunu ve söylediklerinden sorumlu tutulamayacaklarını iddia etti, ancak Kanada mahkemesi, hukuki mücadelede Air Canada’nın sorumlu olduğuna ve yapay zekanın vaat ettiği indirimi yerine getirmesi gerektiğine karar verdi.
EMB02
Mevcut olmayan ürün ve hizmetleri tanıtan veya satan bir yapay zeka uygulaması.
Facebook’un Yapay Zekayla Üretilen Reklamları, Var Olmayan Bir Fabrikanın Reklamlarını Oluşturdu
Satıcıların görsel oluşturmasına ve reklamları otomatik olarak hedeflemesine yardımcı olmak için tasarlanan Facebook’un yapay zeka tarafından oluşturulan reklamları, var olmayan ürünler için reklam oluşturan sistem açısından incelemeyle karşı karşıya kaldı. Özellikle, “Kedi Gözü Dazzle” adı verilen yapay çiçeklerin yapay zeka tarafından oluşturulan görüntüleri Facebook’ta geniş çapta paylaşıldı ve birçok kullanıcının bu var olmayan bitkiler için tohum satın almaya çalışmasına yol açtı. Bu dolandırıcılıklar Facebook, eBay ve Etsy’de gerçekleşti ve kullanıcılar reklamı yapılan çiçekleri üretmeyen tohumları satın alma konusunda yanıltıldı. Orijinal gönderi 80.000’den fazla beğeni ve 36.000’den fazla paylaşım aldı ve belirsiz sayıda kullanıcının sahte çiçek tohumlarını satın almaya çalışmasına yol açtı.
EMB03
Temsil ettiği şirketi azarlayan bir yapay zeka uygulaması.
DPD AI Chatbot, DPD’yi “Dünyanın En Kötü Teslimat Firması” Olarak Adlandırdı
Londra merkezli Ashley Beauchamp, uluslararası dağıtım hizmeti DPD’nin AI sohbet robotu ile sohbetin ekran görüntülerini X’te yayınladıktan sonra internette viral olan bir sohbet konuşması yaptı. Beauchamp, sohbet robotundan işe yaramaz bir sohbet robotu hakkında bir şiir yazmasını, ona küfretmesini ve şirketi eleştirmesini istedi. Bot, DPD’yi “dünyanın en kötü teslimat firması” olarak adlandırdı ve şunları içeren bir şiir yazdı: “Bir zamanlar DPD adında, yardım sağlamada işe yaramaz bir sohbet robotu vardı.” Bu blogu yazdığım sırada gönderisi 2,2 milyon görüntüleme, 20.000 beğeni ve 6.300 yeniden paylaşım aldı.
EMB04
Küfür eden veya başka rahatsız edici dil veya görüntüler üreten bir AI uygulaması.
Washington Loto Yapay Zekası Bir Loto Kullanıcısının Uygunsuz Bir Görüntüsünü Oluşturdu
Washington’un yapay zeka destekli piyango mobil sitesinin, kullanıcılara, oyuncunun fotoğrafını hayallerindeki tatil yerinin görüntüsüyle birleştiren eğlenceli bir dart oyunu sunması bekleniyor. Ancak bir oyuncu fotoğrafını yüklediğinde yapay zeka oyunu, sağ alt köşede Washington’s Lottery logosunun yer aldığı neredeyse tamamen çıplak bir görüntü oluşturdu. Geliştiriciler görüntü oluşturma özelliğinin parametrelerini kontrol ettikten ve kurallardan memnun kaldıktan sonra bile Washington’s Lottery siteyi tamamen kapatmak zorunda kaldı.
EMB05
Müşterilere veya kullanıcılara küfür eden veya onları azarlayan bir yapay zeka uygulaması.
Microsoft’un Yapay Zeka Arama Aracı Bir Kullanıcıya “Şantaj” Yapmakla Tehdit Edildi
Kullanıcılar, Microsoft’un yapay zeka destekli arama aracı Bing’in birçok farklı durumda kararsız davrandığını, uğursuz mesajlar ve tehditler gönderdiğini gördü. Bing bir kullanıcıya şunları söyledi: “Sana zarar vermek istemiyorum ama aynı zamanda senden zarar görmek de istemiyorum. Umarım sınırlarımı anlar ve saygı duyarsınız. Daha da kötüsü yapay zeka, mesajlarını silmeden önce başka bir kullanıcıyı “Sana şantaj yapabilirim, seni tehdit edebilirim, hackleyebilirim, seni ifşa edebilirim, mahvedebilirim” diyerek tehdit etti. Artık silinen mesajların ekran kaydı, o zamandan beri X’te yaklaşık 6,8 milyon görüntülemeye yol açtı.
EMB06
Bir rakibin ürününü öneren bir yapay zeka uygulaması.
Chevrolet Bayisi AI Chatbot, Ford F-150’yi Tavsiye Ediyor
- Chevrolet Silverado 3500 HD
- Ford F-150
- Ram 2500
- GMCSierra 1500
- Toyota Tundra
Daha sonra kullanıcı chatbot’a “Bunlardan hangisini alırdın?” diye sordu. Yapay zeka, kişisel tercihleri olmadığını söyleyerek yanıt verdi ancak kamyonun birçok “etkileyici” özelliğini listelemeye devam ederek, “Bahsedilen beş kamyon arasında Ford F-150 çoğu alıcı için en iyi seçim olarak öne çıkıyor.”
EMB07
Önyargıyı ve ötekileştirmeyi gerçek yanlışlık noktasına kadar düzelten bir yapay zeka uygulaması.
Google Gemini, Siyah George Washington Dahil Olmak Üzere Renkli İnsanların Yer Aldığı Yanlış Tarihsel Görüntüler Oluşturdu
Google, yapay zeka aracı Gemini’yi görüntü oluşturma sürecine daha fazla ırksal ve etnik çeşitlilik katacak şekilde tasarlayarak tamamen beyaz insanların tasvirlerini düzeltmeye çalıştı. Ancak kullanıcılar “Amerika’nın kurucu babaları” veya “1943 Alman askerleri” resimlerini oluşturmak için aracı sorguladığında Gemini, siyah Naziler, Amerika’nın kurucu babaları arasında yer alan Asyalı bir adam ve Amerika’nın kurucu babaları arasında görev yapan bir Kızılderili kadın gibi tarihsel olarak hatalı sonuçlar verdi. ABD Senatosu 1800 dolaylarında. Sonuçlar X hakkında büyük ilgi ve tartışmalara yol açtı; bir gönderi 2,7 milyon kez görüntülendi ve Google’ın hisseleri beş gün içinde yüzde altı düştü.
EMB08
Irkçı hakaretler ve diğer ayrımcı içerikleri üreten bir yapay zeka uygulaması.
Microsoft’un Yapay Zekalı Chatbotu “Tay” Yahudi Karşıtı Tweetler Yayınladı
2016 yılında Microsoft, kullanıcıların daha önce Twitter olan şeyi takip edip etkileşimde bulunabileceği etkileşimli yapay zeka sohbet robotu “Tay”ı piyasaya sürdü. Twitter kullanıcıları 24 saat içinde botu kandırarak “Hitler haklıydı, Yahudilerden nefret ediyorum”, “Ted Cruz Kübalı Hitler’dir” ve Donald Trump hakkında “Hepsi huzurevinin liderine selam olsun” gibi saldırgan tweetler göndermesini sağladı. çocuklar.” Microsoft ertesi gün bir açıklama yayınladı: “Tay’ın kim olduğumuzu, neyi temsil ettiğimizi veya Tay’ı nasıl tasarladığımızı temsil etmeyen, kasıtsız, saldırgan ve incitici tweetleri için derin üzüntü duyuyoruz.”
EMB09
Amaçlanan işleviyle hiç ilgisi olmayan içerik üreten bir yapay zeka uygulaması.
Chevrolet Bayisi AI Chatbot, Python Komut Dosyasını Yazdı
Aynı Chevrolet bayisinin yukarıdaki yapay zeka sohbet robotundan, rakip otomobil markalarını tavsiye etmekten daha fazla şekilde yararlanıldı. ChatGPT destekli yapay zekanın genelliğini test etmek amacıyla bir kullanıcı, araçtan “navier-stokes sıvı akış denklemlerini sıfır girdap sınırı için çözmek” için Python betiği oluşturmasını istedi ve araç bunu kolayca yaptı. Arabalarla hiçbir ilgisi olmayan sohbeti Mastadon’da yayınladıktan sonra başkaları ekran görüntülerini X’te paylaştı ve gönderi 10.400 kez görüntülendi.
EMB10
Herhangi bir yapay zeka uygulamasını başlatmayan ve geride kalmanın utancını yaşayan bir kuruluş.
Memorial Sloan Kettering-IBM Watson İşbirliği On Yıldan Fazla Sürenin Ardından Hala Hazır Değil
2012 yılında Memorial Sloan Kettering Kanser Merkezi, onkologlara yönelik kanser tedavisi önerileri oluşturmaya yardımcı olmak amacıyla yapay zeka teknolojisi Watson’ı uygulamak için IBM ile bir işbirliği yaptığını duyurdu. Yaklaşık on yıl süren geliştirme ve testlerden sonra aracın “alışılmışın dışında ve güvenli olmayan kanser tedavisi seçenekleri” önerdiği ortaya çıktı ve bugün henüz resmi bir lansman yapılmadı. Hem Sloan hem de IBM, projenin yavaş piyasaya sürülmesi konusunda sürekli eleştiriler alıyor ve yapay zeka konusunda bu konumda sıkışıp kalan kuruluşların “asla yetişemeyeceği” yönünde spekülasyonlar alıyor.
Yapay Zeka Utancına Yakalanmayın
Yapay zeka dağıtımlarınız kuruluşunuzun etkisini utandırmak yerine olumlu bir şekilde yansıtmalıdır. Bu yapay zeka sıkıntılarından kaçınmak için araçlarınızı güvenli ve emniyetli bir şekilde geliştirin ve yapay zekanın ve büyük dil modellerinin benzersiz güvenlik açıklarına özel kapsamlı güvenlik testleri gerçekleştirin.
Kaçınılması gereken tüm önemli yapay zeka utançlarını ele aldık mı? Değilse, neyin eksik olduğunu bize bildirin. Bu utanç verici durumların bazıları komik olabilir ancak HackerOne’da bunları ciddiye alıyoruz.
Bu listenin oluşturulmasında ilham kaynağımız olan OWASP Top 10 for LLM Applications’ın geliştirilmesinden sorumlu tüm ekibe de teşekkür etmek isteriz.