Yapay Zeka ve Makine Öğrenimi , Dolandırıcılık Yönetimi ve Siber Suçlar , Kimlik Dolandırıcılığı
Uzmanlar, Yapay Zeka Araçlarının Artık Birçok Bankanın Kullandığı Sesli Şifre Sistemlerini Tehlikeye Atabileceği Uyarıyor
Rashmi Ramesh (raşmiramesh_) •
12 Nisan 2024
Birçok finans kurumunda sesiniz şifrenizdir. Perde, ton ve tınıdaki küçük değişiklikler insan seslerini benzersiz kılıyor; bu da onları hizmet için telefon eden müşterilerin kimliğini doğrulamak için ideal bir yöntem haline getiriyor. Ana Dünyanın dört bir yanındaki bankalar ses izi tanımayı benimsedi.
Ayrıca bakınız: Mali Suçlara Uyumluluğun Geleceği: Sırada Ne Var?
Bilgisayarlar bu perde, ton ve tını özelliklerini gerçek zamanlı olarak kolayca sentezleyecek şekilde eğitilemediği sürece, bu ideal bir güvenlik önlemidir. Yapabilirler.
Üretken yapay zekanın öncüsü OpenAI, Mart ayının sonlarında, 15 saniyelik bir ses örneğiyle “orijinal konuşmacıya çok benzeyen” doğal sese sahip konuşma üretebilen, Voice Engine adını verdiği teknolojinin bir ön izlemesini duyurdu.
OpenAI, teknolojinin yapabileceği iyilikleri (anlık dil çevirisi, konuşma terapisi, okuma yardımı) överken, eleştirmenlerin düşünceleri, dolandırıcıları uzak tutmak için bir zamanlar ideal olan kimlik doğrulama yöntemini kırmak da dahil olmak üzere hemen zarar verebileceği yerlere yöneldi. Aynı zamanda, “başı belada olan çocuk” ve aşk dolandırıcılıklarının yanı sıra dezenformasyonu körükleyen kimliğe bürünme sahtekarlığını da güçlendirebilir (bkz.: ABD FTC, Deepfake Taklitçilerine Ceza Öneriyor).
Voice Engine henüz halka açık değil ancak çok sayıda ürün benzer bir hizmet sunuyor. Bir araştırma firması, yapay zeka ses klonlama pazarının 2030 yılına kadar yaklaşık 10 milyar dolara ulaşacağını tahmin ediyor.
Aslında yapay zeka ses klonlaması yıllardır büyüyen bir sorun olarak karşımıza çıkıyor. 2021’de Birleşik Arap Emirlikleri’nde meydana gelen bir olayda, siber suçlular bir şirket müdürünün sesini klonladı ve bunun sonucunda bir banka müdürü 35 milyon dolarlık transfere izin verdi. O zamandan bu yana teknoloji daha da iyiye gitti ve suçlular onu benzer şekillerde kullanmaya devam ediyor: Çok uzun zaman önce, bir grup dolandırıcı, Hong Kong merkezli çok uluslu bir şirketten 26 milyon doları dolandırmak için deepfake teknolojisini kullandı.
Etik hacker ve SocialProof Security’nin CEO’su Rachel Tobac yakın zamanda gösterdi Herkes, Amerika Birleşik Devletleri ve Avrupa’da sesli kimliği güvenli bir oturum açma yöntemi olarak kabul eden çeşitli bankalardan birine girmek için yapay zeka tarafından üretilen ucuz ve hatta ücretsiz ses klonlama hizmetlerini nasıl kullanabilir?
Hemen hemen her teknolojinin kullanıma sunulmasında olduğu gibi, güvenlik uzmanları da kötü niyetli aktörleri uzak tutmak için çabalıyor.
Ulster Üniversitesi siber güvenlik profesörü Kevin Curran, Information Security Media Group’a yaptığı açıklamada, ilk savunma hattının personeli sahte ses kliplerini tanıma konusunda eğitmek olduğunu söyledi. Ancak şu anda üretken yapay zeka tabanlı saldırıları tanımlayabilecek bilinen bir araç olmadığından bu bir zorluk olmaya devam ediyor. Elektrik ve Elektronik Mühendisleri Enstitüsü’nün kıdemli üyelerinden Curran, “Sonuçta, bu saldırıların işleyiş şekli insan benzeri görünmek” dedi.
ABD Federal Ticaret Komisyonu tarafından bu yılın başlarında başlatılan yarışmanın kazananları bile sorunun çetrefilli olduğunu kabul ediyor.
OmniSpeech ekibinden David Przygoda, “gerçek sesleri yapay benzerlerinden ayıran ince farkları” belirlemek için bir algoritma geliştiren ekibin bir parçası olan David Przygoda, “Bu sorunun tek bir çözümü yok” dedi.
“Bir insan sesi zaten 3 saniye gibi kısa bir sürede klonlanabiliyor ve teknoloji her geçen ay daha da iyiye gidiyor” diye uyardı.
Przygoda, teknolojinin bu yeni ortaya çıkan sorunu tek başına çözemeyeceğini söyledi. “Teknologlar, politika yapıcılar ve kanun uygulayıcılar arasında koordineli bir çaba gerekecek.”
OpenAI’nin ise farklı bir tavsiyesi var: Bankalar ses tabanlı kimlik doğrulamayı kullanmayı bırakmalı.