Check Point Research (CPR), Deepfake teknolojisinin yalnızca teknolojik bir zorluk değil, aynı zamanda daha geniş bir aldatma mekanizmasının tezahürü olması nedeniyle yaklaşan ABD seçimleri için önemli bir tehdit oluşturduğunu açıkladı.
Check Point Research ekibindeki siber güvenlik araştırmacıları, son raporunda, yapay zeka tabanlı teknolojilerin, özellikle de deepfake’in, seçim sahtekarlığını teşvik etmede yaygın olarak bulunmasının yarattığı tehlikelere dikkat çekti.
Araştırmacılar, ses klonlama gibi seçmenleri manipüle edebilen ve tüm süreci sabote edebilen özellikler nedeniyle deepfake teknolojisinin seçim sürecinin gerçekliğine yönelik önemli bir tehdit olduğunu belirtti. Teknolojinin ucuz olması, internet bağlantısı olan herkesin erişebilmesi ve takip edilememesi, bu teknolojilere karşı mevzuat oluşturmada süregelen zorluklar göz önüne alındığında seçim güvenliğini engellemektedir.
Derin sahte Araştırmacılar, teknolojinin kullanıcıların kamuoyuna ve demokratik kurumlara tehdit oluşturan “uydurulmuş görsel-işitsel içerik” oluşturmasına olanak tanıdığını belirtti. GitHub’da 3.000’den fazla depo ve Telegram’da yüzlerce kanal (en az 400-500) ile deepfake hizmetleri, otomatik botlardan kişiselleştirilmiş hizmetlere kadar çeşitlilik gösterir. Fiyatlandırma, video başına 2 ABD Doları’ndan birden fazla deneme için 100 ABD Doları’na kadar değişir; bu da aldatıcı içeriğin komisyonlanmasını uygun hale getirir.
Deepfake teknolojisinin neden olduğu son hasar olayları, büyüyen tehdidin altını çiziyor. Şubat 2024’teAsyalı bir şirket, çevrimiçi bir toplantı sırasında şirketin CFO’sunu taklit eden dolandırıcıların kurbanı oldu ve bu da 25 milyon doların üzerinde zarara yol açtı.
YouTube gibi platformlarda, deepfake teknolojisi dolandırıcılar tarafından kripto dolandırıcılığı yapmak için kullanılıyor. Doğrulanmış kanallar hedeflendi Milyonlarca dolar değerinde kriptoyu çalmakElon Musk, Bill Gates, Ripple CEO’su Brad Garlinghouse, Michael J. Saylor ve diğerleri gibi önde gelen isimlerin deepfake’leri, hiçbir şeyden haberi olmayan izleyicileri kandırmak için kullanılıyor.
Haziran 2023’teBaşkan Putin’in uydurma video mesajlarını yaymak için deepfake teknolojisi kullanıldı. Benzer şekilde, 2022’deUkrayna Cumhurbaşkanı Zelensky’nin Ukraynalıları teslim olmaya çağıran deepfake videosu viral oldu.
Deepfake ile mücadeleye yönelik çabalara rağmen, örneğin lansmanı McAfee’nin aracı MockingBirdKötü amaçlı içeriği tespit etmede %90’lık bir doğruluk oranına sahip olan deepfake teknolojisinden kaynaklanan potansiyel hasar hâlâ önemli düzeyde ve çoğu durumda geri döndürülemez.
Check Point Araştırma Ekibi, “Gölgelerden çalışan ve dijital parmak izi bırakmayan gizli bir ağ tarafından yönetilen, yapay zeka ve deepfake teknolojilerinin ustaca kullanımı yoluyla seçim sahtekarlığı potansiyeli” diye yazdı. Blog yazısı 22 Şubat 2024’te yayınlandı.
Araştırmacılar, yeraltındaki aktör ağının, halkın algısını manipüle edebileceğini ve deepfake yoluyla demokratik bütünlüğü baltalayabileceğini belirtti. Bu teknolojinin anonimliği kimseyi sorumlu tutmayı zorlaştırıyor. Geleneksel siber güvenlik önlemleri Tehdit, botlar, sahte hesaplar ve anonimleştirilmiş hizmetler de dahil olmak üzere olanak sağladığı tüm aldatma ekosisteminde yer aldığından yetersizdir.
Ses klonlamaBir kişinin sesini dikkate değer bir doğrulukla kopyalamak için makine öğrenimi ve yapay zekayı kullanan deepfake teknolojisinin bir alt kümesi olan , özellikle yanlış bilgilerin yayılmasında etkilidir. İkna edici sahte ses kliplerinin oluşturulmasına olanak tanıyor ve siyasi liderlerden gelen uydurma mesajların yer aldığı otomatik çağrıları içeren olaylar zaten gözlemlendiğinden, özellikle yanlış bilgilerin yayılmasında etkili oluyor.
Örneğin, sahte ABD Başkanının yer aldığı bir otomatik arama Joe Biden’dan sesli uyarı New Hampshire seçmenlerinin oy kullanmamasının maliyeti, gereken doğruluk düzeyine ve teknolojik yeterliliğe bağlı olarak 10 dolardan birkaç yüz dolara kadar çıkabilir.
Araştırmacılar, demokratik süreçleri derin sahtekarlıklardan korumak için, gelişmiş dijital okuryazarlık ve teknoloji şirketleri ile kolluk kuvvetleri arasındaki işbirliği de dahil olmak üzere yasal önlemleri, kamu bilincini, teknolojik çözümleri ve uluslararası işbirliğini içeren çok yönlü bir yaklaşımın gerekli olduğu sonucuna vardı.
İLGİLİ KONULAR
- Web sitesi son derece gerçekçi insan yüzleri oluşturmak için yapay zekayı kullanıyor
- Sahte Sesli Mesajlar Kullanıcıları Hedef Alıyor, 14 Günde 1000 Saldırı
- Dolandırıcılar Yeni BazarCall Saldırısında Google Formlarını Silahlaştırıyor
- Dolandırıcılar Binance Executive’in Deepfake Yapay Zeka Hologramını Yaptı
- Savunma Araç Kutusu Oluşturmak: Siber Tehditlerle Mücadeleye Yönelik Araçlar ve Taktikler