Uzmanlar, derin öğrenme sinir ağları ve üretken yapay zeka sistemleri tarafından oluşturulan sahte ses, görüntü ve videoların etkisini azaltacak teknoloji ve düzenlemelerin eksikliği nedeniyle, derin sahtekarlıkların önümüzdeki yıl işletmelere maliyetli şoklar yaşatabileceğini söylüyor.
Şu anda, deepfake’ler siber tehditler arasında en üst sırada yer alıyor ve şirketlerin üçte biri deepfake’leri kritik veya büyük bir tehdit olarak görüyor. Tehdit önleme firması Deep Instinct tarafından bu hafta yayınlanan bir rapora göre, şirketlerin yaklaşık %61’i geçtiğimiz yıl deepfake kullanan saldırılarda artış yaşadı. Ancak saldırganlar, finansal kurumların müşterini tanı (KYC) tedbirlerine karşı saldırılar oluşturmak için üretken yapay zekayı kullanarak, halka açık belirli firmalara karşı itibar saldırıları ile borsaları manipüle ederek, mevcut dolandırıcılık stratejilerini geliştirmek için derin sahtekarlıkları muhtemelen yalnızca yenileyecek ve daha iyi uyarlayacaklardır. ve sahte ama yine de utanç verici içerikle yöneticilere ve yönetim kurulu üyelerine şantaj yapmak.
Finansal bilgi şirketi Moody’s Ratings’in dijital ekonomiden sorumlu başkan yardımcısı Abhi Srivastava, kısa vadede, bir şirketin itibarını zedelemeyi amaçlayan bir deepfake kampanyasının etkisinin, firmanın genel kredi itibarını etkileyecek kadar büyük olabileceğini söylüyor.
“Deepfake’lerin şirketlere önemli ve geniş tabanlı zarar verme potansiyeli var” diyor. “Finansal dolandırıcılıklar en acil tehditlerden biridir. Bu tür derin sahtekarlık temelli dolandırıcılıklar firmalar için kredi açısından olumsuzdur çünkü onları olası iş kesintilerine ve itibar kaybına maruz bırakır ve kayıpların yüksek olması durumunda kârlılığı zayıflatabilir.”
Deepfake’ler saldırganların aracı haline geldi Geçmişte iş e-postası ihlali (BEC) olarak anılan iş lideri kimliğine bürünme dolandırıcılığının arkasında, bir şirket yöneticisinin yapay zeka tarafından oluşturulan ses ve görüntülerinin, alt düzey çalışanları para aktarmaya veya diğer hassas eylemler gerçekleştirmeye kandırmak için kullanıldığı yer alıyor. İçinde Şubat ayında açıklanan bir olayÖrneğin, çok uluslu bir şirketin Hong Kong merkezli bir çalışanı, saldırganların bir konferans görüşmesi sırasında işçiye transferleri yapması talimatını vermek için deepfake kullandıktan sonra yaklaşık 25,5 milyon dolar transfer etti.
Henüz Hiçbir Şey Görmedin
Deep Instinct CIO’su ve küresel altyapının eski başkanı Carl Froggett, finans kurumlarının kendi müşterileriyle nadiren buluşması, şirket çalışanlarının giderek daha fazla uzaktan çalışması ve deepfake teknolojisinin kullanımının kolaylaşmasıyla birlikte saldırıların sayısının daha da artacağını ve daha etkili hale geleceğini söylüyor. Citi finans firmasında savunma.
Üretken yapay zeka dolandırıcılık kayıplarını artırdı ve tahmin edilen kayıpların 2027 yılına kadar ikiye katlanmasına yol açtı. Kaynak: Deloitte Insights
Genel olarak şirketlerin dörtte üçü, C düzeyindeki bir yöneticiyi taklit eden deepfake saldırılarında artış gördü. Deep Instinct tarafından yayınlanan “SecOps’un Sesi” raporu.
Froggett, “Önemli kişiler, CEO’lar, yönetim kurulu üyeleri, özellikle bireysel ve derin sahte itibar zedelenmesinin hedefi olacaklar, bu yüzden onları daha fazla rahat bırakamayız ve bir güvenlik önlemini atlamalarına izin veremeyiz” diyor . “Bu noktada onlar için gerçekten iyi bir teknik yanıtımız yok ve işler daha da kötüye gidecek, dolayısıyla kimlik ve kimlik avına karşı dirençli teknoloji gerçekten önemli olacak.”
En büyük acıyı finansal kurumlar hissedecek. Finansal dolandırıcılık kayıplarının üretken yapay zeka nedeniyle hızlanması bekleniyor; danışmanlık şirketi Deloitte, bankacılık sektöründeki kayıpların 2027 yılına kadar 40 milyar dolara ulaşabileceğini öngörüyor. Üretken yapay zekanın ortaya çıkmasından önce tahmin edilen kayıpların iki katı.
Sahte CEO’lar, Gerçek Kayıplar
Deepfake’lerin borsa fiyatları üzerinde de etkili olduğu tartışılabilir. Bir yıl önce, doğrulanmış bir Twitter hesabı aracılığıyla Pentagon’da meydana gelen patlamaya ilişkin bir fotoğraf paylaşılmış ve birçok haber ajansı tarafından propagandası yapılmıştı. S&P 500’ün değerinin %1 oranında düşmesine neden oldu tüccarlar bunun muhtemelen yapay zeka tarafından oluşturulduğunu keşfetmeden önce birkaç dakika içinde. Nisan ayında Hindistan Ulusal Menkul Kıymetler Borsası (NSE) Yatırımcılara uyarıda bulunun NSE CEO’sunun belirli hisse senetlerini tavsiye ettiği deepfake bir videonun ortaya çıkmasının ardından.
Ancak bir siber danışmanlık firması olan Optiv’in küresel siber risk ve yönetim kurulu ilişkilerinden sorumlu başkan yardımcısı James Turgal, bir CEO’nun hisse senedi önermesi veya yanlış bilgi yayınlaması şeklindeki derin sahtekarlığın ABD Menkul Kıymetler ve Borsa Komisyonu’nun özel durum açıklama kuralını tetiklemesinin pek olası olmadığını söylüyor.
“Deepfake video veya ses taklidi temel alındığında SEC’in siber ifşa eşiği zor olacaktır, çünkü hissedarların bakış açısına göre deepfake saldırısının bir şirketin bilgi teknolojisi sistemi üzerinde önemli bir etkiye neden olduğuna dair kanıt olması gerekir. ,” diyor.
Moody’s Srivastava, derin sahte dolandırıcılığın kendi operasyonları üzerindeki etkisini önleyemeyen şirketlerin kredi cezasıyla karşı karşıya kalabileceğini ancak düzenleyici resmin hala bulanık olduğunu söylüyor.
“Deepfake’lerin ölçeği ve sıklığı artarsa ve siber saldırılar hızlanırsa, siber saldırılar için geçerli olan mevcut düzenleyici etkilerin aynısı bunun için de geçerli olabilir” diyor. “Ancak, bağımsız bir tehdit olarak deepfake söz konusu olduğunda, görünen o ki çoğu yargı alanı hâlâ yeni mevzuat mı çıkarılacağı yoksa mevcut yasaların yeterli mi olacağı konusunda tartışıyor; odak noktasının çoğu seçimle ilgili ve yetişkinlere yönelik deepfake’ler oluyor.”
Teknoloji Çözüm mü, Sorun mu?
Optiv’den Turgal, maalesef deepfake’lerin etrafındaki teknolojik tablonun hala saldırganın lehine olduğunu söylüyor.
Bu nedenle, birçok şirket teknik çözümler ararken, deepfake dolandırıcılıklarını durdurabilecek, belirli bir miktarın üzerindeki parasal işlemler için kıdemli liderler tarafından sözlü kimlik doğrulaması gerektiren ve güvenilir bir elektronik cihaza gönderilen kod kimlik doğrulamasını gerektiren ek kontroller oluşturmak için tasarlanmış süreçleri güçlendiriyor. . Hatta bazı şirketler teknolojiden uzaklaşıyor ve kişiden kişiye etkileşimi son kontrol olarak benimsiyor.
Turgal, “Derin sahte teknoloji tehdidi büyüdükçe, bazı şirketlerin yüksek teknoloji tehdidini azaltmak için düşük teknolojili, iki faktörlü kimlik doğrulama çözümü oluşturmak amacıyla eski moda kişiden kişiye etkileşime geri döndüğünü görüyorum” diyor.
Deep Instinct’ten Froggett, güvenilir iletişim kanalları oluşturmanın tüm şirketler için bir öncelik olması gerektiğini ve yalnızca ödeme veya transfer başlatmak gibi hassas süreçler için değil, aynı zamanda halkla iletişim için de bir öncelik olması gerektiğini söylüyor.
“En iyi şirketler halihazırda hazırlanıyor ve olasılıkları düşünmeye çalışıyor. … Her türlü yanlış bilgiyle mücadele etmek için harekete geçebilmek için yasal, düzenleyici ve uyumluluk gruplarına (tabii ki pazarlama ve iletişim gruplarına) ihtiyacınız var” diyor. “Zaten daha olgun finansçıların buna sahip olduğunu ve bunu DNA’larının bir parçası olarak uyguladıklarını görüyorsunuz.”
Froggett, diğer endüstrilerin de benzer yetenekleri geliştirmesi gerekeceğini ekliyor.