Üretken yapay zeka teknolojisi daha yaygın hale geldikçe, siber suçlular muhtemelen sentetik kimlik dolandırıcılığı yeteneklerini geliştirmek için bundan yararlanacak. Uzmanlar, ne yazık ki, mevcut dolandırıcılık tespit araçlarının, önümüzdeki yıllarda mali kayıplara yol açabilecek, artan yapay zeka kaynaklı sentetik kimlik dolandırıcılığı tehdidini ele almak için muhtemelen yeterli olmayacağını söylüyor.
Sentetik kimlik dolandırıcılığı Yalnızca dijital ortamda var olan bir birey yaratmak için kullanılan, çalınmış veya uydurulmuş kişisel bilgilerin bir derlemesini ifade eder. Bu bilgiler, doğum tarihleri ve Sosyal Güvenlik numaraları gibi gerçek kişilere ait özelliklerin yanı sıra e-posta adresleri ve telefon numaraları gibi sahte özellikleri de içerebilir.
Bu tür dolandırıcılık o kadar hızlı arttı ki birçok siber güvenlik uzmanı, tehdide karşı teknolojinin ne kadar sürede kullanılabilir olacağını sorguluyor. A Wakefield Araştırma araştırması Geçtiğimiz sonbaharda 500 dolandırıcılık ve risk uzmanından yapılan bir araştırma, ankete katılanların %88'inin yapay zeka kaynaklı dolandırıcılığın, bunu önlemek için yeni teknoloji oluşturulmadan önce daha da kötüleşeceğine inandığını ortaya çıkardı.
Kolay Teknoloji, Giriş Engelini Azaltın
KPMG ABD siber güvenlik hizmetleri müdürü Matt Miller, siber suçluların şirketleri dolandırmak amacıyla gerçek kişilerin derin sahte videolarını ve ses kayıtlarını oluşturmak için üretken yapay zekaya yöneldiğini söylüyor. Büyük dil modellerinin (LLM'ler) ve diğer benzer yapay zeka teknolojilerinin yükselişi, sahte görüntü oluşturmayı siber suçluların kötüye kullanmasını daha kolay ve daha ucuz hale getirdi.
Deduce'un kurucusu ve CEO'su Ari Jacoby, siber suçluların üretken yapay zeka kullanımının gelişmişlik düzeylerine göre değiştiğini söylüyor. Geçmişte, kötü aktörlerin ya kendi senaryolarını yazmaları ya da saldırı senaryoları yazması için bir yazılım geliştiricisini görevlendirmeleri gerekiyordu. Ancak üretken yapay zekanın yükselişiyle birlikte siber suçlular, hızlı ve ucuz bir şekilde kötü amaçlı bir komut dosyası yazmak için bu araçlara başvurabilirler.
Kötü niyetli bir aktör, üretken yapay zeka uygulamasına “Lütfen doğru bir New York ehliyeti oluşturun” talimatını verebilir ve gerçek kişilerin çevrimiçi olarak kolayca bulunabilen fotoğraflarını kullanarak belgeler üretebilir, diyor Jacoby, mevcut savunmaların sahte kimlikleri önlemeyi amaçladığını belirtiyor. üretken yapay zeka tarafından “ezilecek”.
“Neredeyse herkes için zaten mevcut olan verileri bir selfie oluşturmak için kullanmak istiyorsanız bu hiç de zor değil” diyor. “Dışarıda devasa bir grup kötü adam, kötü adam var ve suç işleme hızını artırmak için bu tür yapay zekayı silah olarak kullanıyorlar. Bu, spektrumun alt ucu. Üst uçta neler olduğunu hayal edin. organize suç ve muazzam mali kaynaklara sahip bir yelpaze.”
Wakefield Research'ün kıdemli ortağı Nathan Richter, Dark Web'de ChatGPT gibi yapay zeka araçlarının taklit versiyonlarının da mevcut olduğunu söylüyor.
İyileşmeden Önce Kötüleşiyor
Wakefield Research anket verileri kuruluşların sentetik kimlik dolandırıcılığındaki artıştan zaten etkilendiğini gösteriyor. Rapora göre ankete katılanların %76'sı, kuruluşlarının, hesap için onaylanmış, sentetik kimlik kullanan müşterilere sahip olduğunu düşündüklerini söylüyor. Ankete katılan dolandırıcılık ve risk uzmanları, sentetik kimlik dolandırıcılığının son 24 ayda ortalama %17 oranında arttığını da tahmin ediyor.
Ankete katılanların neredeyse dörtte biri (%23) bir sentetik dolandırıcılık olayının ortalama maliyetinin 10.000 ila 25.000 ABD Doları arasında olduğunu tahmin ediyor. Ankete katılanların beşte biri, sentetik kimlik dolandırıcılığı olaylarının maliyetinin 50.000 ile 100.000 dolar arasında olduğunu tahmin ediyor. Finansal firmalar için sentetik kimlik dolandırıcılığının maliyet etkisi yüksek olabilir.
Birçok siber güvenlik uzmanı, sentetik kimlik sahtekarlığı sorununun iyileşmeden önce daha da kötüleştiğini görüyor. Deloitte Finansal Hizmetler Merkezi Sentetik kimlik dolandırıcılığının 2030 yılına kadar 23 milyar dolarlık kayba yol açabileceğini öngörüyor.
Richter, ankete katılanların konuyu tartışmaya açık olmasının, sentetik kimlik dolandırıcılığının giderek yaygınlaştığını gösterdiğini söylüyor.
Richter, “Genellikle, yüksek düzeyde eğitimli profesyonel izleyiciler arasında araştırma yaptığınızda, herhangi bir hatayı veya sorunu kabul etmeyi zorlaştıran belirli bir mesleki gurur vardır” diyor. “Burada çoğunlukla böyle bir sorun yaşamıyoruz. Bunun çok büyük bir sorun olduğunu kolaylıkla kabul eden katılımcılarımız var. Bu, olay başına önemli kayıplara neden oluyor ve durumun iyileşmeden önce daha da kötüleşmesi bekleniyor. Size söyleyebilirim. Bir araştırmacı olarak bu son derece nadir görülen bir durumdur.”
Siber Dolandırıcılıkla Mücadele
Deloitte'un siber ve stratejik risk müdürü Mark Nicholson, bu sorunla mücadele etmenin şirketlerin çok katmanlı bir yaklaşım benimsemesini gerektirdiğini söylüyor. Çözümün bir kısmı, gerçek müşteriler ile dolandırıcılar arasında ayrım yapmak için yapay zeka ve davranışsal analizlerin kullanılmasını gerektiriyor.
Nicholson, bir müşterinin kimliğini belirli bir zamanda doğrulamanın ötesinde, özellikle finansal hizmetlerde faaliyet gösteren şirketlerin, müşterilerin davranışlarını daha uzun bir süre boyunca anlamaları ve bu etkileşimler sırasında kimliklerini doğrulamaya devam etmeleri gerektiğini söylüyor. Davranış analitiğine ek olarak şirketler, biyometrik verilerden, üçüncü taraf verilerinden, dolandırıcılık veri kaynaklarından, risk değerlendiricilerinden ve oturum izleme araçlarından yararlanmak gibi diğer seçenekleri de değerlendiriyor.
Nicholson, “Sıfır günlerle mücadele ettiğimiz ve uygulamalara yama uyguladığımız gibi, üretken yapay zekanın sürekli olarak nasıl kullanıldığını ve yanıt olarak mümkün olduğunca hızlı bir şekilde uyum sağladığını anlamamız gerekecek” diyor. “Sanırım sihirli bir çözüm yok. Ve bu, katılan herkesin ortak çabasını gerektirecek.”
Miller, şirketlerin siber güvenlik araçlarının yanı sıra, üretken yapay zeka ve sentetik kimlik dolandırıcılığının yükselişiyle ortaya çıkan insan risk faktörlerini de değerlendirmeleri ve çalışanlarına bu riskleri tespit etmeleri için eğitim vermeye başlamaları gerektiğini söylüyor. Şirketler, süreçlerinin hangi noktalarda insan hatasına açık olduğunu anlamalıdır.
“Liderliğiniz hazine departmanınızı arayıp sadece sesli telefon görüşmesiyle para taşıyabilir mi? CEO'nuz derin sahtekarlık yaptıysa veya CFO'nuz derin sahtekarlık yaptıysa, bu mali kayıpla sonuçlanabilir mi?” Miller diyor. “Bu süreç kontrollerinden bazılarına bakın ve gerektiğinde dengelemeleri uygulayın.”
Biden yönetiminin kararnamesi Yapay zeka emniyeti ve güvenliği için yeni standartların getirilmesi iyi bir ilk adımdır ancak halkı korumak için daha fazla düzenlemeye ihtiyaç vardır. Jacoby, teknoloji şirketlerinin öz denetim için lobi faaliyetleri yürütmesine rağmen, bunun artan yapay zeka tehdidini ortadan kaldırmak için yeterli olmayabileceğini söylüyor ve öz yönetimin geçmişte tüketiciler için yararlı olmadığını da sözlerine ekliyor.
“Capitol Hill'deki konuşan kafaların tüm sonuçları anladığını düşünmüyorum ve onlardan bu oyunun ilk vuruşlarında da anlamalarını beklememeliyiz.” Jacoby diyor. “Bu şeyleri düzenlemek çok zor.”
Miller, düzenleyici ve politika kontrollerine ek olarak, yapay zekanın paydaşların uygun olduğu konusunda hemfikir olacağı şekilde kullanılabilmesi için teknolojik kontrollerin de uygulanmasını öngördüğünü söylüyor. Ancak bu kısıtlamalar çözülürken şirketlerin dikkatli kalması gerekiyor çünkü dijital saldırganlar dolandırıcılık yapmak için kendi modellerini ve altyapılarını oluşturabiliyor.
Sonuçta yapay zeka şirketleri, yarattıkları teknolojiyle ilgili risklerin azaltılmasında rol oynamak zorunda kalacak.
Miller, “Bu teknolojiyi sağlayan kurumların sadece onları anlamakla kalmayıp, aynı zamanda bunlarla ilişkili riskleri de gerçekten anlamaları, doğru kullanım konusunda eğitim verebilmeleri ve ayrıca kendi platformlarını kontrol edebilmeleri gerekiyor” diyor. “Siberde tarihsel olarak bunu her zaman casusa karşı casus olarak konuştuk, ancak çoğu durumda artık yapay zekaya karşı yapay zekayı görüyoruz.”