Yapay Zeka ve Makine Öğrenimi , Siber Suçlar , Seçim Güvenliği
FBI Yapay Zeka Destekli Dolandırıcılığın Arttığını Görüyor; Meta Raporların Yetersiz Seçim Müdahale Kullanımı
Mathew J. Schwartz (euroinfosec) •
6 Aralık 2024
Yapay zeka: Ne işe yarar? Savaşla ilgili eski şarkıya göre cevap “kesinlikle hiçbir şey” değil ama şu ana kadar “kesinlikle her şey” de değil.
Ayrıca bakınız: Active Directory Güvenliği Operasyonel Dayanıklılığı Nasıl Artırır?
Yeni bulgular, üretken yapay zeka ve derin sahtekarlıkların nerede popüler olduğunu (dolandırıcılık) ve nerede olmadıklarını – seçim müdahalesine işaret ediyor.
Bu seçime müdahale değerlendirmesi, ABD, Hindistan, Endonezya, Fransa, Almanya, Meksika, Tayvan ve ABD gibi ülkeler de dahil olmak üzere 50’den fazla ülkede 2 milyardan fazla insanın büyük seçimlerde oy kullandığı bir yılın sonuna doğru geldi. Krallık.
Küresel ilişkilerden sorumlu başkanı Nick Clegg, Facebook, Instagram ve WhatsApp’ın ana şirketi Meta’nın, risklere rağmen, bu yıl sitelerinde yayınlanan seçimler, politika ve sosyal konularla ilgili yanlış bilgilerin %1’den azının yapay zeka tarafından oluşturulduğunu tespit ettiğini söyledi. , Salı günü yayınlanan bir blog yazısında.
İngiltere’nin eski başbakan yardımcısı Clegg, “Yaygın deepfake ve AI destekli dezenformasyon kampanyaları riski” gerçek olmaya devam ederken, “bu riskler bu yıl, en azından Meta platformlarında önemli bir şekilde gerçekleşmedi” dedi.
Geçen ay Gelişen Teknoloji ve Güvenlik Merkezi, bir raporda, herhangi bir büyük seçimde “yapay zeka destekli dezenformasyonun seçim sonucunu ölçülebilir şekilde değiştirdiğine dair hiçbir kanıt” bulamadıklarını söyledi.
Araştırmacılar, “yapay zeka tarafından oluşturulan aldatıcı içeriğin, diğer dezenformasyon biçimlerini güçlendirerek ve siyasi tartışmaları alevlendirerek ABD seçim söylemini şekillendirdiğini” buldu. Gerçek dünyanın seçmen davranışı üzerindeki etkisine ilişkin verilerin azlığı nedeniyle bunu ölçmek zor olmaya devam etse de, araştırmacılar gerçek dünyadaki etkinin minimum düzeyde göründüğünü söyledi.
Yabancı müdahale çabalarının yarattığı tehdidi abartmak, düşmanların çabalarını artırarak onların eline geçme riskini taşır. Deepfake’lerin demokrasiye yönelik oluşturduğu tehdidi analiz eden Britanya Ulusal Siber Güvenlik Merkezi’nin ilk başkanı Ciaran Martin, Haziran ayında şunları söyledi: “Gerçek şu ki, Birleşik Krallık şu ana kadar seçimlere yapılan başarılı siber müdahalelerden çok az zarar gördü.” Rusya 2014 İskoç referandumunu bozmaya çalışsa da parlamento soruşturması “Rusya’nın çabalarının çoğunlukla riskli olduğunu” ortaya çıkardı.
Ancak bu tür çabalar devam ediyor. Meta, “koordineli, özgün olmayan davranış” olarak adlandırdığı durumla mücadele çabalarının bir parçası olarak, yalnızca bu yıl 20 yeni gizli nüfuz operasyonunu çökerttiğini söyledi. Şirket, 2017’den bu yana Rusya’ya atfedilen 39, İran’a bağlı 30 ve Çin’e bağlı 11 gizli nüfuz operasyonunu sekteye uğrattığını söyledi.
Clegg, şirketin bu tür operasyonları yürütme girişimlerinin – özellikle de hakimiyetini sürdüren Rusya’nın – Facebook’tan X ve Telegram gibi “bizimkinden daha az korumaya sahip platformlara” doğru kaydığını gördüğünü söyledi.
Yapay Zeka Destekli Dolandırıcılar için Salata Günleri
Dolandırıcılık cephesinde ise tablo farklı. Belki de gerçek bir ünlünün desteğiyle inandırıcı görünen bir kripto para birimi yatırım sitesi oluşturmanız mı gerekiyor? Çok sayıda meşru görünen sosyal medya profili ve etkinliği oluşturmanız mı gerekiyor? Yabancı dil konuşan birini size uzaktan aşık olması ve sözde tıbbi sorunlarınız için yüklü miktarda para göndermesi için kandırmak mı istiyorsunuz? Tüm bunlara geniş ölçekte ve daha kısa sürede mi ihtiyacınız var?
Bu hafta FBI, suçluların tüm bunları ve daha fazlasını, gen yapay zeka ve deepfake araçlarının kullanımını iki katına çıkararak yaptıkları konusunda uyardı.
“Suçlular, sosyal mühendislik, hedef odaklı kimlik avı ve romantizm, yatırım ve diğer güven planları gibi mali dolandırıcılık planlarını ilerletmek veya dolandırıcılık planlarının ortak göstergelerinin üstesinden gelmek için okuyucuya inandırıcı görünmek için yapay zeka tarafından oluşturulan metni kullanıyor” dedi.
Kolluk kuvvetleri tarafından araştırılan daha gelişmiş kullanım örnekleri arasında suçluların, bankaları hesaplara erişim izni vermeleri için kandırmak amacıyla yapay zeka tarafından oluşturulan ses klipleri kullanması veya bir kriz durumunda yakın bir akrabanın kimliğine bürünmek için “sevilen birinin sesini kullanarak” acil mali yardım istemek veya talepte bulunmak yer alıyor. bir fidye” diye uyardı büro.
FBI, bu tür saldırılara karşı temel savunmanın, “ailenizle birlikte kimliklerini doğrulamak için gizli bir kelime veya ifade” oluşturmayı içerdiğini ve bunun iş ortamlarında da işe yarayabileceğini söyledi (örneğin, CEO sahtekarlığına karşı daha sağlam bir savunmanın parçası olarak). Görmek: Sanal Kaçıranlarla Mücadelede En İyi Siber Gasp Savunmaları).
Birçok dolandırıcı, kurbanlarını durup düşünmeye zaman bulamadan istismar etmeye çalışır. Buna göre, telefonu kapatmaktan asla çekinmeyin, arayan kişinin sözde kuruluşunun telefon numarasını bağımsız olarak bulun ve onlarla doğrudan iletişime geçin dedi.
FBI’ın uyarıları akademik olmaktan uzak. Yakın zamanda katıldığım bir siber güvenlik etkinliğinde güvenlik uzmanları, görünüşe göre mesajlaşma için gen yapay zekanın suç amaçlı kullanımı sayesinde, kimlik avı saldırılarının çalışanların tespit edilmesi ve raporlanmasının nasıl giderek zorlaştığını ayrıntılı olarak anlattı. Bir CISO, “Kötü yazılmışsa muhtemelen İK’dandır” dedi.