Araştırmacılar, yapay zekanın tehdit aktörleri tarafından olası kötü amaçlı kullanımlarını araştırdı ve büyük dil modelleri, çok modlu görüntü modelleri ve metinden konuşmaya modeller dahil olmak üzere çeşitli yapay zeka modelleriyle deneyler yaptı.
Daha da önemlisi, tehdit aktörlerinin erişebileceği kaynakları simüle ederek ve 2024'te en muhtemel tehditlerin derin sahtekarlıklar içereceğini ve operasyonları etkileyeceğini öne sürerek modellerde ince ayar yapmadılar veya ek eğitim sağlamadılar.
Deep fake'ler yöneticilerin kimliğine bürünmek için kullanılabilir ve açık kaynak araçlarla oluşturulabilir; yapay zeka tarafından oluşturulan ses ve video ise sosyal mühendislik kampanyalarını geliştirmek için kullanılabilir.
Yapay zeka destekli Sosyal Mühendislik Saldırıları
Recorded Future'ın Insikt Grubu, 2024'te yapay zeka destekli sosyal mühendislik saldırılarında bir artış olacağını tahmin ediyor; bu saldırılarda açık kaynaklı bir deepfake aracı, yöneticilerin kimliğine bürünme ve gerçekçi ses/video içeriği oluşturulmasına olanak sağlayarak sosyal mühendislik kampanyalarını güçlendirecek.
Kötü niyetli aktörler, sahte medya kuruluşları oluşturmak ve web sitelerini daha düşük maliyetle kopyalamak için yapay zekayı kullanacak. Yapay zeka, kötü amaçlı yazılım geliştiricilerinin tespitten kaçınmasına ve tehdit aktörlerinin güvenlik açıklarını belirlemesine ve hassas hedefleri bulmasına yardımcı olabilir.
Gelişmeler, gelişen yeni risklerle mücadele etmek amacıyla yapay zekaya yönelik etkili güvenlik önlemlerinin oluşturulmasını gerektiriyor.
Ücretsiz Web Semineri: Güvenlik Açığı ve 0 Günlük Tehditlerin Azaltılması
Güvenlik ekiplerinin 100'lerce güvenlik açığını önceliklendirmesi gerekmediğinden, hiç kimseye yardımcı olmayan Uyarı Yorgunluğu. :
- Günümüzün kırılganlık yorgunluğu sorunu
- CVSS'ye özgü güvenlik açığı ile risk tabanlı güvenlik açığı arasındaki fark
- Güvenlik açıklarının iş etkisine/riskine göre değerlendirilmesi
- Uyarı yorgunluğunu azaltmak ve güvenlik duruşunu önemli ölçüde geliştirmek için otomasyon
Riski doğru bir şekilde ölçmenize yardımcı olan AcuRisQ:
Yerinizi ayırtın
Açık kaynaklı üretken yapay zeka modelleri, ticari çözümlerin etkinliğine yaklaşıyor, potansiyel olarak derin sahte oluşturmayı demokratikleştiriyor ve kötü niyetli aktörlerin sayısını artırıyor.
Ticari üretken yapay zeka ürünlerinde de güvenlik açıkları mevcut ve bu da onları istismara açık hale getiriyor.
Sektörlerde üretken yapay zekaya yapılan artan yatırımlarla birleşen faktörler, kaynakları ne olursa olsun saldırganları daha gelişmiş araçlarla güçlendirecek ve bu da deepfake saldırılarına karşı savunmasız kuruluşların sayısını önemli ölçüde artıracak.
Kuruluşlar, saldırganların dijital varlıkları geleneksel güvenlik sınırlarının ötesinde istismar ettiği, gelişen bir tehdit ortamıyla karşı karşıyadır.
Saldırı yüzeyinin yöneticilerin seslerini ve benzerliklerini, web sitesi içeriğini ve markasını ve genel kamu imajını içerecek şekilde genişletilmesini gerektirir çünkü bunlar sosyal mühendislik saldırıları için manipüle edilebilir.
Tespit sistemlerini atlayan, kendi kendini değiştiren kötü amaçlı yazılımlar gibi karmaşık yapay zeka destekli tehditlerin yükselişi, saldırganların taktiklerinin önünde kalabilecek daha göze çarpmayan güvenlik çözümleri gerektiriyor.
Önemli bulgular:
Düşman aktörler, yöneticilerin kimliğine bürünmek için derin sahtekarlıklar da dahil olmak üzere kötü niyetli amaçlar için yapay zekadan yararlanabilir; bu, açık kaynak araçları kullanan kısa eğitim klipleriyle başarılabilir, ancak gerçek zamanlı manipülasyon engeller oluşturur.
Yapay zeka, büyük ölçekli dezenformasyon kampanyalarını ve meşru web sitelerinin klonlanmasını kolaylaştırıyor, ancak ikna edici sahtecilikler oluşturmak için insan çabası gerekiyor.
Kötü amaçlı yazılımlar, kodu gizlemek ve algılamayı atlamak için üretken yapay zekayı kullanabilir, ancak bu tür değişikliklerden sonra işlevselliği sürdürmek hala bir zorluktur.
Çok modlu yapay zeka, keşif amacıyla kamuya açık görüntüleri analiz edebilir; ancak bu verilerden eyleme dönüştürülebilir istihbarat elde etmek hâlâ insan uzmanlığı gerektirir.
Siber Güvenlik haberleri, Teknik İncelemeler ve İnfografiklerden haberdar olun. Bizi LinkedIn'de takip edin & heyecan.