.jpg)
Siber savunucular şimdiye kadar yapay zekaya karşı savaşı kazanıyor: AI araçları henüz siber saldırılara anlamlı bir şekilde entegre edilmedi, savunucular ise bunları daha büyük etki için kullanıyor.
İçinde yeni siber güvenlikte yapay zekanın durumu hakkında raporMandiant, yapay zekanın gelecekte büyük bir tehdit oluşturma potansiyeline sahip olmasına rağmen, şu an için durumun böyle olmadığını söyledi.
Başkan yardımcısı Sandra Joyce, “Saldırganlar deneyler yapıyor ve bunun etrafında hizmetler oluşturmaya çalışıyor. Ancak şu an itibariyle, bildiğimiz kadarıyla yapay zekanın küçük bir rol oynadığı tek bir güvenlik olayına bile yanıt vermedik” diyor. Google Cloud ile Mandiant Intelligence’ın başkanı.
Bu arada, “Savunmacılar için yapay zeka araçlarından yararlanmak için epey bir şey yapıyoruz. Bence bunun gerçekten bir avantaj olduğu bir andayız” diyor.
Saldırganlar Yapay Zekayı Sosyal Mühendislik İçin Kullanıyor
Black Hat 2023’te sadece iki gün içinde, AI ile ilgili 17 sunum yapıldı veya tüm etkinliğin açılış konuşması da dahil olmak üzere siber uzayda AI ile ilgili sorunlar. Yine de çoğu, gerçek hayattaki gelişmelere tepki vermek yerine öngören araştırmalarla ilgili teorikti.
“2019’dan beri, birçok ülkede GAN’dan yararlanan tehdit aktörleri gördük. [generative adversarial network] görüntüler ve sahte profiller,” diyor Joyce. Bunun da ötesinde, son yıllarda AI hareketli resimler ortaya çıkmaya başladı. AI destekli video ile denendi Haziran 2021’de ve Rusya’nın Ukrayna’yı işgalinden sonra, kötü niyetli kişiler bir video oluşturmak için derin sahte yazılım kullandılar. Başkan Volodymyr Zelenskyy’nin teslim olmasını tasvir eden.
Ancak, bugün sürekli olarak AI kullanan tek tehdit aktörü, DRAGONBRIDGE’dir. geniş sosyal medya operasyonları Çin Halk Cumhuriyeti’nin siyasi çıkarlarıyla uyumlu mesajları yaymak için. Geçtiğimiz Mart ayında grup, ABD siyasi liderlerini olumsuz bir şekilde tasvir etmek için yapay zeka tarafından oluşturulan görüntüleri kullandı. Mayıs ayında yapay zeka tarafından oluşturulan bir sunucuyla sahte video haber segmentleri yaydı.
Joyce, “AI araçları öncelikle bu bilgi operasyonlarında, toplum mühendisliği için kullanılıyor” diye belirtiyor. Bugün vahşi olan yapay zeka kötü amaçlı yazılım araçları bile esas olarak bu amaca yöneliktir – örneğin, kötü niyetli aktörlerin daha ikna edici kimlik avı e-postaları yazmasına yardımcı olmak için tasarlanmış WormGPT.
Ancak bunun gibi bariz uygulamalar bile pek olumlu, pratik bir etkisi olmadı, diyor Joyce. Örneğin, DRAGONBRIDGE’in kampanyalarının hiçbiri pek önemli olmadı.
Savunmacılar Yapay Zeka Savaşını Nasıl Kazanıyor?
Bilgisayar korsanları AI araçlarına ısınmak için zaman harcarken, siber savunucular hiç vakit kaybetmediler.
Joyce, “Bir PowerShell betiği için bir uyarıyı analiz etmek veya YARA kuralları yazmak gibi şeyler için kullanıyoruz. Onu rakipleri, akıllı sözleşmeleri analiz etmek için kullanıyoruz – pek çok uygulama şu anda onu savunucular için inanılmaz derecede yararlı kılıyor,” diyor Joyce. .
İyi adamlar için zorluk, saldırganlar yetişmeye başlamadan önce avantajlarından tam olarak yararlanmak olacaktır.
Örneğin, Joyce, “insanlar 750.000 kişilik siber iş gücü açığından bahsediyor. Ve çoğu zaman, bundan arz perspektifinden bahsediyoruz – kaç işçiyi eğitip oradan çıkarabiliriz? Ama ya eğer yapabiliriz [create] Yapay zeka aracılığıyla her çalışan için 10 kat mı?”
“Düşman altyapısını nasıl daha iyi izleyebiliriz? Nasıl daha hızlı içerik oluşturabiliriz? Kötü adamları nasıl daha erken arayabilir ve bulabiliriz? Bunlar günlük olarak yaptığımız şeyler. Bu yüzden nasıl olduğunu görmekten heyecan duyuyoruz. AI bunu yapmamıza yardımcı olabilir” diyor.