Devlet destekli tehdit aktörleri, siber operasyonlarını geliştirmek için Google’ın yapay zeka destekli asistanı Gemini’den giderek daha fazla yararlanıyor.
İkizler gibi üretken AI araçları, inovasyon ve üretkenlik için muazzam bir potansiyele sahip olsa da, gelişmiş Kalıcı Tehdit (APT) Grupları ve Bilgi Operasyonları (IO) aktörleri ile kötüye kullanımları bu tür teknolojilerin çift kullanım doğasının altını çizmektedir.
Google’ın Tehdit İstihbarat Grubu (GTIG), İkizler’in devlet destekli siber aktörler tarafından kötüye kullanımının derinlemesine bir analizini gerçekleştirdi.
Bulgular, bu aktörler henüz yeni AI özellikli saldırı teknikleri geliştirmemiş olsa da, İkizler’i siber saldırı yaşam döngüsünün çeşitli aşamalarını kolaylaştırmak ve hızlandırmak için kullandıklarını ortaya koymaktadır.
APT Gruplarının Etkinlikleri
İranlı APT aktörleri: İranlı gruplar, savunma organizasyonlarında keşif, güvenlik açıklarını araştırmak, kimlik avı kampanyaları hazırlama ve siber güvenlik temalarıyla içerik oluşturma gibi görevler için kullanan İkizler’in en üretken kullanıcılarıydı.
Özellikle, APT42, ABD savunma organizasyonlarını hedefleyen özel kimlik avı malzemeleri üretmeye odaklandı.
Çince APT aktörleri: Çinli gruplar, keşif, komut dosyası görevleri ve ayrıcalık artışı ve veri açığa çıkması gibi kontratür sonrası faaliyetler için İkizler kullandı.
Kuzey Koreli APT aktörleri: Kuzey Kore grupları, yük geliştirme, Güney Kore askeri hedeflerinde keşif ve hatta Batı şirketlerine sızmayı amaçlayan gizli BT işçi planlarını desteklemek için kapak mektupları hazırlamak için İkizler kullandı.
Rus APT aktörleri: Rus aktörler İkizler ile sınırlı bir katılım gösterdi, ancak kötü amaçlı yazılımları farklı programlama dillerine yeniden yazmak ve kötü amaçlı kodlara şifreleme işlevselliği eklemek gibi görevler için kullandılar.
İran, Çin ve Rusya’dan IO aktörleri, etki kampanyaları için ikna edici anlatılar hazırlamak için içerik üretimi, çeviri ve yerelleştirme için İkizler istihdam etti. Örneğin:
- İranlı IO aktörleri, SEO-optimize edilmiş içerik üretmek ve belirli kitleler için mesajlaşma için İkizler kullandı.
- Çin yanlısı IO Group Dragonbridge, yabancı siyasi figürler ve güncel olaylarla ilgili araştırma aracıdan yararlandı.
- Rus IO aktörleri, metin içerik analizi ve sosyal medya kampanya planlaması için AI araçlarını kullanarak araştırdı.
Gemini’nin sağlam güvenlik önlemlerine rağmen, tehdit aktörleri korumalarını atlamak için çeşitli teknikler denedi, Google’ın Tehdit İstihbarat Grubu raporunu okuyor.
Jailbreak istemleri: Bazı aktörler, kötü amaçlı kod oluşturma istemek için halka açık jailbreak istemlerini kullandılar. Gemini’nin güvenlik protokolleri zararlı çıktıları filtrelediği için bu girişimler büyük ölçüde başarısız oldu.
Google ürünlerinde keşif: Aktörler, gmail kimlik avı gibi Google hizmetlerini kötüye kullanma veya hesap doğrulama yöntemlerini atlama konusunda rehberlik istediler. Ancak, bu çabalar Gemini’nin güvenlik filtreleri tarafından engellendi.
İkizler gibi üretken AI araçlarının kötüye kullanılması önemli endişeler doğuruyor:
Saldırıların ölçeklenebilirliği: Üretken AI, tehdit aktörlerinin güvenlik açığı araştırması ve kimlik avı e -posta oluşturma gibi görevleri otomatikleştirmelerini sağlayarak daha büyük ölçekli ve hızda çalışmalarını sağlar.
Öğrenme eğrisini azaltın: Daha az yetenekli aktörler, daha önce daha deneyimli bilgisayar korsanlarıyla sınırlı olan yetenekleri hızlı bir şekilde elde etmek için AI araçlarından yararlanabilir.
Etik Endişeler: Dark Web Forumlarında (örneğin WORMGPT) jailbreen veya kötü niyetli bir şekilde eğitilmiş AI modellerinin mevcudiyeti yaygın istismar riskini artırır.
İkizler gibi üretken AI araçları henüz siber saldırılar için atılım yeteneklerini mümkün kılmakla birlikte, devlet destekli aktörler tarafından kötüye kullanımları gelişen tehdit manzarasını vurgulamaktadır.