Yapay Zeka ve Makine Öğrenimi , Siber Suçlar , Siber Savaş / Ulus-Devlet Saldırıları
Bilgi Operasyonları Yürüten Ulus-Devletler Yapay Zeka Tarafından Oluşturulan Görüntüleri ve Videoları Benimsiyor
Rashmi Ramesh (rashmiramesh_) •
17 Ağustos 2023
Üretken yapay zeka araçlarını kullanan bilgisayar korsanları, henüz ciddi bir siber güvenlik riski oluşturmamış olsalar da sayısız manşetin odak noktası oldular. Google’ın tehdit istihbarat grubu Mandiant’taki araştırmacılar, yükselen başka bir tehdit hakkında alarm verirken böyle diyor: Yapay zeka güdümlü dezenformasyon kampanyaları.
Ayrıca bakınız: İsteğe Bağlı | İnsan Davranışını Anlamak: Perakende Sektörünün ATO ve Dolandırıcılığı Önleme Zorluğunun Üstesinden Gelmek
Güvenlik uzmanları, ChatGPT gibi üretken yapay zeka araçlarının düşük seviyeli aktörlerin bilgisayar korsanlığı yeteneğini artırma ve kimlik avı saldırılarında ikna edici yemlere ihtiyaç duyan tehdit aktörleri için bir nimet olma potansiyelini hemen fark ettiler. Yine de Mandiant, Perşembe günkü bir blog gönderisinde, izinsiz giriş operasyonlarında sohbet robotlarının kullanımının “sınırlı olmaya devam ettiğini ve öncelikle sosyal mühendislikle ilgili olduğunu” söylüyor.
Üretken yapay zekanın şimdiye kadar özellikle kötü aktörler için yararlı olduğu bir kullanım durumu varsa, bu, giderek daha fazla yapay zeka tarafından üretilen içeriğe, özellikle de resimlere ve videoya yer veren bilgi operasyonu kampanyalarında olmuştur.
2019’dan bu yana, Mandiant araştırmacıları, bir tür yapay zekadan yararlanan bilgi işlemlerinin “sayısız örneğini” belirledi. Rusya, Çin, İran, Etiyopya, Endonezya, Küba, Arjantin, Meksika, Ekvador ve El Salvador’dan ulus-devlet aktörleri, gerçek olmayan kişilerin profil fotoğrafları için gerçekçi vesikalıklar üretmek üzere yapay zeka tabanlı görüntü oluşturma yeteneğinin bir kategorisi olan üretici düşmanlık ağlarını kullandılar. sosyal medyada AI tabanlı görüntü oluşturma araçlarının yaygın olarak bulunması, 4chan forum katılımcıları gibi devlet dışı aktörlerin bunları kötü amaçlarla kullanmasına da izin verdi. Bu tür kullanıcılar, filtreler ekleyerek veya yüz özelliklerini rötuşlayarak fotoğrafların AI kaynağını gizleyebilir.
Metinden görüntüye modeli olarak adlandırılan başka bir AI görüntü oluşturma yeteneği türü, metin girişlerini kabul eder ve eşleşecek görüntüler oluşturur. Uzmanlar, daha güçlü araçlar herkese açık hale geldikçe ve kullanıcılar yeni kullanım örnekleri keşfettikçe, metinden görüntüye model benimsenmesinin sürekli olarak artmasını bekliyor. Uzmanlar, görmek inanmaksa, görüntü tabanlı araçların -metin tabanlı üretken yapay zekaya kıyasla- daha büyük bir yanıltıcı tehdit oluşturabileceği ve yapay zekayı dezenformasyon için daha sık tercih edilen araç haline getirebileceği konusunda uyarıyorlar.
Daha güçlü araçlar, daha gerçekçi görünen sahte videoların oluşturulmasını da kolaylaştırır. 2021’den beri bilgisayar korsanları, sahte video yayınları oluşturmak ve bireylerin yüzlerini mevcut videoları dolduran kişilerin üzerine yerleştirmek için herkese açık, yapay zeka tarafından oluşturulan ve yapay zeka tarafından manipüle edilen video teknolojisini kullanıyor. Mandiant, üst üste bindirme teknolojisi geliştikçe bu tür kimliğe bürünme kullanım durumlarında bir artış görmeyi bekliyor.
Bu tür araçlar için geçerli olan bir kullanım durumu, belirli siyasi anlatılara uyacak şekilde ikna edici görsel ve işitsel içerik oluşturmaya devam ediyor. Pekin merkezli hükümetin siyasi çıkarlarını destekleyen Çinli bir gelişmiş kalıcı tehdit grubu, gerçek bir haber raporunu taklit eden bir video yayınlamak için Mayıs ayında yapay zeka tarafından üretilmiş bir sunucu kullandı. Mandiant’ın DragonBridge kod adlı APT grubu, daha önce Mart ayında olduğu gibi yapay zeka tarafından oluşturulan görüntüleri dağıtmıştı. sahte görüntü eski ABD Başkanı Donald Trump’ın turuncu bir hapishane tulumu giydiği, ancak bu imajı grup yaratmadı.
Mandiant, “Hiper gerçekçi yapay zeka tarafından oluşturulan içerik, hedef kitleler üzerinde daha önce yapay zeka teknolojisinin faydası olmadan üretilmiş içerikten daha güçlü bir ikna edici etkiye sahip olabilir” diye yazıyor.
Mandiant, üretken yapay zekanın görsel dezenformasyon için kötüye kullanılmasında artış olduğunu fark eden tek kuruluş değil. 2022’de sosyal medya analiz firması Graphika, “neredeyse kesinlikle yapay zeka teknikleri kullanılarak oluşturulmuş hayali insanların video görüntülerini” tanıtan DragonBridge etkinliğini tespit etti.
Modern savaş da dezenformasyon için daha güçlü AI araçlarını benimsemek için değişiyor. Mart 2022’de Ukrayna istihbaratı uyardı halkı, olası bir Rus derin sahte video saldırısı hakkında. Günler sonra, bilinmeyen düşmanlar bir mesaj yayınladılar. derin sahte video Ukrayna Devlet Başkanı Volodymyr Zelenskyy’nin sözde Rusya’ya teslim olduğunu gösteren hacklenmiş bir Ukrayna haber sitesine.
Yapay zeka sohbet botlarına güç veren büyük dil modelleri, casusluk teşkilatları da dahil olmak üzere kötü aktörlerin dilsel engelleri aşmasını ve dünya çapında daha fazla saldırı gerçekleştirmesini kolaylaştırabilir. Mandiant, LLM tabanlı yapay zeka araçlarının bilgi operasyonlarında kullanımını henüz gözlemlemese de, yetenekleri geliştikçe “hızlı benimseme” öngörüsünde bulunuyor.