Bu bir sır değil; çevrimiçi suçlular, kötü niyetli planlarında yapay zekadan (AI) ve büyük dil modellerinden (LLM’ler) yararlanıyor. Yapay zeka, bir şeyler elde etmek amacıyla insanları kandırmak (örn. deepfake) amacıyla suistimal edilme eğiliminde olsa da bazen bilgisayar güvenlik programlarını yenmek için kullanılır.
Yapay zeka ile bu süreç daha da kolaylaştı ve aldatma amacıyla üretilen sahte içerik vakalarının giderek arttığını görüyoruz. Suç yeraltı dünyasında, tuzak olması amaçlanan web sayfaları veya sitelere bazen “kara sayfalar”ın (kötü amaçlı açılış sayfaları) aksine “beyaz sayfalar” adı verilir.
Bu blog yazısında, tehdit aktörlerinin Google Arama reklamları satın aldığı ve beyaz sayfalar oluşturmak için yapay zekayı kullandığı birkaç örneğe göz atacağız. İçerik benzersizdir ve eğer gerçek bir insansanız bazen komiktir, ancak ne yazık ki kodu analiz eden bir bilgisayar muhtemelen ona yeşil onay verecektir.
Sahte yüzlü yöneticiler
İlk örnek, Securitas OneID’yi hedef alan bir kimlik avı kampanyasıdır. Tehdit aktörleri, çoğu zaman beklenilenle ilgisi olmayan tamamen sahte bir sayfaya, yani kimlik avı portalına yönlendiren reklamlar yayınlayarak tespit edilmekten kaçınma konusunda oldukça ihtiyatlı davranıyor.
Güvenlik araştırmacılarını trolleyebilecekleri aklımızdan geçti ama eğer durum gerçekten buysa, neden sadece Rick Astley’inkine başvurmayalım? Senden asla vazgeçmeyeceğim?
Ekibin yüzleri de dahil olmak üzere sitenin tamamı yapay zeka ile oluşturuldu. Geçmişte suçlular hazır fotoğraflara yönelir veya bir Facebook profilini çalardı; şimdi ise kendi profilinizi oluşturmak daha kolay ve daha hızlı, hatta telif hakkı bile içermiyor!
Google reklamı doğrulamaya çalıştığında, oldukça benzersiz içeriğe sahip bu gizlenmiş sayfayı görecekler ve bunda kesinlikle kötü amaçlı hiçbir şey yok.
Parsek ve evren
İkinci örneğimiz ise bu kez oyun tutkunlarının kullandığı popüler uzak masaüstü programı Parsec’e ait bir Google reklamı.
Parsek aynı zamanda astronomik bir ölçüm birimidir ve tehdit aktörleri (ya da yapay zeka mı demeliyiz) onunla çılgına dönerek Yıldız Savaşları’ndan büyük ölçüde etkilenen beyaz bir sayfa oluşturdular:
Posterler de dahil olmak üzere sanat eserleri, hayran olmayanlar için bile oldukça hoş.
Bir kez daha, bu gizlenmiş içerik, tespit motorlarını harekete geçirecek tam bir oyalamadır.
Yapay Zeka vs Yapay Zeka: kurtarmaya gelen insanlar
Bunlar yapay zekanın kötüye kullanıldığı birçok örnekten sadece birkaçı. Deepfake’in ilk günlerinde, şirketlerin zaten yapay zekayı tespit etmek için yapay zekayı eğittiğini hatırlayabiliriz.
Doğal olarak yapay zekanın meşru sebeplerle ürettiği içerikler de olacak. Sonuçta hiçbir şey kimsenin tamamen yapay zeka ile bir web sitesi oluşturmasını yasaklamıyor, çünkü bu eğlenceli bir şey.
Sonuçta yapay zeka, kendi başına tarafsız olan ancak yanlış ellere geçebilecek bir araç olarak görülebilir. Çok yönlü ve ucuz olduğu için suçlular onu hevesle benimsedi.
İronik bir şekilde, gerçek bir insanın gizlenmiş içeriğin çoğunu sahte tüyler olarak tanımlaması oldukça basittir. Bazen bazı şeyler birbirini tutmuyor ve sadece komik oluyor. Şakalar bir yapay zeka motorunda bir insanda tetiklediği tepkinin aynısını mı tetikliyor? Öyle görünmüyor… henüz.
Yalnızca tehditleri rapor etmiyoruz; onları kaldırıyoruz
Siber güvenlik riskleri asla bir manşetin ötesine yayılmamalıdır. Malwarebytes’i bugün indirerek tehditleri cihazlarınızdan uzak tutun.