Antropik yeni bir rapor, suçluların faaliyetlerinin bir kısmını aktif olarak yürütmek için AI kullandıklarını gösteriyor. Bulgular, AI’nın şimdi keşif ve kötü amaçlı yazılım gelişiminden sahtekarlık ve gasplara kadar tam saldırı döngüsüne gömüldüğünü göstermektedir.
Rapor, antropik modellerin kötüye kullanıldığı gerçek durumlara dayanmaktadır. Saldırganların operasyonlarının her aşamasına AI’yi nasıl adapte ettikleri ve inşa ettikleri hakkında alışılmadık bir görüş sunar. Odak Antropik’in kendi modeli üzerinde olsa da, vakalar ileri AI sistemleri arasında uygulanan daha geniş bir değişimi yansıtmaktadır.
Aktif operatör olarak AI
En çarpıcı bulgulardan biri, suçluların AI sistemlerine kampanyaları içindeki operatör olarak davranma şeklidir. Antropik bir durumda “vibe hackleme” diyor, tek bir saldırgan sadece bir ay içinde en az 17 kuruluşa karşı ölçekli bir veri gasp kampanyası yürütmek için bir AI kodlama aracısı kullandı. Hedefler arasında hastaneler, devlet kurumları ve acil servisler vardı.
AI’yı sadece tavsiye için kullanmak yerine, saldırgan ona operasyonel talimatlar verdi, daha sonra taktik ve stratejik seçimler yapmak için modele dayanıyordu. Yapay zeka taranan ağlar, hasat edilen kimlik bilgileri, algılamayı önlemek için kötü amaçlı yazılım oluşturdu ve hatta hangi fidye talep edileceğine karar vermek için çalınan verileri analiz etti. Model ayrıca kurbanın endüstrisini, büyüklüğünü ve düzenleyici maruziyetini yansıtan özelleştirilmiş fidye notları üretti.
Bu, AI’nın bilgi ve yürütme arasındaki boşluğu çökertebileceğini göstermektedir. Bir zamanlar bir grup vasıflı operatörün gerektirdiği şey, artık bir modeli yöneten tek bir kişi tarafından gerçekleştirilebilir. Ayrıca, savunucular için AI anında uzmanlık sağlayabildiğinde saldırgan sofistike nasıl ölçüleceğine dair sorular da gündeme getirir.
AI tüm saldırı yaşam döngüsü boyunca
Suçlular, çalışmalarının her aşamasına AI inşa ediyorlar. Keşif, ayrıcalık artış, kötü amaçlı yazılım gizleme, veri hırsızlığı ve fidye müzakereleri için yapay zeka kullanan antropik belgelenmiş saldırganlar.
Bir Çinli grubun, Vietnam kritik altyapısına karşı aylarca süren bir kampanya sırasında neredeyse tüm Miter ATT & CK taktiklerinde AI’dan yararlandığı görüldü. Model, kod geliştiricisi, güvenlik analisti ve operasyonel danışman olarak görev yaptı. Bu, saldırganların hızlı bir şekilde yeni istismarlar üretebileceği, tarama ve veri analizini otomatikleştirebileceği ve yanal hareket stratejilerini planlayabileceği anlamına geliyordu.
Pek çok aşamada AI kullanımı savunucular için iki sorun yaratır. İlk olarak, AI manuel darboğazları kaldırdığı için saldırılar çok daha hızlı hareket edebilir. İkincisi, AI odaklı operasyonlar hızla savunma önlemlerine uyum sağlar. Karmaşık saldırıların gelişmiş operatör becerisi gerektirdiği geleneksel varsayımlar yıkılıyor. Ortalama becerilere sahip tek bir aktör artık iyi finanse edilen bir ekibin çalışmasına benzeyen kampanyaları düzenleyebilir.
Ölçekte AI güdümlü sahtekarlık
Teknik müdahalelerin ötesinde, rapor AI’nın sahtekarlığı nasıl dönüştürdüğünü vurgulamaktadır. Suçlular, çalınan verileri analiz etmek, mağdur profilleri oluşturmak ve hileli hizmetler yürütmek için modelleri kullanıyor. Antropik, yapay zeka ile güçlendirilmiş kartlama platformları, romantizm dolandırıcılığı ve sentetik kimlik operasyonları bulundu.
Örneğin, bir aktör AI’yı devasa miktarlarda çalınan günlük verilerini işlemek için kullandı ve kurbanların davranış profillerine dönüştürdü. Bir diğeri, genellikle kurumsal yazılımlarda görülen yerleşik esneklik özellikleri ile birlikte çalıntı kredi kartlarını ölçekte doğrulamak için yapay zekaya dayanan bir kart mağazası sürdürdü. Ayrı bir durumda, romantizm dolandırıcılığı için duygusal olarak ikna edici mesajlar yapmak için birden fazla model kullanan ve anadili olmayan konuşmacıların akıcı ve ikna edici görünmesini sağlayan bir telgraf botunu tanımladı.
Bu vakalar birlikte, AI’nın siber suçlara giriş için teknik engeli düşürdüğünü ve daha ölçeklenebilir, uyarlanabilir ve karlı sahtekarlık ekosistemleri yarattığını göstermektedir. Araçlar, suçluların diğer aktörler için profesyonel ve güvenilir görünen hizmetler sunmalarını sağlarken, teknik bilgilerinin sınırlı olabileceğini gizler.