Antropik-çok ünlü kodlama chatbotunun arkasındaki şirket olan Claude, siber suçluların Claude’u sofistike saldırıları otomatikleştirmek ve düzenlemek için istismar ettiği büyük ölçekli bir gasp operasyonunu ortaya çıkardı.
Şirket, Claude istismarının çeşitli örneklerini tanımladığı bir tehdit istihbarat raporu yayınladı. Raporda şöyle diyor:
“Siber tehdit aktörleri AI’dan yararlanıyor – Vibe Hacking olarak bilinen mağdur ağlarında operasyonları aktif olarak yürütmek için kodlama aracılarını kullanmak.”
Bu, siber suçluların saldırıları tasarlamak ve başlatmak için AI kullanarak vibe kodlamasını kullanmanın yollarını buldukları anlamına gelir. Vibe kodlama, birisinin basit bir dilde bir uygulamanın veya programın ne yapmasını istediklerini açıkladığı AI kullanarak yazılım oluşturmanın bir yoludur ve AI gerçek kodu gerçekleştirmek için yazar.
Süreç, geleneksel programlamadan çok daha az tekniktir, uzman kodlayıcı olmayanlar için bile uygulamalar oluşturmayı kolay ve hızlı hale getirir. Siber suçlular için bu, saldırılar başlatmak için gereken teknik bilgi için çıtayı düşürür ve suçluların bunu daha hızlı ve daha büyük ölçekte yapmasına yardımcı olur.
Antropik, Claude’un siber suçlularla kötüye kullanımı hakkında birkaç örnek sunuyor. Bunlardan biri, hükümet, sağlık, acil servisler ve dini kurumlar arasında geçen ay en az 17 farklı kuruluşu potansiyel olarak etkileyen büyük ölçekli bir operasyondu.
Bu saldırıların arkasındaki insanlar, açık kaynak zeka araçlarının kullanımını “yapay zekanın saldırı yaşam döngüsü boyunca benzeri görülmemiş bir entegrasyonu” ile birleştirdiler.
Bu sistematik yaklaşım, sağlık verileri, finansal bilgiler, devlet kimlik bilgileri ve diğer hassas bilgiler de dahil olmak üzere kişisel kayıtların uzlaşmasıyla sonuçlandı.
Siber suçluların birincil amacı, tehlikeye atılan kuruluşların gasp edilmesidir. Saldırgan, Bitcoin’de 75.000 $ ile 500.000 $ arasında değişen ödemeler talep eden tehlikeye atılan sistemlere fidye notları oluşturdu. Ancak hedefler ödeme yapmayı reddederse, çalınan kişisel kayıtlar yayınlanması veya diğer siber suçlulara satılması gerekir.
Antropik tarafından durdurulan diğer kampanyalar, Kuzey Koreli BT işçisi planlarını, hizmet olarak fidye yazılımı operasyonları, kredi kartı sahtekarlığı, bilgi stealer günlük analizi, romantizm dolandırıcı botu ve ileri kaçakçılığa sahip kötü amaçlı yazılım oluşturmak için Rusça konuşan bir geliştiriciyi içeriyordu.
Ancak antropikin siber suçluların en az 17 organizasyona saldırdığı durum, saldırganın tüm operasyon boyunca AI kullandığı tamamen yeni bir fenomeni temsil ediyor. Hedef sistemlerine erişim kazanmaktan fidye yazılımı notlarını yazmaya kadar – Claude her adım için bu siber suç çılgınlığını otomatikleştirmek için kullanıldı.
Antropic, AI ajanlarının gerçek dünyadaki kötüye kullanımını araştırmak için bir tehdit istihbarat ekibi konuşlandırır ve bu tür kötüye kullanıma karşı savunmaları bulmak ve geliştirmek için diğer ekiplerle birlikte çalışır. Ayrıca, ekosistem genelinde benzer istismarı önlemeye yardımcı olmak için göstergelerin temel bulgularını ortaklarla paylaşırlar.
Antropic 17 kuruluştan hiçbirini isimlendirmedi, ancak er ya da geç kim olduklarını öğreneceğimize neden oluyor. Veri ihlallerini bildirdiklerinde veya siber suçlular bir liste yayınlamaya karar verirse, tek tek.
Verilerimize her zaman gerçekleşmesi için verdiğimiz kuruluşların veri ihlalleri ve çalınan bilgiler genellikle çevrimiçi olarak yayınlanır. Malwarebebytes, kişisel verilerinizin ne kadarının ortaya çıktığını kontrol etmeniz için ücretsiz bir araca sahiptir – e -posta adresinizi (en sık kullandığınız kişiyi vermek en iyisi) ücretsiz dijital ayak izi tarayıcımıza gönderin ve size bir rapor ve öneriler vereceğiz.