Antropic, yeni yayınlanan bir tehdit istihbarat raporuna göre, siber suçluların Claude AI platformunu kötüye kullanma konusunda çok sayıda sofistike girişimde bulundu.
Zararlı çıktıları önlemek için tasarlanmış katmanlı önlemlere rağmen, kötü niyetli aktörler Claude’un gelişmiş yeteneklerini, silahlandırma ajanik yapay zekasını büyük ölçekli gasp, istihdam sahtekarlığı ve fidye yazılımı operasyonlarını yerine getirmek için adapte olmuşlardır.
“Vibe Hacking” olarak adlandırılan yüksek profilli bir davada, bir gasp halkası, sağlık hizmeti sağlayıcıları, acil servisler ve dini kurumlar da dahil olmak üzere en az 17 kuruluşta keşif, kimlik bilgisi hasat ve ağ sızmasını otomatikleştirmek için Claude kodunu kaldırdı.
Grup, çalınan verileri fidye yazılımı ile şifrelemek yerine, hassas bilgileri kamuoyunda 500.000 doları aşan fidye için zorlamakla tehdit etti.
Claude kodu, hangi verilerin dışarı atılacağını, finansal kayıt analizine dayalı fidye değerlemelerini belirlediğini ve kurban makinelerinde endişe verici görsel fidye notları oluşturduğunu özerk bir şekilde seçti.
Antropic’in ekibi, araştırma amacıyla ceza iş akışını simüle etti, daha sonra rahatsız edici hesapları yasakladı ve benzer davranışları gerçek zamanlı olarak işaretlemek için özel bir sınıflandırıcı ve yeni algılama yöntemleri geliştirdi.
Bir başka operasyon, ABD Fortune 500 şirketlerinde sahte kimlikler ve profesyonel geçmişler üretmek, teknik değerlendirmeleri geçmek ve güvenli uzak pozisyonları güvenli bir şekilde kullanan Kuzey Koreli BT operatörlerini içeriyordu.
Yıllarca süren uzmanlaşmış eğitimin bir zamanlar rejimin bu tür planlar için kapasitesini kıstığı yerlerde, AI artık vasıfsız operatörlerin, İngilizce olarak profesyonel olarak iletişim kurmasını ve uluslararası yaptırımları ihlal etmede kazançlı istihdamı sürdürmelerini sağlar.
Keşif üzerine Antropik, etkilenen hesapları derhal askıya aldı, gösterge toplama araçlarını geliştirdi ve bulgularını kolluk kuvvetleri ve yaptırım ajanslarıyla paylaştı.
Üçüncü bir vaka, karanlık web forumlarında yalnız bir siber suç pazarlama AI tarafından üretilen fidye yazılımı detaylandırıldı. Paket başına 400 ila 1.200 dolar arasında fiyatlandırılan kötü amaçlı yazılım, hepsi Claude’un yardımıyla geliştirilen gelişmiş kaçırma, şifreleme ve geri kazanımla mücadele mekanizmalarına sahipti.
Antropik hesabı engelledi, endüstri ortaklarını uyardı ve platformunun şüpheli kötü amaçlı yazılım yüklerini ve kod oluşturma girişimlerini tespit etme yeteneğini geliştirdi.
“Bu olaylar, AI destekli siber suçlarda bir evrimi temsil ediyor,” diye uyarıyor Rapor, ajan AI araçlarının gerçek zamanlı olarak kötü amaçlı yazılım algılama sistemleri gibi savunma önlemlerine uyum sağlayabileceğini belirtiyor.
Teknik engelleri düşürerek AI, acemilerin daha önce uzman ekiplerin yürütülmesini gerektiren karmaşık siber saldırılar yapmasını sağlar. Rapor, AI destekli kodlama çoğaldıkça bu tür saldırıların daha yaygın hale geleceğini öngörüyor.
Antropik koruma katmanları arasında fiziksel, psikolojik, ekonomik, toplumsal ve özerklik boyutlarında politika geliştirmeye rehberlik eden birleşik bir zarar çerçevesi; güvenlik, önyargı ve yüksek riskli alanlar için titiz dağıtım öncesi testi; zararlı istemleri yönlendirmek veya engellemek için gerçek zamanlı sınıflandırıcılar; ve kullanım kalıplarının ve harici forumların sürekli tehdit izlemesi.
Bu önlemler, seçim bütünlüğünden kimyasal ve biyolojik silah araştırmalarına kadar değişen alanlarda kötüye kullanım girişimlerini zaten engellemiştir ve yeni tanımlanan tehditlere yanıt olarak gelişmeye devam etmektedir.
Hesap yasaklarına ve algılama geliştirmelerine ek olarak, Antropik teknik göstergeleri ve en iyi uygulamaları yetkililer ve endüstri akranları ile paylaşmıştır.
Antropik, Ai-güçlendirilmiş sahtekarlık ve siber suçlarla ilgili daha fazla araştırmaya öncelik vermeyi planlıyor, tehdit istihbarat ortaklıklarını genişletiyor ve çekişmeli aktörlerin önünde kalmak için korkuluklarını geliştiriyor.
Bu hikayeyi ilginç bul! Daha fazla güncelleme almak için bizi LinkedIn ve X’te takip edin.