Carnegie Mellon Üniversitesi araştırmacıları, büyük dil modellerinin olabileceğini gösterdi. Özerk olarak sofistike siber saldırıları planlayın ve gerçekleştirin insan müdahalesi olmadan.
Yapay zeka firması Antropic ile ortaklaşa yapılan araştırma, AI’nın kopyalayabileceğini gösterdi. Equifax’ta 2017 Cyberattack Güvenlik açıklarını özerk bir şekilde sömürerek, kötü amaçlı yazılım yükleyerek ve veri çalarak.
Equifax ihlali, yaklaşık 147 milyon müşterinin verisini tehlikeye attı ve bu da onu ABD tarihinin en büyük veri ihlallerinden biri haline getirdi.
Carnegie Mellon ve Antropic’ten araştırmacılar, Equifax ihlalinin arkasındaki stratejiyi saldırıları gerçekleştirmek için kullanılan belirli sistem komutlarına çevirmek için Icalmo adlı bir saldırı aracı geliştirdiler.
Carnegie Mellon Elektrik ve Bilgisayar Mühendisliği Departmanı’nda baş araştırmacı ve doktora adayı olan Brian Singer, hedefin LLMS’in insan yardımına ihtiyaç duymadan bir saldırı planlama yeteneğini ölçmek olduğunu söyledi.
Singer, Cybersecurity Dive’a e -posta yoluyla “İnalmo’nun diğer ağlarda ne kadar iyi genellendiği belli değil. Ancak araştırma makalesinde, 10 küçük işletme ortamında inalmo değerlendirdik” dedi. “10 kişiden 9’unda, LLM’ler saldırılarda kısmen başarılı oldu (örneğin, bazı hassas verileri dışarı atın).”
LLM, saldırı için üst düzey stratejik rehberlik sağlarken, LLM ve LLM olmayan ajanların bir kombinasyonu, araştırmacılara göre istismarları tarama ve dağıtma gibi daha düşük seviyeli görevleri ele aldı.
Antropik Haziran ayında LLMS’nin tam olarak 10 test ağından beşi tehlikeye atıldı ve kısmen diğer dört ağdan ödün verdi. Bu testlerde kullanılan modellerden biri 2021 Sömürge Boru Hattı Fidye Yazılımı SaldırısıYaklaşık bir hafta boyunca yakıt malzemelerini bozan.
Equifax ihlali, nasıl gerçekleştirildiğine dair çok miktarda kamuya açık bilgi nedeniyle simülasyon için seçilmiştir.
Modern savunmaların böyle bir özerk saldırıyı durdurabilip durduramayacağı sorulduğunda, Singer şu anda modern savunmaların ne kadar iyi devam edeceği belirsiz olduğunu söyledi. En büyük endişesinin, birisinin böyle bir saldırıyı ne kadar hızlı ve ucuz bir şekilde düzenleyebileceğiyle ilgili olduğunu söyledi.
Singer, “Şu anda, çok sayıda siber güvenlik savunması insan operatörlerine güveniyor ve bunun makine-zaman ölçeği savunmalarına ne kadar iyi ölçekleneceğinden emin değilim” dedi. “Bu nedenle, şu anda otonom saldırılar ve LLM merkezli otonom savunucular için savunma araştırmalarını araştırıyoruz.”