2024’teki siber güvenlik manzarası, AI ile ilgili tehditlerde önemli bir artışa tanık oldu ve kötü niyetli aktörler giderek daha fazla büyük dil modellerini (LLMS) hedefliyor ve sömürüyor.
Kela’nın yıllık “Siber Suç Durumu” raporuna göre, chatgpt, copilot ve İkizler gibi popüler LLM’lerin bir önceki yıla göre% 94 artması hakkındaki tartışmalar.
Yeraltı forumlarında jailbreaking teknikleri çoğalır
Siber suçlular, hackforums ve XSS gibi platformlarda özel bölümler ortaya çıkan yeraltı forumlarında yeni jailbreak tekniklerini aktif olarak paylaşıyor ve geliştiriyorlar.
Bu teknikler, kimlik avı e-postaları ve kötü amaçlı yazılım kodu gibi kötü niyetli içeriğin oluşturulmasını sağlayan LLM’lerin yerleşik güvenlik sınırlamalarını atlamayı amaçlamaktadır.
Kela tarafından tanımlanan en etkili jailbreak yöntemlerinden biri, güvenlik testlerinin% 27’sini başarıyla atlayan kelime dönüşümüydü.
Bu teknik, hassas kelimeleri eşanlamlılarla değiştirmeyi veya tespitten kaçınmak için bunları alt tabakalara bölmeyi içerir.
Meyveden çıkarılan LLM hesaplarında büyük artış
Raporda, popüler LLM platformları için tehlikeye atılan hesapların sayısında şaşırtıcı bir artış ortaya çıktı.
Chatgpt, 2023’te 154.000 uzlaştırılmış hesaptan 2024’te 3 milyona kadar endişe verici bir artış gördü ve bu da yaklaşık%1.850 büyümeyi temsil etti.
Benzer şekilde, Gemini (eski adıyla Bard) 12.000 ila 174.000 uzlaştırılmış hesap,% 1.350 artışla bir artış yaşadı.
Infostealer kötü amaçlı yazılım yoluyla elde edilen bu tehlikeye atılmış kimlik bilgileri, LLM’lerin ve ilgili hizmetlerin daha fazla kötüye kullanılması için kaldırılabilecekleri için önemli bir risk oluşturmaktadır.
LLM teknolojileri çeşitli platformlarda popülerlik ve entegrasyon kazanmaya devam ettikçe, Kela 2025’te yeni saldırı yüzeylerinin ortaya çıkmasını öngörüyor.
Hızlı enjeksiyon, üretken AI uygulamalarına karşı en kritik tehditlerden biri olarak tanımlanırken, otonom eylemler ve karar verme yeteneğine sahip Ajan AI, yeni bir saldırı vektörü sunmaktadır.
Rapor, kuruluşların güvenli LLM entegrasyonları, gelişmiş derinlik tespit teknolojileri ve AI ile ilgili tehditler hakkında kapsamlı kullanıcı eğitimi dahil olmak üzere sağlam güvenlik önlemleri uygulama ihtiyacını vurgulamaktadır.
Siber suçlar ve devlet destekli faaliyetler arasındaki çizgi bulanıklaşmaya devam ettikçe, proaktif tehdit zekası ve uyarlanabilir savunma stratejileri, AI destekli siber tehditlerin ortaya koyduğu gelişen riskleri azaltmada çok önemli olacaktır.
Tehdit İstihbarat Araması ile Gerçek Dünyanın Kötü Amaçlı Bağlantıları ve Kimlik Yardım Saldırılarını Araştırın-Ücretsiz Deneyin