Yakın zamanda yapılan bir çalışmada siber güvenlik araştırmacıları, büyük dil modelleri (LLM’ler) ile etkileşimde bulunan kullanıcıların gizliliğini tehdit eden yeni bir yan kanal saldırısını ortaya çıkardı.
“InputSnatch” olarak adlandırılan saldırı, LLM çıkarımını optimize etmek için yaygın olarak kullanılan önbellek paylaşım mekanizmalarındaki zamanlama farklılıklarından yararlanıyor.
KOBİ ve MSP Siber Güvenlik Liderleri için 2024 MITRE ATT&CK Sonuçlarından Yararlanma – Ücretsiz Web Seminerine Katılın
Veri Hırsızlığı İçin Önbellekten Yararlanma
Araştırmacılar, birçok büyük LLM sağlayıcısı tarafından kullanılan hem önek önbelleğe almanın hem de anlamsal önbelleğe almanın, kullanıcıların istemeden yazdıkları hakkında bilgi sızdırabildiğini buldu. Saldırganlar, yanıt süresini ölçerek özel kullanıcı sorgularını endişe verici bir doğrulukla yeniden oluşturma potansiyeline sahiptir.
Baş araştırmacı şunları söyledi: “Çalışmamız, performansı artırmanın getirdiği güvenlik açıklarını gösteriyor. Bu, LLM çıkarımını iyileştirmenin yanı sıra gizlilik ve güvenliği ilk sıraya koymanın ne kadar önemli olduğunu gösteriyor.”
“LLM’lerin çıkarımında girdi hırsızlığını gerçekleştirmek için yeni, zamanlamaya dayalı bir yan kanal saldırısı öneriyoruz. Önbellek tabanlı saldırı, önbelleğe alınmış kullanıcı sorgularını vurup çalmak için geniş bir arama alanında aday girdiler oluşturma zorluğuyla karşı karşıyadır. Bu zorlukların üstesinden gelmek için iki temel bileşen öneriyoruz.”
“Girdi oluşturucu, kelimelerin birbirleriyle nasıl ilişkili olduğunu öğrenmek için makine öğrenimi ve LLM tabanlı yöntemleri kullanıyor ve ayrıca genelleştirilmiş girdi yapısı için optimize edilmiş arama mekanizmalarına da sahip.”
Saldırı çerçevesi çeşitli senaryolarda etkileyici sonuçlar gösterdi:
- Önbellek isabet önek uzunluklarını belirlemede %87,13 doğruluk
- Tıbbi soru cevap sistemlerinde hastalık girdilerinin tam olarak çıkarılmasında %62 başarı oranı
- Hukuki danışmanlık hizmetleri için %100’e varan semantik çıkarım başarı oranları
Bu bulgular, sağlık, finans ve hukuk hizmetleri gibi hassas alanlardaki yüksek lisans destekli uygulamalarla kullanıcı etkileşimlerinin mahremiyetine ilişkin önemli endişeleri artırmaktadır.
Araştırma ekibi, LLM hizmet sağlayıcılarının ve geliştiricilerinin önbelleğe alma stratejilerini yeniden değerlendirmeleri gerektiğini vurguluyor. Zamanlamaya dayalı yan kanal saldırılarıyla ilişkili riskleri azaltmak için gizliliği koruyan güçlü tekniklerin uygulanmasını öneriyorlar.
Yüksek Lisans’lar çeşitli sektörlerde giderek daha önemli bir rol oynamaya devam ederken, bu çalışma yapay zeka topluluğunu performans optimizasyonu ile kullanıcı gizliliği arasındaki hassas dengeyi ele almaya çağırıyor.
Analyze cyber threats with ANYRUN's powerful sandbox. Black Friday Deals : Get up to 3 Free Licenses.