OWASP Vakfı, LLM’lerde (Büyük Dil Modelleri) Kritik Güvenlik Açıklarının 0.9.0 sürümünü yayımladı.
Geliştiricileri, tasarımcıları, mimarları ve AI modellerinde yer alan diğer profesyonelleri eğitmeye yönelik acil ihtiyacı karşılamak için çığır açan bir girişim ortaya çıktı.
AI tabanlı teknolojiler, otuz yılı aşkın bir süredir kullanımda olan uzun süredir devam eden geleneksel yöntemlerde devrim yaratmak amacıyla çeşitli endüstrilerde geliştirilmektedir.
Bu projelerin kapsamı sadece işi kolaylaştırmak değil, aynı zamanda bu AI tabanlı modellerin potansiyel yeteneklerini öğrenmektir.
Yapay zeka tabanlı projeler üzerinde çalışan kuruluşlar, yaratabilecekleri potansiyel riskleri anlamalı ve yakın gelecekte boşlukları önlemek için çalışmalıdır.
Tehdit aktörleri, siber suç faaliyetlerini yürütmek için topladıkları her bilgi parçasından yararlanır.
LLM’ler için OWASP İlk 10
OWASP 0.9.0 sürümünün yakın zamanda yayınlanmasına göre, en önemli 10 kritik güvenlik açığı aşağıdaki gibidir:
LLM01: Hızlı Enjeksiyon
Bu güvenlik açığı, bir saldırganın hazırlanmış girdiler aracılığıyla bir LLM’nin işlemini manipüle etmesi ve saldırganın idam edilme niyetiyle sonuçlanması durumunda ortaya çıkar.
Doğrudan hızlı enjeksiyon ve dolaylı hızlı enjeksiyon olarak iki tür hızlı enjeksiyon vardır.
- Direkt İstemli Enjeksiyon
- Dolaylı Hızlı Enjeksiyon
Direkt İstemli Enjeksiyon Aksi takdirde “olarak adlandırılırhapishaneden kaçma”, bir saldırgan temeldeki sistem isteminin üzerine yazarsa veya açığa çıkarırsa ortaya çıkar ve bunun sonucunda saldırgan LLM tarafından erişilebilen güvenli olmayan işlevler ve veri depolarıyla etkileşime girer.
Dolaylı Hızlı Enjeksiyon LLM, saldırgan tarafından kontrol edilen harici kaynak girişlerini kabul ederse, konuşmanın saldırgan tarafından ele geçirilmesiyle sonuçlanır. Bu, saldırgana LLM’den hassas bilgiler isteme yeteneği verebilir ve karar verme sürecini manipüle etmek gibi ciddi bir hal alabilir.
LLM02: Güvenli Olmayan Çıktı İşleme
Bu güvenlik açığı, bir uygulama LLM çıktısını temizleme olmadan körü körüne kabul ederse ortaya çıkar; bu, kullanıcı LLM’ye karmaşık bir istem sağlarsa kullanıcıya ek işlevler sağlayabilir.
LLM03: Veri Zehirlenmesi Eğitimi
Bu güvenlik açığı, bir saldırgan veya habersiz bir istemcinin eğitim verilerini zehirlemesi durumunda oluşur; bu da arka kapılar ve güvenlik açıkları sağlanmasına ve hatta LLM’nin güvenliğini, etkililiğini veya etik davranışını tehlikeye atabilir.
LLM04: Model Hizmet Reddi
Potansiyel becerilere veya bir yönteme sahip bir saldırgan, LLM modeliyle etkileşime girerek, olağanüstü yüksek kaynak maliyetleriyle sonuçlanan yüksek miktarda kaynak tüketmesini sağlayabilir. Ayrıca LLM’nin hizmet kalitesinin düşmesine neden olabilir.
LLM05: Tedarik Zinciri Güvenlik Açıkları
Bu güvenlik açığı, LLM uygulamalarındaki tedarik zinciri güvenlik açıklarının üçüncü taraf kitaplıkları, docker kapsayıcılar, temel görüntüler ve hizmet sağlayıcılar dahil olmak üzere tüm uygulama yaşam döngüsünü etkilemesi durumunda ortaya çıkar.
LLM06: Hassas Bilgi İfşası
Bu güvenlik açığı, LLM’nin hassas bilgileri, tescilli algoritmaları veya diğer gizli ayrıntıları kazara açığa çıkarması ve bunun sonucunda Fikri Mülkiyete yetkisiz erişim, korsanlık ihlalleri ve diğer güvenlik ihlalleri olması durumunda ortaya çıkar.
LLM07: Güvenli Olmayan Eklenti Tasarımı
LLM eklentileri, LLM’ler tarafından çağrıldıkları ve bağlam içinde otomatik olarak çağrıldıkları ve zincirlendikleri için daha az uygulama kontrolüne sahiptir. Güvenli olmayan eklenti Tasarımı, güvenli olmayan girişler ve yetersiz erişim kontrolü ile karakterize edilir.
LLM08: Aşırı Ajans
Bu güvenlik açığı, LLM’ler, LLM’lerden beklenmeyen çıktılar nedeniyle zarar verici eylemler gerçekleştirme yeteneğine sahip olduğunda ortaya çıkar. Bu güvenlik açığının temel nedeni aşırı izin, işlevsellik veya özerkliktir.
LLM09: Aşırı Güven
Bu güvenlik açığı, uygun bir gözetim olmadan karar verme veya içerik oluşturma için LLM’lere güvenildiğinde ortaya çıkar. LLM’ler yaratıcı ve bilgilendirici olabilse de, hala gelişim aşamasındadırlar ve yanlış veya hatalı bilgiler sağlarlar. Geçmiş kontrolü yapılmadan kullanılırsa bu, itibarın zedelenmesine, yasal sorunlara veya yanlış iletişimlere neden olabilir.
LLM10: Model Hırsızlığı
Bu, tehdit aktörleri fikri mülkiyeti ele geçirdiğinde, fiziksel olarak çaldığında veya hırsızlık yaptığında LLM’lere yetkisiz erişim ve bunların sızdırılması anlamına gelir. Bu, ekonomik kayıplara, modelin yetkisiz kullanımına veya hassas bilgilere yetkisiz erişime neden olabilir.
OWASP, LLM geliştiren veya kullanan kuruluşlar için yüksek öncelik verilmesi gereken bu güvenlik açıkları hakkında eksiksiz bir rapor yayınladı. Tüm kuruluşların uygulama geliştirme yaşam döngüleri oluştururken güvenliği dikkate almaları önerilir.