Checkmarx tehdit araştırma ekibi, Hackread.com ile paylaştığı bir raporda, arka kapıları barındıran güvenilir görünen yapay zeka modellerinin oluşturduğu tehlikeleri ortaya çıkardı. Lama draması olarak adlandırılan; güvenlik açığı llama_cpp_python paketini etkileyerek saldırganların rastgele kod yürütmesine ve veri ve operasyonların güvenliğini tehlikeye atmasına olanak tanıyor.
Güvenlik açığı, Hugging Face gibi güvenilir platformlarda 6.000’den fazla yapay zeka modelini etkiliyor ve yapay zeka platformlarının ve geliştiricilerin tedarik zinciri güvenliği sorunlarını çözme ihtiyacını vurguluyor.
Güvenlik açığının ilk olarak X’te (Twitter) @retr0reg tanıtıcısı olarak bilinen bir siber güvenlik araştırmacısı tarafından keşfedildiğini belirtmek önemlidir.
Yüksek Lisans popüler Bağımlılık Llama-cpp-Python RCE 0 günlük✅
15. doğum günümden bir hafta sonra buldum. En sevdiğiniz langchain, lama-index dahil olmak üzere yaklaşık 1,3k Proje gerçekleştirilir (GH Arama yoluyla).
Bu harika hissettirdi ama aynı zamanda Tedarik Zinciri Saldırısının ML/AI’de ne kadar etkili olabileceğini de hatırlatıyor. pic.twitter.com/UUXJOBP94Z
— retr0reg (@retr0reg) 10 Mayıs 2024
Güvenlik Açığı Ayrıntıları
CVE-2024-34359, “llama_cpp_python” paketindeki Jinja2 şablon motorunun kötüye kullanılmasından kaynaklanan ve saldırganların paketin Jinja2 kullanımındaki bir açıktan yararlanmasına olanak tanıyan kritik bir güvenlik açığıdır.
Sorun, korumalı alana alma gibi uygun güvenlik önlemleri olmadan gerçekleştirilen şablon veri işlemededir. Jinja2 korumalı alanı desteklemesine rağmen bu durumda uygulanmadı; bu da ana sistemde rastgele kod yürütülmesine yol açabilir.
Bilginize, Jinja2, şablon oluşturma ve HTML oluşturma için kullanılan bir Python kitaplığıdır ancak doğru yapılandırılmadığı takdirde güvenlik riski oluşturabilir. Bunun tersine, llama_cpp_python paketi Python’un kolaylığını C++’ın performansıyla bütünleştirir. Büyük veri hacimlerini işleyen karmaşık yapay zeka modelleri için idealdir ancak şablon enjeksiyon saldırılarına maruz kalabilir.
Risk değerlendirmesi
Checkmarx’ın raporuna göre bu güvenlik açığı, yapay zeka sistemlerinin hassas veri kümelerini işlemesi nedeniyle kritik önem taşıyor. Bu tür güvenlik açıkları, onları yetkisiz eylemler, veri hırsızlığı, sistemin tehlikeye atılması ve operasyonel kesinti gibi risklere maruz bırakarak bireysel gizliliği ve kurumsal bütünlüğü etkiler.
Tedarik zincirleri üçüncü taraf kitaplıklara ve çerçevelere bağlı olduğundan yapay zeka sistemlerinin güvenliği çok önemlidir. Yapay zeka sistemlerinin sistemler arası entegrasyon yoluyla genişletilmiş saldırı yüzeyi göz önüne alındığında, tek bir bileşenin güvenlik açığı tüm sistemi etkileyebilir.
İyi haber şu ki güvenlik açığı, korumalı alan oluşturma ve giriş doğrulama önlemlerinin eklenmesiyle 0.2.72 sürümünde düzeltildi. Kuruluşların sistem güvenliği için derhal güncelleme yapmaları tavsiye edilir.
Yine de giderek birbirine bağlanan dünyamızda bir riskin altını çiziyor. Birçok yapay zeka modeli çevrimiçi olarak paylaşılıyor ve eğer birinde bu zayıflık varsa virüs gibi yayılabilir. Bu, geliştiricilerin ve yapay zeka platformlarının yazılım tedarik zincirindeki güvenlik boşluklarına karşı dikkatli olmaları için bir uyandırma çağrısıdır. Tıpkı yemek pişirmeden önce malzemelerinizi kontrol ettiğiniz gibi, kullandığınız yazılımın da güvenli olduğundan emin olmak önemlidir.
İLGİLİ KONULAR
- Tedarik Zinciri Saldırısı Telegram ve AWS Alibaba Bulut Kullanıcılarını Etkiledi
- Tedarik Zinciri Saldırısı: Kötü Amaçlı Yükler İçin Kullanılan S3 Kovaları
- Yeni LLMjacking Saldırısı, Bilgisayar Korsanlarının Kâr Amacıyla Yapay Zeka Modellerini Ele Geçirmesine Olanak Sağlıyor
- Tedarik Zinciri Saldırısında Binlerce GitHub Deposu Klonlandı
- Palo Alto Yamaları Python Arka Kapısı Tarafından İstismar Edilen 0 Günlük (CVE-2024-3400)