Çeşitli siber güvenlik tehditleri arasında ShellTorch saldırısı, PyTorch Model Sunucusunun uzaktan kod yürütülmesine maruz kalmasına neden olur.
Oligo Security araştırma ekibindeki siber güvenlik araştırmacıları, PyTorch Model Sunucusu olarak da bilinen bir dizi kritik güvenlik açığını ortaya çıkardı. MeşaleServisi.
Araştırmacılar tarafından ShellTorch olarak adlandırıldı; Bu güvenlik açıkları, uzaktan kod yürütmeye ve olası sunucu devralmalarına kapıyı açtığından, yapay zeka (AI) ve makine öğrenimi (ML) topluluğu için endişe vericidir.
PyTorch, Torch kütüphanesini temel alan bir makine öğrenimi çerçevesidir ve bilgisayarlı görme, doğal dil işleme ve daha fazlasını kapsayan çok yönlü uygulamalarıyla tanınır. İlk olarak Meta AI tarafından oluşturuldu, bu etkili çerçeve artık Linux Vakfı’nda yerini buldu. PyTorch, sürekli gelişen yapay zeka ve makine öğrenimi teknolojileri alanında temel bir bileşendir.
Yüksek Profilli Kuruluşlar Üzerinde Büyük Etki
Oligo Security’nin araştırması, bazıları dünyanın en büyük ve en önde gelen kuruluşlarına ait olan, internette kamuya açık hale getirilen binlerce TorchServe örneğini tespit etti.
Bu keşif, bu kuruluşları yetkisiz erişime ve kötü amaçlı yapay zeka modellerinin eklenmesine karşı savunmasız bırakarak milyonlarca hizmet ve bunların son kullanıcıları için önemli bir tehdit oluşturuyor.
PyTorch’un Hakimiyeti Saldırganları Çekiyor
PyTorch, bir güç merkezi makine öğrenme Yapay zeka sektöründe yaygın olarak benimsenen araştırma, tehdit aktörlerinin dikkatini çekti. Oligo Security’nin araştırması, bu yeni kritik güvenlik açıklarının herhangi bir kimlik doğrulaması olmadan uzaktan kod yürütülmesine izin vererek PyTorch tabanlı sistemleri doğrudan risk altına soktuğunu ortaya koyuyor.
TorchServe Ekosistemi
PyTorch için popüler bir model sunma çerçevesi olan TorchServe, yapay zeka ortamında geniş bir kullanıma sahiptir. Meta ve Amazon tarafından sağlanan bu açık kaynak kitaplık, aylık 30.000’den fazla PyPi indirmesine ve bir milyondan fazla DockerHub çekme işlemine sahiptir.
Ticari kullanıcıları arasında Walmart, Amazon, OpenAI, Tesla, Azure, Google Cloud, Intel ve çok daha fazlası gibi endüstri devleri yer alıyor. Ayrıca TorchServe, KubeFlow, MLFlow ve AWS Neuron gibi projelerin temelini oluşturuyor ve önde gelen bulut sağlayıcıları tarafından yönetilen bir hizmet olarak sunuluyor.
Güvenlik Açıklarını Ortaya Çıkarma
Oligo Security’nin bulguları, 0.8.2’den önceki tüm TorchServe sürümlerini etkileyen güvenlik açıklarını vurguluyor. Bu güvenlik açıkları sırayla kullanıldığında uzaktan kod yürütülmesine neden olur, saldırganlara kurbanların sunucuları ve ağları üzerinde tam kontrol sağlar ve hassas verilerin sızmasına olanak tanır.
ShellTorch Saldırısının Anatomisi
Durumun ciddiyetini anlamak için bu güvenlik açıklarının nasıl bir araya gelerek ShellTorch saldırısını oluşturduğunu anlamak çok önemlidir:
Güvenlik Açığı #1 – Yönetim Konsolunun Kötüye Kullanılması: Kimliği Doğrulanmamış Yönetim Arayüzü API’sinin Yanlış Yapılandırması
TorchServe, harici erişime izin veren yanlış yapılandırma güvenlik açığına sahip bir yönetim API’sini açığa çıkarır. Varsayılan yapılandırmada zararsız gibi görünen bu yanlış yapılandırma, kötü niyetli aktörlere kapıyı açık bırakıyor.
Güvenlik Açığı #2 – Kötü Amaçlı Model Ekleme: Uzaktan Kod Yürütülmesine Yol Açan Uzak Sunucu Tarafı İstek Sahteciliği (SSRF)
TorchServe’in varsayılan yapılandırması tüm etki alanlarını geçerli URL’ler olarak kabul eder ve bu da SSRF güvenlik açığına yol açar. Saldırganlar, kötü amaçlı bir model yüklemek için bundan yararlanabilir ve bu da rastgele kod yürütülmesine neden olabilir.
Güvenlik Açığı #3 – Açık Kaynak Kitaplığının Güvenli Olmayan Kullanımından Yararlanma: Java Seri Kaldırma Uzaktan Kod Yürütme
TorchServe’deki SnakeYAML kütüphanesinin kötüye kullanılması, saldırganların güvenli olmayan bir seri durumdan çıkarma saldırısını tetiklemesine ve hedef makinede kod yürütülmesine olanak sağlamasına olanak tanıyan bir kapı açar.
Sonuç: Tam Devralma
Bu güvenlik açıkları toplu olarak saldırganlara, kimlik doğrulamayı atlayarak yüksek ayrıcalıklarla uzaktan kod yürütme yetkisi verir. Saldırganlar içeri girdikten sonra küresel olarak TorchServe sunucularını tehlikeye atabilir ve potansiyel olarak on binlerce IP adresini etkileyebilir.
Yapay Zekada Güvenlik Riskleri: Etkileri ve Sonuçları
Açık kaynaklı araçların yapay zeka üretim ortamlarına entegrasyonu, yenilik ve güvenlik açığı arasında hassas bir denge oluşturuyor. Oligo’nun bulguları, tedarik zincirindeki güvenlik açıklarına, model hırsızlığına ve model enjeksiyonuna değinen son OWASP LLM Uygulamaları için İlk 10’da dile getirilen endişeleri yansıtıyor.
Amazon ve META tarafından yapılan güncellemeler
Oligo Güvenlik’e göre rapor2 Ekim 2023’te hem Amazon hem de Meta, ShellTorch güvenlik açıklarına yanıt olarak hızlı önlemler aldı. Amazon proaktif olarak kullanıcıları için tehdidin kritik niteliğini vurgulayan bir güvenlik tavsiyesi yayınladı. Eş zamanlı olarak Meta, varsayılan yönetim API’sinin hatalı yapılandırmasını derhal ele alarak harekete geçti ve PyTorch ekosistemindeki bu güvenlik açığını hafifletmek için önlemler uyguladı.
Azaltma: ShellTorch Saldırılarına Karşı Koruma
TorchServe sistemlerini ShellTorch saldırılarına karşı korumak için üç temel adım gereklidir:
- Sürüm 0.8.2 veya Üstüne Güncelleme: Bu güncelleme SSRF güvenlik açığı hakkında bir uyarı eklese de riski azaltmada kritik bir ilk adımdır.
- Yönetim Konsolunu Yapılandırın: Yönetim konsoluna yalnızca güvenilir kaynaklardan erişilebildiğinden emin olmak için yapılandırmayı ayarlayın ve saldırganların uzaktan erişimini önleyin.
- Kontrol Modeli Getirme: TorchServe’ün yalnızca güvenilir alanlardan model getirme yeteneğini sınırlandırarak kötü amaçlı model enjeksiyonlarını önleyin.
Sonuç olarak, bu güvenlik açıklarının keşfi, siber güvenlik tehditlerini ön plana çıkarıyor. Yapay zeka ve makine öğrenimi sektörü. Sektör hızlı bir şekilde büyümeye devam ederken kuruluşların yapay zeka altyapılarındaki potansiyel güvenlik risklerini ele alma konusunda dikkatli ve proaktif olmaları gerekiyor.
İLGİLİ KONULAR
- mLearning – Hareket Halinde Dinamik Eğitim Programlarının Geleceği
- Buluta Geçiş Süreçlerini Kolaylaştırmada DevOps’un Rolü
- GenAI’yi İşletmenizde Kullanıyor musunuz? İşte bilmen gereken
- Mozilla, Firefox ve Thunderbird’deki Kritik Güvenlik Açığı Düzeltmek İçin Acele Ediyor
- WinRAR kullanıcıları, 0 günlük güvenlik açığı bulunduğunda yazılımınızı günceller