Yapay Zeka ve Makine Öğrenimi, Yönetişim ve Risk Yönetimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Araçlara İstekli Şirketler Yapay Zekanın Dönüştürücü Gücünü Güvenliğin Önüne Taşıyor
Rashmi Ramesh (raşmiramesh_) •
25 Haziran 2024
Yapay zekayı çalıştırmaya yönelik popüler bir açık kaynak projesini hedef alan bilgisayar korsanları Ollama, henüz yama yapmamışlarsa büyük bir “Sorunla” karşılaşabilirler.
Ayrıca bakınız: 2024 Küresel Tehdit Ortamına Genel Bakış
Wiz’den güvenlik araştırmacıları Pazartesi günü, adı Probllama olan ve muhtemelen bundan daha iyi olamaz olan, kullanımı kolay bir Ollama uzaktan kod yürütme güvenlik açığı keşfettiklerini açıkladı.
CVE-2024-37032 olarak takip edilen kusur, 7 Mayıs’ta bir yama aldı. Wiz, “çok sayıda” örneğin bu ayın başından itibaren yükseltilmediğini söyledi.
Wiz, müşterilerin rekabet avantajı elde etmek için hızla yeni araçları ve altyapıyı benimsediğini, şirketlerin ise yapay zekanın dönüştürücü gücüne odaklanmak adına yapay zeka güvenlik önlemlerini “büyük ölçüde bir kenara bıraktığını” söyledi. Ancak bu araçlar, tehdit aktörleri için “mükemmel hedeflerdir”; çünkü bu araçların gelişim aşamaları genellikle kimlik doğrulama gibi standart güvenlik özelliklerinden yoksundur ve daha genç bir kod tabanında kusurları bulmak nispeten daha kolaydır.
Ollama’nın yerleşik bir kimlik doğrulama süreci yok, bu nedenle araştırmacılar, kullanıcı şirketlerinin kendi güvenlik süreçleri mevcut olmadığı sürece kurulumların internete açık hale getirilmemesini öneriyor. Wiz araştırmacısı Sagi Tzadik, “Kritik sorun yalnızca güvenlik açıkları değil, aynı zamanda bu yeni araçlardaki kimlik doğrulama desteğinin doğal eksikliğidir” dedi.
TorchServe ve Ray Anyscale gibi Ollama’ya benzer diğer araçlar da daha önce RCE kusurlarına karşı savunmasızdı.
Ollama, yapay zeka modellerinin paketlenmesi ve dağıtılması sürecini basitleştirir. Sunucusu, kullanıcıların Ollama’nın kayıt defterinden ve diğer özel kayıtlardan modeller indirmesine olanak tanıyan API uç noktaları da dahil olmak üzere API uç noktaları sağlar.
Meta’nın Llama’sı, Microsoft’un Phi ve Mistral’in modelleri gibi LLM’lerle uyumlu olan Ollama, Docker Hub deposunda ayda yüz binlerce çekme ve GitHub’da 70.000’den fazla yıldızla, bir AI modelinin çalıştırılacağı en popüler projelerden biridir.
Kullanıcılar özel bir kayıt defterinden bir model aldığında, bilgisayar korsanları kötü amaçlı bir bildirim dosyası yerleştirebilir ve potansiyel olarak savunmasız bir Ollama sunucusunu barındıran ortamı tehlikeye atabilir. Saldırganlar, Docker kurulumlarında herkese açık olan Ollama API sunucusuna özel hazırlanmış bir HTTP isteği göndererek bu kusurdan yararlanabilirler.
Tzadik, kusurun sunucu tarafındaki yetersiz doğrulamadan kaynaklandığını söyledi.
“Özel bir kayıt defterinden bir model çekerken – sorgulayarak http://[victim]:11434/api/pull API uç noktası, özet alanında yol geçiş yükünü içeren kötü amaçlı bir bildirim dosyası sağlamak mümkündür” dedi bir e-postada.
Bilgisayar korsanları bu yükü, tehlikeye atılan sistemdeki izinsiz dosyaları okumak ve bozmak ve savunmasız kodu uzaktan yürütmek için kullanabilir. Tzadik, Docker kurulumlarında istismar kolaylığının “son derece şiddetli” olduğunu söyledi.