Siber güvenlik araştırmacıları, Ollama’nın açık kaynaklı yapay zeka (AI) altyapı platformunu etkileyen ve uzaktan kod yürütmek için kullanılabilecek bir yama güvenlik kusurunun ayrıntılarını açıkladı.
Şu şekilde izlendi: CVE-2024-37032Güvenlik açığı, bulut güvenlik firması Wiz tarafından Probllama olarak kodlandı. 5 Mayıs 2024’teki sorumlu açıklamanın ardından sorun, 7 Mayıs 2024’te yayınlanan 0.1.34 sürümünde giderildi.
Ollama, büyük dil modellerini (LLM’ler) Windows, Linux ve macOS cihazlarında yerel olarak paketlemeye, dağıtmaya ve çalıştırmaya yönelik bir hizmettir.
Sorunun özünde, bir saldırganın sunucudaki rastgele dosyaların üzerine yazmak için kullanabileceği ve sonuçta uzaktan kod yürütülmesine yol açabilecek bir yol geçiş hatasıyla sonuçlanan yetersiz giriş doğrulama durumuyla ilgilidir.
Bu eksiklik, tehdit aktörünün başarılı bir şekilde yararlanabilmesi için Ollama API sunucusuna özel hazırlanmış HTTP istekleri göndermesini gerektiriyor.
Özet alanında bir yol geçiş yükünü içeren kötü amaçlı bir model bildirim dosyası sağlamak için, resmi kayıt defterinden veya özel bir depodan bir model indirmek için kullanılan API uç noktası “/api/pull”dan özellikle yararlanır.
Bu sorun yalnızca sistemdeki rastgele dosyaları bozmak için değil, aynı zamanda dinamik bağlayıcıyla (“ld.so”) ilişkili bir yapılandırma dosyasının (“etc/ld.so.preload”) üzerine yazılarak uzaktan kod yürütülmesini sağlamak için de kötüye kullanılabilir. sahte bir paylaşılan kitaplık eklemek ve herhangi bir programı çalıştırmadan önce her zaman başlatmak için.
Varsayılan Linux kurulumlarında, API sunucusunun localhost’a bağlanması nedeniyle uzaktan kod yürütme riski büyük ölçüde azalırken, API sunucusunun herkese açık olduğu docker dağıtımlarında durum böyle değildir.
Güvenlik araştırmacısı Sagi Tzadik, “Sunucu ‘kök’ ayrıcalıklarıyla çalıştığı ve varsayılan olarak ‘0.0.0.0’ı dinlediği için bu sorun Docker kurulumlarında son derece ciddi; bu da bu güvenlik açığından uzaktan yararlanılmasına olanak sağlıyor” dedi.
Ollama’nın doğası gereği kimlik doğrulama eksikliği, bu durumun bir saldırganın genel erişime açık bir sunucudan yararlanarak yapay zeka modellerini çalmasına veya kurcalamasına ve kendi kendine barındırılan yapay zeka çıkarım sunucularını tehlikeye atmasına olanak tanımasını da daha da karmaşık hale getiriyor.
Bu aynı zamanda bu tür hizmetlerin, kimlik doğrulamalı ters proxy’ler gibi ara yazılımlar kullanılarak güvence altına alınmasını da gerektirir. Wiz, herhangi bir koruma olmadan çok sayıda AI modelini barındıran 1000’den fazla Ollama’nın açıkta kalan örneğini tespit ettiğini söyledi.
Tzadik, “CVE-2024-37032, modern yapay zeka altyapısını etkileyen, kullanımı kolay bir uzaktan kod yürütmedir” dedi. “Kod tabanı nispeten yeni olmasına ve modern programlama dillerinde yazılmış olmasına rağmen, Yol Geçişi gibi klasik güvenlik açıkları sorun olmaya devam ediyor.”
Bu gelişme, yapay zeka güvenlik şirketi Koruma Yapay Zeka’nın, bilgilerin ifşa edilmesine, kısıtlı kaynaklara erişime, ayrıcalık artışına ve sistemin tamamen ele geçirilmesine yol açabilecek kritik sorunlar da dahil olmak üzere çeşitli açık kaynaklı yapay zeka/makine öğrenimi araçlarını etkileyen 60’tan fazla güvenlik kusuru konusunda uyarmasıyla gerçekleşti.
Bu güvenlik açıklarından en ciddi olanı, Intel Neural Compressor yazılımında bulunan ve saldırganların ana sistemden rastgele dosyalar indirmesine olanak tanıyan bir SQL enjeksiyon kusuru olan CVE-2024-22476’dır (CVSS puanı 10,0). Bu sorun 2.5.0 sürümünde giderildi.