Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
1.100’den fazla Ollama sunucusu Kurumsal Modelleri Bırakın Savunmasız: Cisco Talos
Rashmi Ramesh (Rashmiramesh_) •
3 Eylül 2025
Yapay zeka modellerini yerel olarak dağıtabilen bir araç çalıştıran binden fazla sunucu açık internete maruz kalır, bu da onları kötüye kullanmaya ve potansiyel saldırılara karşı savunmasız bırakır.
Ayrıca bakınız: Ping Kimliği: Her Dijital Ana Güven
Ollama AI platformu, kuruluşların masaüstü makinelerinde veya sunucularda büyük dil modelleri çalıştırmasına olanak tanır. Cisco Talos’tan araştırmacılar, güvenli olmayan Ollama örneklerini aramak için Shodan tarama aracını kullandılar ve herkese açık olarak erişilebilir olan 1.100’den fazla tanımladılar. Yaklaşık% 20’si “yetkisiz erişime duyarlı modelleri aktif olarak barındırıyordu.” Kalanlar şu anda modeller çalıştırmıyordu, ancak “yetkisiz model yüklemeleri veya yapılandırma manipülasyonu yoluyla sömürüye duyarlıydı.”
Yetkisiz bir kullanıcı, Modeli veya API’sını sorgulayabilir, hesaplama kaynaklarını tüketebilir veya sunucu barındırılan sistemlerle bağlantılıysa bulut kullanım ücretleri oluşturabilir. Bu sunucuların birçoğu, ana bilgisayarları tanımlayabilen bilgileri de açığa çıkararak hedeflenen saldırılara kapıyı açar.
Saldırganlar ayrıca model çıkarma saldırıları başlatabilir. Teminatsız bir makine öğrenimi sunucusuna tekrarlanan sorgular, rakiplerin parametrelerini yeniden yapılandırmasına izin verebilir. Jailbreaking ve içerik kötüye kullanımı, GPT-4, Lama veya Mistral gibi modellerin bütünlüğünü tehdit ediyor, çünkü saldırganlar büyük dil modellerini kötü amaçlı yazılım kodu, yanlış bilgilendirme veya kısıtlı içerik gibi kötü amaçlı çıktı üretmeye zorlayabilirler. Korunmasız uç noktalar, rakiplerin kötü amaçlı yükler yüklemelerini veya güvenilmeyen modelleri uzaktan yüklemelerini sağlayabilir.
Aktif modellerin eksikliği riski ortadan kaldırmaz. Açıkta kalan arayüzler, kaynak tükenmesini, hizmetin reddini veya yanal hareketi içeren saldırılarda hala kullanılabilir.
Cisco Talos, maruz kalan Ollama örneklerinin dezavantajları konusunda uyaran ilk şirket değil. Saldırı Yüzey Yönetimi Firması UpGuard daha önce maruz kalan Ollama örneklerini incelemiş ve yanlış yapılandırmaların sistemleri yetkisiz erişim, veri eksfiltrasyonu veya çekişmeli manipülasyona tabi bırakabileceği konusunda uyarmıştır. Hizmet reddi, model hırsızlığı veya model zehirlenmesi için sömürülebilen altı kritik kusuru işaretledi. Trend Micro, 10.000’den fazla Ollama sunucusunun, baskı altındaki geliştiricilerin acele AI dağıtımlarının sonucu olan kimlik doğrulama katmanı olmadan kamuya açık olduğunu tespit etti (bkz: bkz:: Haftalar önce yamalı, AI aracındaki rce Bug hala bir ‘probllam’).
Cisco Talos, bulgularının “AI sistemlerinin konuşlandırılmasında erişim kontrolü, kimlik doğrulaması ve ağ izolasyonu gibi temel güvenlik uygulamalarının yaygın bir ihmalini vurguladığını” söyledi. İhmal genellikle, ortaya çıkan teknolojileri bilgilendirmeden veya güvenlik ekiplerini bilgilendirmeden, kısıtlamalar veya yavaş ilerleme uygulayabileceğinden korktukları için acele eden kuruluşlardan kaynaklanmaktadır.
Openai uyumlu API’lerin tekdüze benimsenmesi, sorunu şiddetlendirerek saldırganların minimum adaptasyonla platformlar arasındaki istismar girişimlerini ölçeklendirmelerini sağlıyor. Şirket, “Standart Güvenlik Temelleri, Otomatik Denetim Araçları ve LLM Altyapısı için Geliştirilmiş Dağıtım Kılavuzu” geliştirilmesini istedi.