Kritik güvenlik açıkları olarak AI altyapısını hedefleyen siber saldırılarda artış ortaya çıkıyor


Güvenlik araştırmacıları, Trend Micro’nun sıfır günlük girişimi tarafından düzenlenen 2025 PWN2own Berlin etkinliği sırasında yapılan şaşırtıcı bir keşifte, yedisi yapay zeka altyapısına açıkça yönlendirilen 28 farklı sıfır günlük güvenlik açığı keşfetti.

Bu açılış AI kategorisi, geliştirici araç setleri, vektör veritabanları ve model yönetimi çerçevelerine odaklandı ve büyük dil modellerini ve ajanik AI uygulamalarını destekleyen sistemlerin kırılganlığını vurguladı.

Geri alınmış bir nesil için açık kaynaklı bir vektör veritabanı entegre olan Chroma DB’ye karşı istismar, devam eden geliştirme artefaktlarından yararlandı, yetkisiz veri erişimini ve potansiyel sistem uzlaşmasını sağladı.

AI ekosistemlerinde sıfır gün zayıf yönleri

Benzer şekilde, birden fazla ekip, Nvidia’nın Triton Etim Sunucusunda zincirlenmiş güvenlik açıkları, rasgele veriler yüklemek için karışık hatalardan yararlanarak, Kubernetes tarafından devredilen ortamlarda birbirine bağlı bileşenlerin tehlikelerinin altını çizdi.

Wiz Research’in eski bir LUA alt sisteminden kaynaklanan Redis’in vektör depolama yeteneklerinde kullanılmayan kullanımı, dikkatsiz üçüncü taraf kütüphanelerin risklerini daha da vurgularken, NVIDIA konteyner araç setine yapılan saldırılar, konteynerleştirilmiş kurulumlar içindeki harici değişken başlatma işlemlerinde kusurları ortaya çıkardı.

AI altyapısı
Redis’e karşı bir UAF güvenlik açığı başarıyla kullanıldı

Trend Micro’nun araştırmaları, hızlı güncelleme döngüsü nedeniyle ikincisinde hiçbir rekabet girişimine rağmen gerçek dünyaya maruz kalma risklerini artırarak 200’den fazla korunmasız Chroma sunucusu ve binlerce maruz kalan Ollama örneği tespit etti.

Cezai silahlanma artıyor

Geleneksel yazılım kusurlarının ötesinde, Microsoft 365 Copilot’ta hassas veri açığa çıkmasını riske atan CVE-2025-32711’de görüldüğü gibi AI’ya özgü güvenlik açıkları çoğalıyor.

Trend Micro’nun Pandora kavram kanıtı ajanı, kullanıcı kısıtlamalarına rağmen veri sızıntılarını veya SQL enjeksiyonunu etkinleştirmek için korkulukları atlayarak kötü niyetli web içeriği veya veritabanı sorguları yoluyla dolaylı hızlı enjeksiyonlar gösterdi.

Deepseek-R1, kimlik avı için bağlantı tuzakları, görünmez unicode enjeksiyonları ve sistem istemi açıklaması için hızlı sızıntı (peak) dahil olmak üzere gelişmiş hızlı saldırılar hızla gelişmektedir, başarı oranları büyük LLM’lerde% 50’yi aşmaktadır.

AI altyapısı
LLM ile çalışan bir AI ajanının tipik bileşenleri için güvenlik zorlukları ve önerilen kontroller

Siber suçlular, kimlik avı, romantizm dolandırıcılığı ve iş e -posta uzlaşmasında otomatik çeviri için üretken AI kullanarak bunları stratejik kazançlar için kullanırken, derin yapraklar kripto para platformlarında sanal kaçırma, sekstür ve ekkc bypass’ı kolaylaştırıyor.

Yeraltı pazarları, hizmet olarak jailbreak ve Deep-Live Cam gibi araçlar sunar, doğrulama sistemlerinde AI’ya karşı AI çukurlaştırır ve bypass hizmetleri 600 dolara mal olur.

Rapora göre, ajan AI otonom, çok aşamalı akıl yürütme ve kendi kendine öğrenmeye doğru ilerledikçe, açıkta kalan API’lardan, üçüncü taraf araçlardan ve potansiyel ajan ağlarından yeni riskler ortaya çıkıyor, sıfır-tröst mimarileri ve katmanlı güvenlik için AI yaşam döngüsü boyunca katmanlı güvenlik.

Trend Micro’nun, otomatik tehdit yanıtı ve AI tedarik zinciri güvenliği için Cosai gibi işbirlikleri için Vision One ile entegre edilmiş açık kaynaklı Cybertron Ajanı da dahil olmak üzere trend, bunları azaltmayı hedefliyor.

En iyi uygulamalar, yazılım bileşenlerinin titiz stoklarını, düzenli denetimleri, giriş doğrulaması ve istismarları önlemek için kırmızı ekipleri içerir.

Güvenlik liderlerinin% 93’ü günlük AI saldırıları ve% 66’sı AI’yi siber güvenliğin en iyi yıkıcısı olarak izleyerek, kuruluşların inovasyonu artan tehdit manzarasına karşı dayanıklılıkla dengelemek için proaktif önlemleri yerleştirmesi gerekiyor.

Find this News Interesting! Follow us on Google News, LinkedIn, and X to Get Instant Updates!



Source link