Vanna.AI kütüphanesinde, SQL veritabanlarını hızlı enjeksiyon teknikleri yoluyla potansiyel uzaktan kod yürütme (RCE) saldırılarına maruz bırakan kritik bir güvenlik açığı ortaya çıkarıldı. CVSS puanı 8,1 olan ve CVE-2024-5565 olarak izlenen bu Vanna AI güvenlik açığı, kötü niyetli aktörlerin, keyfi komutları yürütmek için büyük dil modellerinden (LLM’ler) yararlanarak, Vanna.AI’nin Vanna.AI’nin “sorma” işlevindeki istemleri manipüle etmesine olanak tanır.
Vanna.AI, doğal dil istemlerini SQL sorgularına dönüştürerek SQL veritabanlarıyla etkileşimi basitleştirmek için tasarlanmış Python tabanlı bir makine öğrenimi kitaplığıdır. Yüksek Lisans’ların kolaylaştırdığı bu işlevsellik, kullanıcıların yalnızca soru sorarak veritabanlarını sorgulamasına olanak tanır.
Vanna AI Güvenlik Açığı Uzaktan Kod Çalıştırmaya (RCE) Yol Açıyor
Vanna AI güvenlik açığı ilk olarak JFrog’daki siber güvenlik araştırmacıları tarafından tespit edildi. “Sor” işlevine kötü amaçlı istemler enjekte ederek saldırganların güvenlik kontrollerini atlatabileceğini ve kütüphaneyi istenmeyen SQL komutlarını yürütmeye zorlayabileceğini buldular. İstem enjeksiyonu olarak bilinen bu teknik, LLM’lerin kullanıcı girdilerini yorumlamadaki içsel esnekliğini kullanır.
JFrog’a göre, “CVE-2024-5565 gibi hızlı enjeksiyon güvenlik açıkları, LLM’leri kullanıcıya dönük uygulamalara, özellikle hassas verileri veya arka uç sistemlerini içeren uygulamalara entegre etmekle ilişkili riskleri vurgular. Bu durumda, Vanna.AI’daki kusur, saldırganların amaçlanan sorgu davranışını altüst etmesine ve potansiyel olarak veritabanlarına yetkisiz erişim elde etmesine olanak tanır.”
Sorun ayrıca Tong Liu tarafından Huntr hata ödül platformu aracılığıyla bağımsız olarak keşfedildi ve rapor edildi; bu da sorunun önemini ve yaygın etki potansiyelini vurguladı.
Hızlı Enjeksiyonu ve Etkilerini Anlamak
Hızlı enjeksiyon, çeşitli veri kümeleri üzerinde eğitilen ve bu nedenle beklenen normlardan sapan istemleri yanlış yorumlamaya yatkın olan LLM’lerin tasarımını istismar eder. Geliştiriciler genellikle LLM yanıtlarını yönlendirmek için önceden istemde bulunma güvenlik önlemleri uygularken, bu önlemler dikkatlice hazırlanmış kötü amaçlı girdilerle aşılabilir.
JFrog, “Vanna.AI bağlamında,” diye açıklıyor, “istem enjeksiyonu, kullanıcı tarafından sağlanan bir istemin SQL sorgu oluşturma sürecini manipüle etmesiyle oluşur ve bu da istenmeyen ve potansiyel olarak kötü amaçlı veritabanı işlemlerine yol açar. Bu, özellikle SQL sorgularının arka uç işlemlerini doğrudan etkilediği uygulamalarda kritik bir güvenlik endişesi oluşturur.”
Teknik Detaylar ve Kullanım
Vanna AI güvenlik açığı, öncelikle Vanna.AI’nin sorma işlevi içindeki kullanıcı istemlerini nasıl ele aldığından kaynaklanıyor. Saldırganlar, yürütülebilir kod içeren özel hazırlanmış istemler enjekte ederek SQL sorgularının oluşturulmasını etkileyebilir. Bu manipülasyon, kitaplığın kullanıcı sorgularına dayalı olarak dinamik olarak Plotly görselleştirmeleri oluşturduğu senaryolarda gösterildiği gibi, rastgele Python kodunun çalıştırılmasına kadar uzanabilir.
JFrog şöyle belirtiyor: “Analizimizde, Vanna.AI’de hızlı enjeksiyonun, oluşturulan SQL sorguları bağlamında doğrudan kod yürütülmesine izin verdiğini gözlemledik. Bu, oluşturulan kodun yanlışlıkla kötü amaçlı komutlar içerdiği ve veritabanı güvenliği açısından önemli bir risk oluşturduğu senaryoları da içeriyor.”
Keşfedilmesi üzerine Vanna.AI geliştiricileri derhal bilgilendirildi ve o zamandan beri CVE-2024-5565 güvenlik açığını gidermek için hafifletici önlemler yayınladılar. Bunlar, hızlı müdahaleye ilişkin güncellenmiş yönergeleri ve gelecekteki hızlı enjeksiyon saldırılarına karşı korunmak için ek güvenlik en iyi uygulamalarını içerir.
JFrog, “CVE-2024-5565’e yanıt olarak,” diye temin ediyor, “Vanna.AI, hızlı doğrulama mekanizmalarını güçlendirdi ve daha sıkı girdi temizleme prosedürleri getirdi. Bu önlemler, benzer güvenlik açıklarını önlemede ve LLM teknolojilerinden yararlanan uygulamaların sürekli güvenliğini sağlamada hayati önem taşıyor.”