Kötü niyetli bağlantılar enjekte etmek ve kaynak kodunu çalmak için GitLab Duo güvenlik açığı sömürüldü

GitLab’a entegre ve Antropic’in Claude modellerine dayanan AI destekli kodlama asistanı Gitlab ikilisinde bir güvenlik açığı keşfedildi.

Yasal güvenlikten güvenlik araştırmacıları, saldırganların özel kaynak kodunu eklemek, AI tarafından üretilen kod önerilerini manipüle etmek ve hatta gizli sıfır gün güvenlik açıklarını sızdırmak için dolaylı bir hızlı enjeksiyon kusurunu kullanabileceğini ortaya koydu.

Hızlı enjeksiyon saldırganların AI tarafından işlenen verilere kötü niyetli talimatlar yerleştirdiği büyük dil modellerini (LLMS) etkileyen bir güvenlik açıkları sınıfıdır.

– Reklamcılık –
Google Haberleri

GitLab ikilisi durumunda, kırılganlık dolaylı Tür: Saldırganlar doğrudan hazırlanmış bir istem girmek yerine, birleştirme isteği (MR) açıklamaları, mesajlar, yorumlar ve hatta kaynak kodunun kendisi içindeki talimatları gizleyebilir.

GitLab Duo, tüm bu unsurlar da dahil olmak üzere bir projenin tüm bağlamını analiz ettiğinden, gizli istemleri yanlışlıkla işleyecek ve saldırganın talimatlarını yürütecektir.

Bu istemleri daha da gizlemek için saldırganlar, Base16 kodlama, unicode kaçakçılığı ve Katex oluşturma gibi teknikleri beyaz metinlerde kullandılar, bu da kötü amaçlı yükleri insan gözden geçirenler için neredeyse görünmez hale getirdi, ancak yine de AI tarafından tespit edilebilir.

Markdown Oluşturmadan Veri Defiltrasyonuna kadar

Rapora göre, istismar zinciri Gitlab Duo’nun gerçek zamanlı işaretleme oluşturma işleminden yararlandı. Duo yanıtlarını aktardıkça, işaretleme giderek HTML’ye dönüştürülür ve tarayıcıda görüntülenir.

Bu akış yaklaşımı, yetersiz giriş dezenfekârlığı ile birleştiğinde, saldırganların ham HTML’yi enjekte etmesine izin verdi, örneğin Etiketler – Duo’nun yanıtları.

Tipik bir saldırı senaryosu aşağıdaki gibi ortaya çıktı:

Bir saldırgan, bir halka açık projenin MR açıklamasına veya yorumuna gizli bir istem yerleştirir.
Özel depolara erişimi olan bir kurban ikili ile etkileşime girerek bir kod incelemesi veya analiz istemektedir.
İkili, gizli istemin işlenmesi, özel bir projeden hassas kod veya verileri çıkarmaya, örneğin Base64’te) kandırılır ve bir parametre olarak gömülür. Etiketin URL’si.
AI’nın yanıtı, kötü niyetli Etiket, kurbanın tarayıcısı tarafından oluşturulur, bu da daha sonra saldırganın sunucusuna bir HTTP GET isteği göndererek kodlanmış hassas verileri sızdırmaz.

İşte böyle bir yükün basitleştirilmiş bir örneği: