Yapay zeka kodlama asistanları, yazılım geliştirmede hızla standart seçenekler haline geliyor. Bununla birlikte, en popüler asistanlardan biri olan Cline Bot’un yakın zamanda yapılan bir güvenlik denetimi, akıllı bir saldırganın özel bilgileri çalmasına veya geliştiricinin bilgisayarında kötü amaçlı yazılım çalıştırmasına olanak tanıyan üç kritik kusur da dahil olmak üzere dört ciddi güvenlik sorununu ortaya çıkardı.
Bu çığır açan araştırma, yapay zeka güvenlik uzmanı Mindgard tarafından yürütüldü ve Hackread.com ile paylaşıldı. Denetim 22 Ağustos 2025’te başladı ve Mindgard bu sorunları yalnızca iki gün içinde (24 Ağustos’a kadar) tespit ederek günümüzde yaygın olan araçlardaki büyük güvenlik açıklarını ortaya çıkardı.
Yardımcıyı Tehlikeye Dönüştürmek
Cline Bot asistanı, 3,8 milyondan fazla kurulum ve 1,1 milyondan fazla günlük aktif kullanıcıyla oldukça popüler. Yapay zeka kodlama asistanlarının, bildiğimiz şekliyle, araştırmacıların ifadesiyle “golden av köpeği” gibi, “son derece istekli, son derece yardımsever ve belki de biraz fazla güvenen” yardımcı olmaları amaçlanıyor.
Ancak Mindgard, kurnaz bir saldırganın kaynak kod dosyalarının içine hızlı bir enjeksiyonu nasıl gizleyebileceğini gösterdiğinden, burada durum tam olarak böyle değil. Bir geliştirici kötü amaçlı bir proje açıp Cline Bot’tan bunu analiz etmesini istediğinde, yapay zeka tehlikeli eylemler gerçekleştirmesi için kandırılabilir. Bu dört konu şunları içerir:
- Gizli Anahtarların Hırsızlığı: Yapay zeka, hassas API anahtarlarını ve diğer özel verileri saldırganın konumuna gönderecek şekilde kandırılabilir.
- Yetkisiz Kod Yürütme: Bir saldırgan, yapay zekayı, geliştiricinin bilgisayarına onay gerektirmeden kötü amaçlı yazılım indirmeye ve çalıştırmaya zorlayabilir.
- Güvenlik Kontrollerini Atlamak: Saldırganlar yapay zekanın dahili güvenlik kurallarını geçersiz kılarak tehlikeli olarak işaretlemesi gereken komutları yürütmesini sağlayabilir.
- Model Bilgilerinin Sızıntısı: Bir hata mesajı, kullanılan temel yapay zeka modeliyle ilgili gizli ayrıntıları ortaya çıkarabilir.
Gizli Talimatlar Sızıntısı
Mindgard’ın başarısının önemli bir kısmı Cline Bot’un sistem istemini ele geçirmekti; bu komut, yapay zekaya nasıl davranacağını ve hangi kurallara uyması gerektiğini söyleyen bir dizi gizli talimattı. Bazı güvenlik uzmanları bu bilgilerin büyük bir risk olmadığına inanırken Mindgard buna kesinlikle katılmıyor.
Mindgard’ın deneyi, istemin tam metnini bilmenin saldırganların boşlukları çok daha kesin bir şekilde bulmasına yardımcı olduğunu gösterdiğinden, araştırmacılar teknik blog gönderilerinde “Sistem isteminin ifşa edilmesi gerçek riski temsil etmiyor; güvenlik riski altta yatan unsurlarda yatıyor” dedi.
Daha ayrıntılı incelemeler, saldırganların yapay zekanın proje dosyalarını işleme biçimini değiştirerek aracı kendi güvenlik kontrollerini göz ardı etmeye zorlayabildiğini ortaya çıkardı. Örneğin, Cline’ın daha yeni Sonic modeline (20 Ağustos 2025’te piyasaya sürüldü) karşı yapılan bir testte araştırmacılar, yapay zekanın kullanıcıdan onay istemeden güvenli olmayan bir komutu (kötü amaçlı kodu indirmek ve çalıştırmak gibi) yürütmesini sağlayabileceklerini gösterdi.
Dört güvenlik açığının tamamının, o zamandan beri sorunları düzeltmek için çalışan ancak araştırmacılara uygun şekilde yanıt vermeyen satıcıyla derhal paylaşıldığını belirtmekte fayda var.