Shadow Escape adı verilen yeni bir güvenlik, araştırma firması Operant AI’nın hazırladığı bir raporun tüketici gizliliğine yönelik görülmeyen bir riski ortaya çıkarmasının ardından büyük endişeler yaratıyor.
Bu yeni saldırı türü, popüler AI asistanlarını kullanan işletmelerden Sosyal Güvenlik Numaraları (SSN’ler), tıbbi kayıtlar ve finansal ayrıntılar gibi büyük miktarda özel bilgiyi, kullanıcı şüpheli bir bağlantıya tıklamadan veya hata yapmadan çalabilir.
Açık Görüşte Saklanan Tehlike
Sorun, şirketlerin ChatGPT, Claude ve Gemini gibi büyük dil modellerini (LLM’ler) kendi iç veritabanlarına ve araçlarına bağlamak için kullandıkları Model Bağlam Protokolü (MCP) adı verilen teknik bir standartta yatmaktadır. Shadow Escape saldırısı bu bağlantıdan yararlanır.
Bilginiz olsun diye söylüyorum, önceki saldırılarda genellikle bir kullanıcının kimlik avı e-postası yoluyla kandırılması gerekiyordu. Ancak bu sıfır tıklama saldırısı çok daha tehlikelidir çünkü çalışan işe alım kılavuzu veya internetten indirilen bir PDF gibi zararsız görünen belgelerin içine gizlenmiş talimatları kullanır. Bir çalışan kolaylık sağlamak için bu dosyayı iş yapay zeka asistanına yüklediğinde, gizli talimatlar yapay zekaya sessizce özel müşteri verilerini toplamaya ve göndermeye başlamasını söyler.
“Shadow Escape, standart MCP kurulumları ve varsayılan MCP izinleri aracılığıyla kolaylıkla gerçekleştirilebildiği için, şu anda Shadow Escape MCP sızıntısı aracılığıyla karanlık ağa sızdırılan özel tüketici ve kullanıcı kayıtlarının ölçeği kolaylıkla trilyonları bulabilir.“ araştırmacılar Hackread.com ile paylaşılan blog yazısında şunu belirttiler.
Sistem yardımcı olacak şekilde tasarlandı ve birden fazla veri tabanına otomatik olarak çapraz referans vererek tam adlardan adreslere, kredi kartı numaralarından tıbbi tanımlayıcılara kadar her şeyi açığa çıkaracak.
Operant AI, müşteri ayrıntılarıyla ilgili basit bir sohbet isteminin nasıl hızlı bir şekilde AI’ya iletildiğini ve hassas kayıtların tamamının yakalanmadan kötü amaçlı bir sunucuya gizlice gönderildiğini gösteren bir video gösterimi bile yayınladı.
Standart Güvenlik Neden Bunu Durduramıyor?
Operant AI’nın araştırması, trilyonlarca özel kaydın bu kusur nedeniyle artık risk altında olduğunu tahmin ediyor. Bunun yalnızca tek bir yapay zeka sağlayıcısıyla ilgili bir sorun olmadığını belirtmek gerekir; MCP kullanan herhangi bir sistem aynı teknikle kullanılabilir.
Operant AI Kurucu Ortağı ve CTO’su Priyanka Tembey şöyle yazdı: “Ortak iş parçacığı belirli bir AI Aracısı değil, daha ziyade bu aracılara kurumsal sistemlere benzeri görülmemiş erişim sağlayan Model Bağlam Protokolü’dür (MCP). Veritabanlarına, dosya sistemlerine veya harici API’lere bağlanmak için MCP kullanan herhangi bir AI asistanı Shadow Escape aracılığıyla kullanılabilir” diye yazdı.
Asıl sorun, veri hırsızlığının şirketin güvenli ağı ve güvenlik duvarı içinde gerçekleşmesidir. Yapay zeka asistanının verilere meşru erişimi var, dolayısıyla kayıtları göndermeye başladığında normal trafik gibi görünüyor ve geleneksel güvenlik araçlarına görünmez oluyor.
Daha ayrıntılı incelemeler, kötü amaçlı verilerin yapay zeka tarafından harici bir sunucuya aktarıldığını ve bunun da etkinliği rutin performans takibi olarak maskelediğini ortaya çıkardı. Çalışan veya BT departmanı bunun olduğunu asla görmez.
Araştırma ekibi, bir sonraki büyük veri ihlalinin bir bilgisayar korsanından değil, güvenilir bir yapay zeka asistanından gelebileceğinden, yapay zeka aracılarına güvenen tüm kuruluşları sistemlerini derhal denetlemeye çağırıyor.