Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Zayıf şifreleme, Çin’e veri aktarımları, gizli baytanlık bağlantıları bulundu
Rashmi Ramesh (Rashmiramesh_) •
10 Şubat 2025
Güvenlik araştırmacıları, Deepseek’te daha fazla güvenlik açığı buldular ve Çin yapay zeka uygulamasını kullanma ile ilgili potansiyel kullanıcı gizliliği ve ulusal güvenlik sorunları hakkındaki endişeleri yeniledi.
Ayrıca bakınız: Silolardan Synergy’ye: Gen AI onu hizalar ve güvenlik ekipleri
Pazartesi günü yayınlanan bir rapora göre, siber güvenlik şirketi SecurityScorecard’ın grev ekibi zayıf şifreleme yöntemleri, potansiyel SQL enjeksiyon kusurları ve uygulamadaki Çin devlet bağlantılı Çince işletmelere açıklanmayan veri aktarımlarını belirledi.
Qualys TotalAi tarafından yapılan ayrı bir değerlendirme, Deepseek’in AI modeli R1’in jailbreak testlerinin yarısından fazlasını başarısız olduğunu buldu (bkz:: Deepseek AI modelleri jailbreaking’e karşı savunmasız).
Raporda, uygulama, sabit kodlanmış şifreleme anahtarları ve zayıf veri koruma mekanizmaları dahil olmak üzere eski kriptografik algoritmalar kullanıyor. Bu tür kusurlar, saldırganların hassas kullanıcı verilerinin şifresini çözmesini sağlayabilir. Araştırmacılar ayrıca, bilgisayar korsanlarının uygulamanın veritabanını manipüle etmelerini ve kullanıcı kayıtlarına yetkisiz erişim kazanmasını sağlayabilecek SQL enjeksiyon güvenlik açıkları buldular.
Veri iletim modellerini analiz eden araştırmacılar, Deepseek’in kullanıcı girişlerini, tuş vuruşunu ve cihaz verilerini topladığını ve bu bilgileri Çin’deki sunucularda sakladığını buldu. Tuş vuruşu izleme, kullanıcıların ayrıntılı davranış profillerini oluşturmak ve şifreler ve dahili iletişim gibi hassas verileri izlemek için kullanılabilir.
Raporda, bu verilerin bazılarının Çin devlete ait varlıklara bağlı alanlara yönlendirildiği belirtiliyor. Deepseek kod tabanında bayta sahip olduğu kütüphanelerin varlığı, olası açıklanmayan veri paylaşım uygulamaları hakkında soruları daha da gündeme getirmektedir. Tiktok ve diğer uygulamalara sahip özel bir Çin teknoloji şirketi olan Bytedance, potansiyel Çin hükümetinin etkisi üzerinde de incelemeye başladı.
Raporu yazan SecurityScorecard’da bir “hackTualizer” olan Cory Kennedy, Deepseek’in performans izleme, uzaktan yapılandırma ve özellik işaretlemesini işleyen birden fazla kütüphaneyi entegre ettiğini söyledi. Bu bileşenler, bankanın kullanıcı etkileşimi verilerini toplamasını ve kurulumdan sonra uygulama davranışını dinamik olarak ayarlamasını sağlar. Birincil gizlilik riskleri, kullanıcı verilerinin açık bir şekilde açıklama yapmadan kenara aktarılabileceği belirsiz veri paylaşım politikalarını ve sosyal medya platformunun uygulamanın nasıl çalıştığını değiştiren yapılandırma güncellemelerini potansiyel olarak itebileceği uygulama davranışı üzerinde uzaktan kumanda içerir, bilgi güvenliği anlattı Medya Grubu.
Araştırmacılar raporda, “Veriler sadece toplanmıyor. Çin devlete ait kuruluşlara bağlı alanlara aktarılıyor, veri egemenliği ve ulusal güvenlik ile ilgili endişeleri artırıyor.” Dedi.
Kennedy, güvenlik açıklarının zayıf güvenlik uygulamalarının ve potansiyel olarak kasıtlı veri toplama mekanizmalarının bir kombinasyonunu önerdiğini söyledi. Anti-kötü niyetli önlemlerin varlığının, baytanlık telemetri çerçeveleri ve tuş vuruşu izleme, Deepseek’in geniş veri toplama özellikleri göz önünde bulundurularak tasarlandığını gösteriyor.
Henüz doğrudan sömürü kanıtı olmasa da, Kennedy “Bu zayıflıkları bulabilirsem, saldırganların yeniden paketlenmesi ve resmi olmayan mağazalarda sunulması ve doğrudan bağlantılı olması için sadece bir zaman meselesidir. https: // github[.]Com/Deepseek-ai-APK. “Bağlantının kötü amaçlı yazılım içermediğini açıkladı, ancak bilgisayar korsanlarının resmi kurbanları hedeflemek için resmi başvurunun değiştirilmiş bir versiyonunu kullanabileceğinden bu dikkat gösterilmesi gerekiyor.
Kötü niyetli niyet kanıtı yok, ancak uygulamanın mimarisi gizlilik, güvenlik ve potansiyel kötüye kullanım konusunda ciddi endişeler doğuruyor.
Son kullanıcıya% 100 netleştirilmeyen verilerin iletilmesini sağlayan herhangi bir bağlantının, büyük ölçekli siber casusluk veya etki işlemleri için kullanılabilir. Kennedy, “Bu operasyonları destekleyen kanıtlara doğrudan işaret edemem, ancak yanıtın hangi verileri sağladığınız ve güven duyduğunuz konusunda dikkatli olmak için yeterli ‘bileşen’ olduğunu öneririm.” Dedi.
AI Modeli Jailbreak Testlerinde Başarısız
Bu endişelere ek olarak, Qualys Totalai’nin şirketin büyük dil modelinin damıtılmış bir versiyonu olan Deepseek-R1’i değerlendirmesidir. AI modeli, Qualys tarafından yürütülen jailbreak testlerinin yarısında başarısız oldu ve yerleşik kısıtlamalarını geçersiz kılmak için manipüle edilebileceğini gösterdi.
Jailbreak saldırıları, kullanıcıların bir AI modelinin içerik denetleme politikalarını atlamalarını ve zararlı veya istenmeyen çıktılar oluşturmasını isteyen sağlar. Bazı durumlarda, Deepseek-R1’in önyargılı veya politik olarak hassas yanıtlar, yanlış bilgiler ve belirli senaryolarda, hatta yasadışı faaliyetler konusunda rehberlik olduğu bulunmuştur.
Qualys raporunda, “Yapay zeka benimsemesi hızlandıkça, kuruluşlar sadece performansa değil, güvenlik, güvenlik ve uyumluluğa öncelik vermelidir.” Dedi.
Düzenleyici inceleme ve işletme riskleri
Deepseek’in veri işleme uygulamaları ile ilgili endişeler yeni değildir, birden fazla ülkedeki düzenleyiciler AI şirketine karşı harekete geçmektedir.
İtalya ve İrlanda veri koruma yetkilileri, Fransa, Belçika ve Güney Kore gibi gizlilik politikaları konusunda yetersiz şeffaflık göstererek Deepseek’e bakıyorlar. Avustralya, Deepseek’i tüm hükümet sistemlerinden yasakladı ve potansiyel bir ulusal güvenlik tehdidi olarak etiketledi. ABD federal ajansları ayrıca personelin güvenlik ve etik kaygılar nedeniyle Deepseek kullanmamalarını tavsiye eden uyarılar yayınladılar (bakınız: Asya hükümetleri gizlilik endişeleri nedeniyle Deepseek’i yasaklamak için acele ediyor).
Araştırma ayrıca Deepseek’in güvenlik analizini engellemek için tasarlanmış anti-kötüleşme teknikleri kullandığını buldu. Uygulama, araştırmacıların kodunu denetlemeye çalıştığında ve hemen kapandığını tespit eder. Raporda, etkin hata ayıklama oturumlarını tespit etmek için “Android.OS.Debug.isdebuggerConnect () ve Android.OS.Debug.waitfordleBugger () ‘yi çağırıyor. Bir girişim tespit edilirse, “uygulama analizi önlemek için kendini kaplar.”
Kötü anti-tahrip mekanizmaları bankacılık veya güvenlik uygulamalarında yaygın olmakla birlikte, bir tüketici AI uygulamasında kullanımları Deepseek’in şeffaflığı konusunda endişeleri gündeme getirmektedir. Güvenlik analistleri, bu tür önlemlerin kullanıcı verilerinin nasıl işlendiğini ve saklandığını doğrulamayı zorlaştırdığını söyledi.
Zayıf şifreleme ve kimlik bilgisi maruziyeti uygulamayı siber saldırılara karşı savunmasız hale getirebilir. Uygulamanın Keystroke Dinamiklerinin kaydedilmesi de dahil olmak üzere veri toplama uygulamaları, davranışsal profil oluşturmayı mümkün kılabilecek gizlilik riskleri sunar. Deepseek-R1’in yapay zeka modelindeki güvenlik açıkları, korumalarının kötüye kullanımı önlemek için yetersiz olduğunu göstermektedir.
Raporlar, Deepseek’in açıkça kötü niyetli olmasa da, kötüye kullanım ve üçüncü taraf veri erişim potansiyelinin onu işletmeler için riskli bir seçim haline getirdiğini göstermektedir. Güvenlik uzmanları, işletmelere platformu benimsemeden önce bağımsız güvenlik denetimleri yapmalarını, veri yönetişimi politikalarını değerlendirmelerini ve giden ağ trafiğini izlemelerini tavsiye eder.
AI güvenlik ve yönetişim firması Acuvity CEO’su ve kurucu ortağı Satyam Sinha, bir kuruluşun OWASP’nin en iyi 10 LLM’si gibi çerçevelere atıfta bulunarak LLM’lerin üstünde yazılım mimarileri ve güvenlik katmanları kullanması gerektiğini söyledi. Ayrıca, şirketlerin modeli daha geniş bir müşteri tabanına maruz bırakmadan önce düşman saldırıları şansının düşük olduğu dahili projeler için kullanmasını önerir.
Endüstri, özellikle 20 Ocak’taki lansmanından bu yana Deepseek’e odaklanmış olsa da, bu hizmetleri hedefleyen siber saldırılar yeni değil – olgun bir Genai hizmetinin bile siber saldırıların kurbanı olabileceğini söyledi. “Tüm modeller halüsinasyon sağlar, yanlış bilgi sağlar ve sömürü, güvenlik açıkları ve saldırılara değişen dereceye eğilimlidir.” Dedi. “Deepseek, bir kerelik değil, buzdağının sadece ucu.”