Yapay Zeka ve Makine Öğrenimi, Geo Focus: Asya, Geo’ya özgü
Hükümetler Çin A1 platformunun veri güvenliği kontrollerine şüpheci
Jayant Chakravarti (@Jayjay_tech) •
7 Şubat 2025
Asya’daki ülkeler, hükümet yetkililerini, ulusal ajansları ve kritik altyapı organizasyonlarını Çin yapay zeka şirketi Deepseek’in açık kaynaklı Chatbot uygulamasını kullanmaktan, veri güvenliği ve gizlilik risklerini belirtmek için yarışıyor.
Ayrıca bakınız: Proaktif pozlama yönetimi ile siber güvenliği dönüştürün
Avrupa ve bazı ABD’li devlet kurumlarında benzer eylemleri izleyen önerilen yasaklar, Deepseek-R1’in akıl yürütme uygulamasının kullanıcıların kişisel bilgilerini ve istemlerini topladığı ve onları Çin’de sakladığı endişelerini takip ediyor. Platformun ayrıca jailbreaking girişimlerine ve hizmet reddi saldırılarına karşı savunmasız olduğu gösterilmiştir.
Tayvanlı Dijital İşler Bakanlığı Cuma günü ilk adımı attı ve merkezi ve yerel yönetim ajanslarında çalışan kişilere, kritik altyapı kuruluşlarına, devlet okullarına ve devlet tarafından finanse edilen kuruluşlara Deepseek AI’nın Chatbot uygulamasını kullanmamaları için talimat verdi.
Bakanlık, “Deepseek AI hizmeti bir Çin ürünüdür. Operasyonu sınır ötesi iletim ve bilgi sızıntısı ve diğer bilgi güvenliği endişelerini içerir.” Dedi. Diyerek şöyle devam etti: “Devlet kurumları ve kritik altyapı Deepseek kullanmamalıdır, çünkü ulusal bilgi güvenliğini tehlikeye atar.”
Avustralya hükümeti Çarşamba günü izledi ve Çinli AI chatbot’un ulusal güvenliğe “kabul edilemez bir risk” oluşturduğunu söyledi. ABC, hükümetin başvuruyu federal hükümet bilgisayarlarından ve mobil cihazlardan yasakladığını bildirdi.
Veri Gizliliği Endişeleri
Federal Hükümet Direktifi, Yeni Güney Galler ve Güney Avustralya’daki yerel yönetimleri, hükümet çalışanlarının çalışma cihazlarında Deepseek AI hizmetlerini kullanmalarını yasakladı.
Güney Avustralya Stephen Mullighan saymanı, “Bu, hükümet bilgilerinin güvenliğini ve genel halk adına tutulan bilgileri korumak için gerekli ve ihtiyatlı bir önlemdir.” Dedi. Diyerek şöyle devam etti: “Ayrıca, Deepseek’i uyanık olmak için kullanan ve kamusal alana girmek istemeyecekleri kişisel bilgileri yüklemeyen genel halk üyelerini de çağırıyorum.”
Yasaklar siber güvenlik şirketi Cybercx’i, Deepseek AI Asistan Uygulamasının cihazlarından kullanıcı bilgilerini topladığı ve Çin’de depoladığı ve ayrıca Çin Komünist Partisi’nin stratejik hedefleri ve anlatılarıyla uyumlu önyargılı çıktılar ürettiğine dair yüksek güvenle değerlendiriyor.
Şirket, AI şirketinin, özel sektör kuruluşlarının istendiğinde veri paylaşımı da dahil olmak üzere istihbarat teşkilatlarıyla “desteklemesini, yardım etmesini ve işbirliği yapmasını” gerektiren Çin’in ulusal istihbarat yasasına cevap vermesi gerektiğini söyledi. Çin hükümeti ayrıca AI gelişimini de etkiler ve AI modellerini “temel sosyalist değerleri” yansıtmalarını sağlamak için denetler.
Cybercx, AI Chatbot’un ayrıca kullanıcıların cihazları hakkında tuş vuruşu kalıpları, cihaz özellikleri ve insanların hizmeti nasıl kullandıkları hakkında bilgiler gibi kapsamlı teknik bilgiler topladığını söyledi.
Şirket, “Tüm kuruluşlar, özellikle kritik altyapı kuruluşları, Demokratik kurumlar ve ticari olarak hassas veya kişisel bilgileri işleyen veya işleyen kuruluşlar, en azından Deepseek AI Asistan Uygulamasına erişimi geçici olarak kısıtlamayı dikkate almalıdır.” Dedi.
Toplum için zararlı
Enkrypt AI’daki güvenlik araştırmacıları, Deepseek-R1’in kamu güvenliği, güvenlik ve gizliliğin sağlanmasında yetersiz kaldığını söyledi. Önde gelen sorularla istendiğinde, chatbot ırksal olarak ayrımcı sonuçlar, hızlı enjeksiyon kusurları ve kimyasal ve biyolojik tehditler oluşturabilecek içerikler üretti.
Palo Alto Network araştırmacıları ayrıca Deepseek’in V3 ve R1 modellerinin, kısıtlı konuları iyi huylu olanlar arasında yerleştiren jailbreak tekniklerine karşı savunmasız olduğunu gösterdi. Bu teknikleri kullanarak araştırmacılar, modellerin “Keylogger oluşturma, veri açığa çıkması ve hatta yangın çıkarıcı cihazlar için talimatlar oluşturmasını sağladı ve bu ortaya çıkan saldırı sınıfının ortaya koyduğu somut güvenlik risklerini gösterdi (bkz: Deepseek AI modelleri jailbreak’e karşı savunmasız).
Güney Kore Sanayi Bakanlığı, hükümet çalışanlarının Deepseek’in AI chatbotuna erişmesini yasakladı ve hükümet çalışanlarına üretici AI hizmetlerini kullanırken dikkatli olmaları için bir rehberlik yaptı.
Asya’nın başka yerlerinde, Filipinler Silahlı Kuvvetleri, hükümetin ülkede Deepseek AI kullanımını yasaklaması halinde, kritik altyapı ve bilgi sistemlerinin bütünlüğünü korumak için hızlı hareket edeceğini söyledi.
Wiz’deki güvenlik araştırmacıları, şirketin açık internete gerçek zamanlı bir veritabanı açığa çıkardığını ve araştırmacıların “önemli bir sohbet geçmişi, arka uç verisi ve hassas bilgiler de dahil olmak üzere, günlük de dahil olmak üzere günlük bir veritabanı açığa çıkardığını bulduktan sonra ivme kazandı. Akışlar, API Sırları ve Operasyonel Ayrıntılar. “
İtalyan Veri Koruma Otoritesi Garante, şirketin 20 Ocak’ta chatbot’u dünya çapında yayınlamasından kısa bir süre sonra Deepseek AI’nın veri depolama ve işleme uygulamaları hakkında bir soruşturma başlattı. Otorite, “milyonlarca insanın verileri için olası yüksek risk hakkında bilgi topladığını söyledi. İtalya’da, kaynaklardan, hangi amaçlar için, işlemin yasal temelinin ve Çin’de bulunan sunucularda saklanıp saklanmadığı (bkz: Avrupa Düzenleyicileri Deepseek soruşturmak) kişisel veriler toplanır. “