Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Güvenlik endişeleri, Çin mülkiyeti yönlendirme endişeleri
Rashmi Ramesh (Rashmiramesh_) •
3 Şubat 2025
ABD federal ajansları, çalışanların güvenlik ve gizlilik endişeleri üzerinde Çin Chatbot Deepseek’i kullanmasını engelliyor.
Ayrıca bakınız: İkinci Yıllık Üretici AI Çalışması: İş Ödülleri ve Güvenlik Riskleri
Çin girişiminin ürününün kullanımını kısıtladığı bildirilen kuruluşlar arasında NASA, Pentagon, Kongre ve Donanma bulunmaktadır.
AI modelinin veri paylaşma potansiyeli, uygulama ile ilgili güvenlik sorunları gibi endişe duyuyor (bkz:: Deepseek AI modelleri jailbreaking’e karşı savunmasız).
Deepseek inceleniyor “ve şu anda resmi konut kullanımı için yetkisiz” dedi. “Tehdit aktörleri zaten kötü amaçlı yazılımlar sunmak ve cihazları enfekte etmek için Deepseek’ten yararlanıyor.”
CNBC, NASA personelinin AI platformunu “Deepseek ürünleri veya hizmetleri hakkında ajans verilerini paylaşmak veya yüklemek” için kullanmasına izin verilmiyor ve CNBC, Cuma gününden itibaren “NASA cihazları ve ajans tarafından yönetilen ağ bağlantılarından erişim” yetkisine sahip değil.
Forrester, Deepseek uygulamasının büyük indirmeleri, binlerce ve hatta milyonlarca kullanıcının hassas bilgi olabilecekleri denemeye ve yüklediği anlamına geliyor. Pentagon’un yasağı, bazı çalışanlarının sohbet botunu birkaç gündür kullandıktan sonra geldi.
Deepseek’in Gizlilik Politikası, eğitim amacıyla kullanma “metin veya ses girişi, istemi, yüklenen dosyalar, geri bildirim, sohbet geçmişi veya diğer içerik topladığını” gösterir. Sunucuları, tüm kullanıcı verilerinin depolandığı Çin’de bulunmaktadır. Otoriter ülkedeki şirketlerin talep üzerine istihbarat teşkilatlarıyla veri paylaşmaları gerekmektedir.
Bu, Çin hükümetinin Potansiyel olarak Deepseek’in AI modellerini Amerikan vatandaşlarını gözetlemek, tescilli sırlar almak ve etki kampanyaları yapmak için kullanabileceği anlamına geliyor, dedi Güvenlik Şirketi Appomni yapay zeka direktörü Melissa Ruzzi. AI güdümlü saldırıların hacmi de artabilir. Deepseek, Jailbreak’e karşı savunmasızdır, kötü aktörlerin kısıtlamaları atlamasına ve daha sonra diğer saldırılarda kullanılabilecek kötü amaçlı çıktılar üretmesine izin verdiğini söyledi.
Bilgi Güvenlik Medya Grubuna “Deepseek’i güvence altına almak için gümüş bir mermi yok,” dedi ve “bir AI aracına beslenen hassas verilerin geri çekilemeyeceğini” söyledi.
Şirketin AI platformu, Çin’e duyarlı konularda korkulukları zorluyor, ancak veri sızıntılarına ve halüsinasyonlara karşı korumaları oldukça zayıf, dedi.
Teknik Direktör ve NCC Group’taki AI ve ML güvenlik başkanı David Brauchler, Deepseek’in ABD askeri personelinin hedeflerine aykırı önyargılar içerdiğini söyledi: herhangi bir model gibi, kötü niyetli kalıplar istenmeyen ürünlere gömülebilir. Bazı tetikleyiciler karşılandığında davranış. “Örneğin, ABD askeri stratejisi hakkındaki sorular, modelin düşük kaliteli önerilerle yanıt vermesini tetikleyebilir” dedi.
“Ayrıca, kuruluşlar için bir tehdit oluşturabilecek şüpheli davranışlar da dahil olmak üzere, kökeni ve tedarik zincirinin ötesinde daha geniş güvenlik riskleri gözlemledik. Bu bulgular göz önüne alındığında, bu modelleri kritik iş akışlarında kullanmaya veya onlarla hassas bilgileri paylaşmaya karşı şiddetle tavsiye ediyoruz.” ISMG.
Deepseek’in veri depolama ve işleme uygulamalarını araştıran İtalyan Veri Koruma Otoritesi ve İrlanda Veri Koruma Komisyonu da dahil olmak üzere DeepSeek ile ilgili araştırmalar başlatmıştır. Fransa, Belçika ve Güney Kore’deki veri koruma yetkilileri de soruşturmalar başlattı.