Deepseek’in bu hafta ani şöhreti, güvenlik ve AI araştırmacıları AI modelinde ve güvenliğindeki kusurları araştırmak için zaman kaybetmedikleri için bir dezavantaj ile geldi.
Deepseek’in kolayca jailbroken olabileceği iddiaları, AI girişiminin AI dünyasının merkezine yükselişinden sonraki saatler içinde ortaya çıktı, ardından Chatgpt ve diğer büyük dil modellerine (LLMS) rakipte bulunan yanlış bilgi ve yanlışlık raporları izledi. Cyble, Deepseek’in ani popülaritesini kullanmayı amaçlayan sahtekarlık ve kimlik avı girişimlerinde bir artış tespit ettiği için dolandırıcılar birikmek için zaman kaybetmedi.
En son Deepseek güvenlik sorunu, Wiz Research tarafından keşfedilen ve AI girişiminin güvenlik ve gizlilik kontrolleri hakkındaki endişelere katkıda bulunan açık bir veritabanını içeriyor.
Wiz araştırmacıları, “İlgili güvenlik olmadan AI hizmetlerinin hızlı bir şekilde benimsenmesi doğal olarak riskli” diye yazdı. “Bu pozlama, AI uygulamaları için acil güvenlik risklerinin altyapı ve onları destekleyen araçlardan kaynaklandığı gerçeğinin altını çiziyor.”
Deepseek’i çevreleyen güvenlik ve yanlış bilgi sorunlarının bir dezavantajı, Snowflake CEO’su Sridhar Ramaswamy gibi teknoloji armatürlerinin dikkatini çeken verimlilikte gerçek bir atılım gibi görünen şeyden uzaklaşmakla tehdit ediyorlar.
Veritabanı Sızıntısı DeepSeek Güvenlik Endişelerinin altını çiziyor
WIZ araştırmacıları, Deepseek’e ait halka açık bir Clickhouse veritabanı keşfettiklerini ve dahili verilere erişme yeteneği de dahil olmak üzere veritabanı işlemleri üzerinde tam kontrole izin verdiklerini söyledi.
Araştırmacılar, pozlama “sohbet geçmişi, gizli anahtarlar, arka uç detayları ve diğer son derece hassas bilgileri içeren bir milyon satır kütük akışı” içeriyor. Sorunu derhal veritabanını hemen güvence altına alan Deepseek’e açıkladılar.
Araştırmacılar, AI girişiminin ani şöhretini takiben Deepseek’in güvenlik duruşunu araştırmaya başladıklarını söyledi. Önemli sorunlar bulmak uzun sürmedi.
“Dakikalar içinde, Deepseek ile bağlantılı, tamamen açık ve kimlik doğrulanmamış, hassas verileri ortaya çıkaran herkese açık bir Clickhouse veritabanı bulduk” dedi.
Araştırmacılar, teminatsız örnek “Deepseek ortamında tam veritabanı kontrolü ve potansiyel ayrıcalık artışına, dış dünyaya herhangi bir kimlik doğrulama veya savunma mekanizması olmadan” izin verdi.
Veriler, 6 Ocak 2025’ten kalma günlüklerle yeni görünüyordu. Dahili Deepseek API uç noktalarına referanslar ve sohbet geçmişi, API anahtarları, arka uç detayları ve operasyonel meta verileri içeren açık düz metin günlüklerini içeriyordu.
Araştırmacılar, “Bu erişim seviyesi Deepseek’in kendi güvenliği ve son kullanıcıları için kritik bir risk oluşturdu” dedi. “Yalnızca bir saldırgan hassas günlükleri ve gerçek düz metin sohbet mesajlarını alamaz, aynı zamanda düz metin şifrelerini ve yerel dosyaları doğrudan sunucudan farklı bilgiler ve yerel dosyaları da potansiyel olarak dışarıda bırakabilirler.”
Güvenlik ve yanlış bilgi sorunları ile bulutlanan bir AI atılımı
Deepseek’in güvenlik ve doğruluk sorunlarına yaygın olarak odaklanmanın talihsiz bir yan etkisi, tartışmanın Deepseek’in şirketin iddia ettiği maliyet ve verimlilik atılımı olabileceğini gizlemekle tehdit etmesidir.
Çok pahalı, enerji yetenekli genai modellerle dolu bir pazarda,% 90 ila% 98 daha az güç kullanırken rekabet edebilen bir model gerçekten çok iyi bir haber. Ve Deepseek, modellerinden birini bile açık kaynak yaptı ve başkalarına onunla çalışma şansı verdi.
Deepseek’in güvenlik ve yanlış bilgi sorunlarının benimsenmesini sınırlayıp sınırlamayacağı görülüyor, ancak Alibaba gibi rakipler kendi Geni atılımlarının iddialarını hızla takip ettikleri için doğru olma penceresi uzun açık olmayabilir.
Ve belki de burada yapay zeka veya diğer teknolojilere odaklanmış olsun, diğer girişimler için bir ders var: Siber güvenlik sorunlarının en büyük atılımlarınızdan uzaklaşmasına izin vermeyin.
İlgili