AI tabanlı saldırılar, yapay zeka ve makine öğrenimi, veri yönetişimi
Ayrıca: AI güvenlik açıklarını ve yönetişim zorluklarını ele almak
Anna Delaney (Annamadeline) •
7 Şubat 2025
Bir Çinli şirket tarafından inşa edilen gelişmiş bir açık kaynaklı AI modeli olan Deepseek, güvenlik korkuluklarının birden fazla güvenlik testinde başarısız olduğu ve kullanıcı bilgilerini ve API anahtarlarını açıklayan bir veri sızıntısı nedeniyle incelemesi altında. Zscaler’daki CISO Sam Curry, AI güvenliği, risk yönetimi ve yaklaşan ABD politika değişikliklerini tartışmak için bu haftanın ISMG editörleri paneline katıldı.
Ayrıca bakınız: Silolardan Synergy’ye: Gen AI onu hizalar ve güvenlik ekipleri
Curry, “Bağımsız araştırmacıların hata bulması çok uzun sürmedi.” Dedi. “Yani, bilirsiniz, bu asır, güvenlik kalitesi ile güvenlik kalitesi. Mühendislik kalite, zaman ve kaynaklarla ilgilidir. Yenilikiniz ne kadar iyi olursa olsun, yine de büyük bir etkiniz olabilir, ama siz ‘Oraya vardığınızda kaliteye sahip iyi olur. “
Curry, AI güvenliğinin yeni bir yaklaşım gerektirdiğini vurguladı. “Sadece ‘Eh, hassas şeyleri koymuyorum’ demek için yeterince iyi değil … enterpolasyon yapabilir, çıkarabilir ve önemsediğiniz bir kalitede şeyleri üretebilir.” Dedi. “Bunu, benzer bir güven durumunda, çok zeki bir insana, çok zeki bir insana davranacağınız gibi davranmalısınız. Ve bunu yaptığımızı sanmıyorum. Sanırım hala herhangi bir davranıyoruz gibi davranıyoruz diğer algoritma veya kod gövdesi. “
Curry, ISMG’den Anna Delaney’e katıldı; Tom Field, kıdemli başkan yardımcısı, editoryal; ve Michael Novinson, yönetici editör, ISMG Business, tartışmak için:
- Deepseek-R1’in 20 Ocak’ta piyasaya sürülmesinden bu yana haftalar içinde ortaya çıkan güvenlik açıklarının ve bir veri ihlali;
- AI modellerini düşmanca saldırılara ve tedarik zinciri risklerine karşı güvence altına almak için en iyi uygulamalar;
- Yeni bir ABD AI yürütme emrinin iş ve politika çerçeveleri üzerindeki potansiyel etkisi.
ISMG editörleri paneli haftalık olarak çalışır. ABD Siber Güvenlik Programı için önümüzdeki zorluklar ve Deepseek’in AI kesintisi ve güvenlik riskleri üzerindeki 31 Ocak baskısı da dahil olmak üzere önceki taksitlerimizi kaçırmayın.