Yapay zeka (AI) sistemlerinin giderek günlük hayatımızın ayrılmaz bir parçası haline geldiği bir çağda, Ulusal Güvenlik Ajansı’nın Yapay Zeka Güvenlik Merkezi (NSA AISC), siber güvenliği artırma konusunda önemli bir adım attı.
NSA AISC, CISA, FBI, ASD ACSC, CCCS, NCSC-NZ ve NCSC-UK dahil olmak üzere birçok önemli kurumla işbirliği içinde, “Yapay Zeka Sistemlerinin Güvenli Bir Şekilde Dağıtılması” başlıklı kapsamlı bir Siber Güvenlik Bilgi Sayfası yayınladı.
Üç temel hedefe açıkça odaklanarak, harici olarak geliştirilen yapay zeka sistemlerini dağıtmak ve işletmek için en iyi uygulamaları özetlemektedir.
- Gizlilik: Yapay zeka sistemlerindeki hassas bilgilerin yetkisiz erişime karşı korunmasını sağlamak.
- Bütünlük: Yetkisiz değişiklikleri önleyerek yapay zeka sistemlerinin doğruluğunu ve güvenilirliğini korumak.
- Kullanılabilirlik: Yapay zeka sistemlerinin ihtiyaç duyulduğunda yetkili kullanıcılar tarafından erişilebilir olmasını garanti etmek.
Trustifi’nin Gelişmiş tehdit koruması, en geniş yelpazedeki karmaşık saldırıları, kullanıcının posta kutusuna ulaşmadan önce önler. Diğer e-posta güvenlik çözümlerinin kaçırdığı kimlik avı saldırılarının %99’unu durdurur. .
Ücretsiz Demoyu Deneyin
Ayrıca kılavuz, yapay zeka sistemlerinde bilinen güvenlik açıklarına yönelik hafifletici önlemlerin uygulanmasının önemini vurguluyor.
Bu proaktif yaklaşım, sistemlerin güvenliğini tehlikeye atabilecek potansiyel tehditlere karşı koruma sağlamak açısından çok önemlidir.
Ajanslar ayrıca yapay zeka sistemlerini, bunlarla ilgili verileri ve hizmetleri hedef alan kötü amaçlı etkinlikleri korumak, tespit etmek ve bunlara yanıt vermek için tasarlanmış metodolojiler ve kontroller de sağlıyor.
Dışarıdan geliştirilen yapay zeka sistemlerini dağıtan ve işleten kuruluşların, önerilen uygulamaları incelemeleri ve uygulamaları şiddetle tavsiye edilir.
Ek olarak CISA, yapay zeka güvenliğini artırmaya yönelik stratejileri daha ayrıntılı olarak ele alan “Güvenli yapay zeka sistemi geliştirme yönergeleri” ve “Yapay Zeka ile Etkileşim” gibi yapay zeka sistemlerinin güvenliğine ilişkin daha önce yayınlanmış ortak kılavuzlara işaret ediyor.
Raporda yer alan birkaç önemli önlem şöyle:
- Ayrıcalıklı erişimin kullanıldığı veya kritik hizmetlerin gerçekleştirildiği tüm cihazlarda sürekli olarak güvenlik ihlali değerlendirmeleri gerçekleştirin.
- BT dağıtım ortamını güçlendirin ve güncelleyin.
- Yapay zeka modellerinin ve tedarik zinciri güvenliğinin kaynağını inceleyin.
- Dağıtımdan önce AI sistemini doğrulayın.
- En az ayrıcalık ve derinlemesine savunma kavramlarını kullanarak yapay zeka sistemi için sıkı erişim kontrolleri ve API güvenliği uygulayın.
- Yapay Zeka Sistemlerini Güvenli Bir Şekilde Dağıtma.
- İçeriden gelen tehditleri ve diğer kötü amaçlı etkinlikleri tanımlamak için güçlü günlük kaydı, izleme ve kullanıcı ve varlık davranışı analitiğini (UEBA) kullanın.
- Yapay zeka sisteminin özü olduğundan model ağırlıklarına erişimi sınırlayın ve koruyun.
- Özellikle hızla gelişen yapay zeka alanında mevcut ve ortaya çıkan tehditlere ilişkin farkındalığı sürdürün ve kuruluşun yapay zeka sistemlerinin güvenlik açıklarını ve güvenlik açıklarını önleyecek şekilde güçlendirildiğinden emin olun.
Looking to Safeguard Your Company from Advanced Cyber Threats? Deploy TrustNet to Your Radar ASAP.