ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA) ve Birleşik Krallık Ulusal Siber Güvenlik Merkezi (NCSC), yapay zeka (AI), siber güvenlik ve kritik altyapının entegrasyonunu ele almak için Güvenli Yapay Zeka Sistemi Geliştirme Yönergelerini yayınladı.
Kılavuzlar, Tasarım Yoluyla Güvenli ilkeleri uygulamanın öneminin altını çiziyor ve ABD’nin Güvenli, Güvenli ve Güvenilir Yapay Zekayı Sağlamaya Yönelik Gönüllü Taahhütlerini tamamlayarak yapay zeka sistemi geliştirme için önemli tavsiyeler sunuyor.
Bu yaklaşım, güvenlik sonuçlarına, radikal şeffaflığa ve hesap verebilirliğe ve güvenli tasarıma yüksek derecede odaklanan organizasyonel yapılara sahip olan müşterilere yüksek değer verir.
CISA ve NCSC tarafından yayınlanan yönergelere göre, “Bu yönergelerin uygulanması, sağlayıcıların amaçlandığı gibi çalışan, ihtiyaç duyulduğunda kullanılabilen ve hassas verileri yetkisiz taraflara ifşa etmeden çalışan yapay zeka sistemleri oluşturmasına yardımcı olacaktır.”
Güvenli Yapay Zeka Sistemi Geliştirme Yönergeleri
Alışılagelmiş siber güvenlik risklerine ek olarak yapay zeka sistemlerindeki yeni güvenlik kusurlarının da dikkate alınması gerekiyor. Yapay zeka hızla geliştikçe diğer faktörler lehine güvenlik sıklıkla ihmal ediliyor.
Yapay zeka sistemi geliştirme yaşam döngüsünde yönergeler dört ana alana bölünmüştür: güvenli tasarım, güvenli geliştirme, güvenli dağıtım ve güvenli işletme ve bakım.
Yaklaşan web seminerinde CTO Karthik Krishnamoorthy ve Indusface Ürün Başkan Yardımcısı Vivek Gopalan, API’lerin nasıl saldırıya uğrayabileceğini gösteriyor. Oturumda şunlar ele alınacak: OWASP API’nin en iyi 10 güvenlik açığından yararlanma, API’ye kaba kuvvetle hesap ele geçirme (ATO) saldırısı, API’ye DDoS saldırısı, WAAP’ın API ağ geçidi üzerinden güvenliği nasıl artırabileceği
Ücretsiz Kayıt Ol
Güvenli Tasarım
Yapay zeka sistemi geliştirme yaşam döngüsünün tasarım aşamasına ilişkin yönergeler bu bölümde yer almaktadır:
- Tehdit ve riskler konusunda personelin farkındalığını artırın
- Sisteminize yönelik tehditleri modelleyin
- Sisteminizi işlevsellik ve performansın yanı sıra güvenlik açısından da tasarlayın
- Yapay zeka modelinizi seçerken güvenlik avantajlarını ve ödünleşimleri göz önünde bulundurun
Güvenli Geliştirme
Bu bölüm, yapay zeka sistemi geliştirme yaşam döngüsünün geliştirme aşamasıyla ilgili aşağıdaki gibi öneriler içerir:
- Tedarik zincirinizi güvence altına alın
- Varlıklarınızı tanımlayın, takip edin ve koruyun
- Verilerinizi, modellerinizi ve istemlerinizi belgeleyin
- Teknik borcunuzu yönetin
Güvenli Dağıtım
Bu bölüm, yapay zeka sistemi geliştirme yaşam döngüsünün dağıtım aşaması için geçerli olan aşağıdaki gibi yönergeleri içerir:
- Altyapınızı güvence altına alın
- Modelinizi sürekli koruyun
- Olay yönetimi prosedürlerini geliştirin
- Yapay zekayı sorumlu bir şekilde serbest bırakın
- Kullanıcıların doğru şeyleri yapmasını kolaylaştırın
Güvenli Çalıştırma ve Bakım
Yapay zeka sistemi geliştirme yaşam döngüsünün güvenli işletim ve bakım aşamasına yönelik yönergeler bu bölümde yer almaktadır.
- Sisteminizin davranışını izleyin
- Sisteminizin girişini izleyin
- Güncellemelere yönelik tasarımı gereği güvenli bir yaklaşım izleyin
- Öğrenilen dersleri toplayın ve paylaşın
CISA, veri bilimcileri, geliştiriciler, yöneticiler, karar vericiler ve risk sahipleri de dahil olmak üzere tüm paydaşlara, makine öğrenimi yapay zeka sistemlerinin geliştirilmesi, uygulanması ve yönetimi hakkında karar vermelerine yardımcı olması için bu kılavuzu okumalarını şiddetle tavsiye eder.
14 günlük ücretsiz deneme sürümünü deneyerek StorageGuard’ın depolama sistemlerinizdeki güvenlik kör noktalarını nasıl ortadan kaldırdığını deneyimleyin.