Avrupa Telekomünikasyon Standartları Enstitüsü (ETSI), yapay zeka ile çalışan güvenlik ekipleri için artan endişeyi ele alan yeni bir Avrupa Standardı yayınladı. ETSI EN 304 223 standardı, gerçek dünyada kullanıma yönelik yapay zeka modelleri ve sistemleri için temel siber güvenlik gereksinimlerini belirler.
Yapay zekaya özgü güvenlik risklerini ele alma
ETSI EN 304 223, yapay zekayı güvenlik açısından ayrı bir teknoloji kategorisi olarak ele alır. Yapay zeka sistemleri, veri hatlarına, model davranışlarına ve operasyonel ortamlara bağlı riskleri beraberinde getirir. Bunlar arasında veri zehirlenmesi, model gizleme, dolaylı istem enjeksiyonu ve karmaşık eğitim ve dağıtım uygulamalarıyla bağlantılı zayıflıklar yer alır.
ETSI EN 304 223, yerleşik siber güvenlik uygulamalarını bu yapay zekaya özgü riskler için tasarlanmış önlemlerle bir araya getirir. Sonuç, güvenlik ekiplerinin operasyonel ömürleri boyunca yapay zeka modellerine ve sistemlerine uygulayabilecekleri yapılandırılmış bir gereksinimler dizisidir.
Yaşam döngüsüne dayalı gereksinimler
ETSI EN 304 223, yapay zeka yaşam döngüsünün beş aşaması boyunca 13 ilke ve gereksinimi tanımlar:
- Güvenli tasarım
- Güvenli geliştirme
- Güvenli dağıtım
- Güvenli bakım
- Güvenli yaşam sonu
Her aşama, uluslararası kabul görmüş yapay zeka yaşam döngüsü modelleriyle uyumludur. Yapay zeka ekosistemi genelinde tutarlı uygulamayı ve mevcut kılavuzlarla uyumu desteklemek için her prensibin başında ilgili standartlara ve yayınlara referanslar yer almaktadır.
Yapay zeka tedarik zinciri genelinde alaka
Standardın kapsamı, üretken yapay zeka da dahil olmak üzere derin sinir ağlarına dayanan yapay zeka sistemlerini kapsar. Operasyonel ortamlarda devreye alınması amaçlanan sistemleri hedefler. Satıcılar, sistem entegratörleri ve operatörler, standardı yapay zeka güvenlik uygulamaları için ortak bir temel olarak kullanabilir.
ETSI EN 304 223’ün geliştirilmesi, uluslararası kuruluşlardan, devlet kurumlarından ve siber güvenlik ve yapay zeka topluluklarından uzmanların girdilerini yansıtır. Bu işbirlikçi yaklaşım, birden fazla sektör ve dağıtım bağlamı genelinde uygulanabilirliği destekler.
ETSI Yapay Zekanın Güvenliğini Sağlama Teknik Komitesi Başkanı Scott Cadzow, “ETSI EN 304 223, yapay zeka sistemlerinin güvenliğinin sağlanması için ortak ve sağlam bir temel oluşturulmasında ileriye doğru atılmış önemli bir adımı temsil ediyor” dedi. “Yapay zekanın kritik hizmetlere ve altyapıya giderek daha fazla entegre edildiği bir dönemde, hem bu teknolojilerin karmaşıklığını hem de dağıtımın gerçeklerini yansıtan açık, pratik rehberlerin varlığı göz ardı edilemez. Bu çerçeveyi sunmak için yapılan çalışmalar kapsamlı iş birliğinin sonucudur ve bu, kuruluşların dayanıklı, güvenilir ve tasarımı itibarıyla güvenli olan yapay zeka sistemlerine tam olarak güvenebileceği anlamına gelir.”