Yazan: Gaurav (GP) Pal, StackArmor Kurucusu ve CEO’su
Bu yıl yapay zekanın popülaritesi federal hükümet de dahil olmak üzere tüm sektörlerde ve endüstrilerde patlama yaşadı. Yapay zeka, daha verimli bir iş akışı oluşturmak amacıyla sıkıcı görevleri ve süreçleri kolaylaştırmak için her boyuttaki ajanslarda kullanılıyor. Bu gelişen teknoloji, kurumların misyonlarına ve halka daha iyi hizmet vermelerine yardımcı olacak sınırsız yeteneklere sahiptir.
Tüm bu heyecana rağmen, OMB kısa süre önce federal hükümette yapay zekanın uygulanmasına yönelik 10 gerekliliğin ayrıntılarını içeren taslak notu yayınladı. Bu bilgi, Biden Yönetimi’nin yapay zekaya ilişkin beklenen federal yürütme emrine ilişkin bir teaser duyurmasından kısa bir süre önce kullanıma sunuldu. OMB’nin listelediği gereksinimler arasında, bu gelişen teknolojiyle ilgili çok ihtiyaç duyulan gözetim ve rehberliği sağlamak için bir Yapay Zeka yönetim kurulunun toplanması önerisi de yer alıyor.
Hükümet yapay zekanın uygulanması konusunda deneyler yapmaya devam ettikçe ve resmi standartları beklerken, liderlerin kamu sektörü sistemlerindeki mevcut uygulamaları geliştirmek için yapay zekanın yönetişimini ve güvenliğini sağlaması gerekiyor.
Ortaklık ve İşbirliğinin Rolü
Yapay zeka yönetimini ele almaya çalışan ajanslar için bu çok zor olabilir. Bu teknoloji hızla gelişiyor ve hükümetin korkuluklar kurmaya yönelik mevzuatı çıkarabildiğinden daha hızlı uygulanıyor. Birkaç yıl önce hükümet genelinde bulut benimseme süreci gibi, yapay zekanın benimsenmesi de bir BT dönüşümünden daha fazlasıdır. Liderlerin pek çok sorusu var ve bunun nasıl kullanılabileceğinin kapsamını ve olası dezavantajların neler olduğunu kavramaya çalışıyorlar.
Yapay zekanın benimsenmesinin başlangıç aşamasındaki kurumlar, nereden başlayacakları ve tuzakların neler olabileceği konusunda tavsiye almak için sektörler arası uzmanlara danışmalıdır. Bu, resmin tamamını görmek ve süreci biraz daha az korkutucu hale getirmek için politika, satın alma, gözetim, iş gücü, misyon programı sahipleri ve endüstri liderlerini bir araya getirmek gibi görünebilir.
Yerleşik mükemmellik merkezlerine veya danışma komitelerine sahip endüstri ortakları aramak, liderlere yapay zeka yolculuklarında benzersiz tavsiye ve yardım sağlayacaktır. Hedeflenen bir odağa ve çapraz iletişim standardına sahip olmak, yapay zekanın güvenli bir şekilde benimsenmesini sağlamak için federal kurumları bir araya getirmek açısından çok önemlidir.
Yapay zekanın benimsenmesine yön veren hükümet liderleri üst düzey, deneyimli yöneticilerdir. Hızlı bir şekilde hareket edebilecekleri eyleme geçirilebilir ve uygulanabilir bir çerçeve arıyorlar. Federal CIO’lar ve CISO’lar, kurumlarının misyonu için yapay zeka iş yüklerini sorumlu bir şekilde dağıtmalarına olanak tanıyan bir çözümü sabırsızlıkla bekliyorlar.
Yapay zeka güvenliğine öncülük etmek isteyen endüstri uzmanları ve akademisyenler tarafından geliştirilen bazı yararlı kaynaklar vardır:
- NIST Yapay Zeka Risk Yönetimi Çerçevesi, yapay zeka ürünlerinin tasarımına, geliştirilmesine, kullanımına ve değerlendirilmesine güvenilirliği dahil etmek isteyen kuruluşlar için gönüllü rehberlik sağlar.
- MITRE ATLAS projesi, AI/ML açık kaynak projeleri çevresinde güvenlik uygulamalarının geliştirilmesine yardımcı oluyor ve tehdit ortamını daha iyi anlamak için rakip tehditlerden oluşan bir veritabanı topluyor.
- OWASP’nin büyük dil modelleri (LLM’ler) ve üretken yapay zeka kullanım örnekleri için en önemli 10 güvenlik hususunu ve ayrıca bir yapay zeka güvenlik ve gizlilik kılavuzunu yayınladı.
- Yapay zeka sistemlerinin elçileri için bir IEEE programı ve yapay zeka önyargı koruma sistemlerinin geliştirilmesi.
Ek olarak, Kongre, Beyaz Saray ve OMB gibi yönetim organlarının yanı sıra DHS ve NIST gibi kurumlar da standartlar geliştirmek üzerinde çalışırken, FISMA ve FedRAMP ATO’lar (Otoritesi) dahil olmak üzere mevcut yönetişim modellerinin genişletilmesi ve bunlardan yararlanılması yoluyla güvenli ve emniyetli yapay zekanın benimsenmesi hızlandırılabilir. Yapay zeka için kaplamalar oluşturarak çalıştırın). Ajanslar, yapay zekanın güvenliği ön planda tutarak güvenli bir şekilde uygulandığından emin olmak için rehberlik için endüstri ve akademik kaynaklara bakabilir.
Yaklaşan Yapay Zeka Mevzuatı ve Hükümet Rehberliğine İlişkin Hususlar
Yaklaşan OMB kılavuzu ve federal AI yürütme emri, yapay zekanın güvenli ve emniyetli bir şekilde benimsenmesini sağlamaya odaklanacak. Kılavuz, külfetli ve mükerrer uyumlulukları önleyen güçlü emniyet ve güvenlik gereksinimlerinin yönlendirilmesini ve uygulanmasını zorunlu kılmayı dikkate almalıdır. Yapay zeka sistemleri için FedRAMP gibi başarılı siber güvenlik programlarının genişletilmesi, güvenli yapay zeka ve bulut teknolojilerinin kurumlar tarafından hızla benimsenebilmesini sağlamak amacıyla düşünülmelidir.
Zorunlu olan ve güçlü düzenleyici gözetimle desteklenen güvenlik ve emniyet, kurumlar ve bağlantılı altyapılarda yapay zekayı uygulayan yasa koyucular ve hükümet liderleri için en önemli öncelik olmalıdır.
yazar hakkında
Gaurav Pal (GP), 20 yılı aşkın bilgi sistemleri modernizasyonu ve uygulama deneyimine sahip Kıdemli Teknoloji Yöneticisidir. Güvenlik odaklı bir bulut çözümleri firması olan stackArmor’un CEO’su ve kurucu ortağıdır. GP ayrıca ABD Hazinesi’nin Kamu Bulut Web Hosting Çözümleri, İçişleri Bakanlığı Temel Bulut Barındırma Hizmetleri ve Recovery.gov 2.0 dahil olmak üzere Federal bulut girişimlerine de katkıda bulundu. GP’ye çevrimiçi olarak https://stackarmor.com/contact-us/ adresinden ve şirketimizin web sitesi https://stackarmor.com/ adresinden ulaşılabilir.