Yapay Zeka ve Makine Öğrenimi, Hükümet, Sektöre Özel
Vali, Yapay Zeka Kullanımı ve Kamu Kurumlarındaki Risklere İlişkin Politikalar İçin 2 Yıllık Son Tarih Belirledi
Rashmi Ramesh (raşmiramesh_) •
7 Eylül 2023
Kaliforniya Valisi Gavin Newsom Çarşamba günü yapay zekanın gelişimini, kullanımını ve risklerini incelemek ve eyalet hükümetinde “güvenilir yapay zeka”yı konuşlandırmak için bir süreç geliştirmek üzere bir idari emir imzaladı.
Ayrıca bakınız: İsteğe Bağlı | Gelişmiş Uç Nokta Stratejileri Sayesinde Sıfır Güven Hedeflerinize Nasıl Ulaşabilirsiniz?
Newsom, önümüzdeki iki yıl içinde kademeli bir uygulama çağrısında bulunan Yönetici Kararnamesi N-12-23’ün gerekli olduğunu çünkü “üretken yapay zekanın neler yapabileceğini anlamanın yalnızca yüzeyini çiziyoruz” dedi.
Belgede, benzeri görülmemiş inovasyon hızı ve teknolojinin yaygınlaştırılmasının, devletin siber saldırılar ve dezenformasyon da dahil olmak üzere yapay zekanın risklerine veya kötü niyetli kullanımlarına karşı savunma sağlamak için korkuluklar koymasını gerekli kıldığı belirtiliyor.
Yönetici emri, devlet kurumlarının ve departmanlarının önümüzdeki 60 gün içinde üretken yapay zeka araçlarının kullanım durumlarını ve risklerini detaylandıran bir rapor sunmaları yönünde çağrıda bulunuyor. Kararda, risklerin “kötü aktörlerden ve yeterince korunmayan hükümet sistemlerinden kaynaklananlar, istenmeyen veya ortaya çıkan etkiler ve demokratik ve yasal süreçlere, kamu sağlığı ve güvenliğine ve ekonomiye yönelik potansiyel riskleri” içermesi gerektiği belirtiliyor.
Karar aynı zamanda Kaliforniya Siber Güvenlik Entegrasyon Merkezi ve Kaliforniya Eyalet Tehdit Değerlendirme Merkezi’ne, Mart 2024’e kadar üretken yapay zekanın Kaliforniya’nın kritik enerji altyapısına yönelik potansiyel tehditlerini analiz etme ve bu potansiyel risklere karşı koruma tavsiyesinde bulunma talimatı veriyor.
Devlet Operasyon Ajansı, Kaliforniya Genel Hizmetler Departmanı, Kaliforniya Teknoloji Departmanı ve Kaliforniya Siber Güvenlik Entegrasyon Merkezi, Ocak 2024’e kadar üretken yapay zekanın kamu sektörü tarafından benimsenmesi ve kullanılmasına ilişkin yönergeler yayınlamalı ve bu araçların kamu sektörü üzerindeki etkisini değerlendirmelidir. Temmuz 2024’e kadar bu etkilerin üstesinden gelmeye yönelik önerilerde bulunun. 2025 yılına kadar yeni yönergelerin kabul edilmesi planlanıyor. Bu yönergelerin Beyaz Saray’ın Yapay Zeka Hakları Bildirgesi ve Ulusal Standartlar ve Teknoloji Enstitüsü’nün Yapay Zeka Planı temel alınarak oluşturulması gerekiyor. Risk Yönetimi Çerçevesi güvenlik, algoritmik ayrımcılığı ve veri gizliliğini ele almalıdır.
Karar, Kaliforniya Teknoloji Bakanlığı’na, üretken yapay zeka pilot projelerini Mart ayına kadar yürütmek için altyapı kurma ve devlet kurumlarının Temmuz ayına kadar bunların uygulanmasını değerlendirmeye başlayabilmelerini sağlamak amacıyla projeleri test etmek için sanal alanlar kurma talimatını veriyor.
Yapay zekanın sorumlu kullanımına yönelik politika önerileri geliştirmek ve gelişen teknolojinin etkisini sürekli olarak değerlendirmek için yasama ortakları ve kilit paydaşlarla etkileşime geçmeyi amaçlıyor.
Yönetici emri, üretken yapay zekanın Kaliforniya üzerindeki etkisini değerlendirmek ve “bu sektördeki liderliğini ilerletmenin” yolları üzerine beyin fırtınası yapmak için Kaliforniya Üniversitesi, Berkeley ve Stanford Üniversitesi ile ortaklık kurmayı amaçlıyor. 2024’te “üretken yapay zekanın Kaliforniya ve işgücü üzerindeki etkileri hakkında anlamlı tartışmalara katılmak” için ortak bir zirveye ev sahipliği yapacak gibi görünüyor.