Yapay Zeka ve Makine Öğrenimi, Kritik Altyapı Güvenliği, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
OpenAI, Microsoft ve Alphabet Başkanları Yapay Zeka Güvenlik ve Güvenlik Kurulunun Açılışına Katıldı
Chris Riotta (@chrisriotta) •
26 Nisan 2024
Yetkililer Cuma günü yaptığı açıklamada, büyük teknoloji ve yapay zeka firmalarının liderlerinin, Amerika’nın kritik altyapı sistemlerinde yapay zeka teknolojilerinin güvenli bir şekilde geliştirilmesini ve konuşlandırılmasını sağlamayı amaçlayan federal bir güvenlik ve güvenlik kuruluna katıldığını duyurdu.
Ayrıca bakınız: Gözlemlenebilirlik İçin 12 Değişmez Kural
Alphabet, Microsoft ve OpenAI’nin başkanları, idarenin yapay zekaya ilişkin 2023 idari emri kapsamında kurulan İç Güvenlik Bakanlığı Yapay Zeka Güvenliği ve Güvenlik Kurulu’na katılan kamu ve özel sektör kuruluşlarından 22 temsilci arasında yer alıyor. Kurulda Demokrasi Merkezi, Beyaz Saray Bilim ve Teknoloji Politikası Ofisi ve Sivil ve İnsan Hakları Liderlik Konferansı’ndan sivil haklar liderleri, akademisyenler ve politika yapıcılar yer alıyor.
Açılış kurulu, kritik altyapı paydaşları için “ulusal veya ekonomik güvenliği, kamu sağlığını veya güvenliğini etkileyen kritik hizmetlerde yapay zeka ile ilgili kesintilerin önlenmesi ve bunlara hazırlıklı olunması” da dahil olmak üzere geniş bir dizi öneri geliştirmek üzere bu yıl toplanacak. DHS’den açıklama
Yönetim kuruluna başkanlık edecek olan İç Güvenlik Bakanı Alejandro Mayorkas, grubun ülkenin kritik altyapısının yapay zeka teknolojileriyle ilgili “risklere karşı etkili bir şekilde koruma sağlamasını ve muazzam potansiyeli gerçekleştirmesini” sağlamak için çalışacağını söyledi.
Mayorkas, “Yapay zeka, ulusal çıkarlarımızı benzeri görülmemiş şekillerde ilerletebilecek dönüştürücü bir teknolojidir.” dedi. “Aynı zamanda gerçek riskler de sunuyor; en iyi uygulamaları benimseyerek ve üzerinde çalışılan diğer somut eylemleri gerçekleştirerek azaltabileceğimiz riskler.”
Bakanlığa göre kurul, Mayıs ayında üç ayda bir toplantılar başlatacak ve DHS ile kritik altyapı topluluğuna yapay zekanın güvenliğine yönelik uygulanabilir öneriler sunmak için acil planlar yapacak. Kurul ayrıca kritik altyapı operatörleri ve yapay zeka liderlerinin yapay zeka araçlarıyla ilişkili ortaya çıkan güvenlik riskleri hakkında DHS ile bilgi paylaşması için bir forum oluşturacak.
DHS ayrıca, ajansın 2024 Vatan Tehdit Değerlendirmesi’nde düşman ulus-devlet aktörlerinin “daha büyük ölçekli, daha hızlı, “boru hatlarını, demiryollarını ve ABD’nin diğer kritik altyapısını” hedef alan verimli ve daha kaçamak siber saldırılar.
Yönetim kurulunda OpenAI’den Sam Altman, Alphabet’ten Sundar Pichai ve Amazon Web Services’ten Adam Selipsky gibi teknoloji devleri yer alıyor. Bu grupta aynı zamanda Maryland Valisi Wes Moore, ABD Belediye Başkanları Konferansı Teknoloji ve Yenilik Daimi Komitesi’ne başkanlık eden Seattle Belediye Başkanı Bruce Harrell ve Brookings Enstitüsü Teknoloji Yenilik Merkezi direktörü Nicol Turner Lee gibi araştırmacılar da yer alıyor.
Sivil ve İnsan Hakları Liderlik Konferansı başkanı ve CEO’su Maya Wiley yaptığı açıklamada, “Ülkemizin altyapısında yapay zekayı sorumlu bir şekilde kullanma misyonuna sahip herhangi bir kurulda sivil haklar perspektifine sahip olmak kritik öneme sahiptir.” dedi.
DHS son yıllarda bir yapay zeka girişimi dalgası başlattı. Eylül ayında ilk yapay zeka şefini atadı ve personelin, korunan kişilerin profilini çıkarmak veya onlara karşı ayrımcılık yapmak için yapay zeka teknolojilerini kullanmasını yasakladı (bkz: ABD DHS Yeni Yapay Zeka Korkuluklarını Duyurdu). Ajans ayrıca yapay zeka yeteneklerini hükümet operasyonlarına entegre etmeye yönelik daha geniş bir çabanın parçası olarak düzinelerce yapay zeka uzmanını da işe alıyor.
DHS, yorum talebine hemen yanıt vermedi. Ajans, bugüne kadar 4.000’den fazla başvuru aldığını ve şu anda adayları inceleme ve işe alma sürecinde olduğunu söyledi.