Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Milletvekilleri, NIST’in Yapay Zeka Araştırmaları İçin Ödül Süreci Hakkında Bilgi Veremediğini Söyledi
Chris Riotta (@chrisriotta) •
27 Aralık 2023
Yasa yapıcılar, yapay zeka teknolojilerinin geliştirilmesini ve sorumlu kullanımını teşvik etmek için dış araştırma çabalarını finanse etmeye hazırlanan ABD Ulusal Standartlar ve Teknoloji Enstitüsü’nden daha fazla şeffaflık talep ediyor.
Ayrıca bakınız: BT ve Güvenlikte Yapay Zekanın Geleceği Nedir?
Temsilciler Meclisi Bilim, Uzay ve Teknoloji Komitesi başkanı R-Okla’dan Temsilci Frank Lucas, iki partili bir grup milletvekilinin 14 Aralık’ta NIST Direktörü Laurie Locascio’ya gönderilen bir mektubu yazmasına öncülük etti. Mektupta, ajansın yapay zeka güveni ve güvenlik araştırması için sağlam, bilimsel bir çerçeve geliştirme çabalarına öncülük etmesi nedeniyle “Yapay zeka güvenlik araştırma alanının mevcut durumu NIST için zorluklar yaratıyor” deniyordu.
Ajans, kapsamlı bir ulusal düzenlemenin yokluğunda bile federal hükümetin yapay zekaya koruma sağlama çabalarında birincil bir rol üstlendi. Ekim ayında Başkan Joe Biden tarafından imzalanan bir idari emir, NIST’e Yapay Zeka Güvenlik Enstitüsü’nü ayağa kaldırması ve yapay zeka geliştiricileri için “özellikle çift kullanımlı temel modeller” için kırmızı takım testleri yürütme konusunda kılavuzlar geliştirmesi talimatını verdi (bkz.: NIST, Güvenilir Yapay Zeka İçin Rehberlik Konusunda Kamu Görüşünü İstiyor).
Onlarca yıldır bilimsel açıdan durgun bir durumda olan araştırma ajansı, Obama yönetimi sırasında siber güvenlik alanında yüksek profilli bir rol üstlendi ve şimdi, Biden yönetimi sayesinde, yapay zekayı evcilleştirmeye yönelik federal çabaların merkezinde yer alıyor. İnceleme zaten takip etti.
Milletvekilleri, NIST’in yeni yapay zeka enstitüsü aracılığıyla yapay zeka araştırmalarını finanse etme planlarıyla ilgili belirli endişelerini dile getirdi. Mektupta, NIST’in araştırma kurumlarına ve özel kuruluşlara finansman fırsatlarını nasıl vermeyi planladığı konusunda şu ana kadar yeterli bilgi sağlayamadığı belirtildi ve 11 Aralık’ta yapılan kongre personeli brifinginde ödül sürecini tartışmadı.
Mektupta, “Bu ödüllere ilişkin süreç hakkında kamuya açık herhangi bir bilgi yok gibi görünüyor; finansman fırsatı, duyurulan yarışma veya kamuya açık ilan hakkında herhangi bir bildirim yok” deniyor. Ayrıca, AISI tarafından finanse edilen ödüllere ilişkin sürecin, NIST’in konsorsiyumda ortak araştırma ve geliştirme anlaşmaları yapmak isteyen kuruluşlara sağladığı bilgilerden “önemli ölçüde farklı” olduğu belirtiliyor.
Mektupta, “NIST yapay zeka güvenliğine ilişkin şehir dışı araştırmaları finanse etmeye hazırlanırken, bilimsel değer ve şeffaflık en önemli husus olmaya devam etmelidir” deniyor.
Mektup, yapay zeka ve siber güvenlik uzmanlarından oluşan bir koroya, yapay zeka yürütme emrinin temel bileşenlerini gerçekleştirmede NIST ve federal kurumların önündeki zorluklar konusunda uyarıda bulunuyor (bkz.: Biden’ın Sağlam Yapay Zeka Yönetici Kararı Neden 2024’te Yetersiz Kalabilir?).
NIST, 19 Aralık’ta, yapay zeka geliştiricileri için kırmızı ekip oluşturma ve güvenlik değerlendirme yönergelerinin geliştirilmesine ilişkin girdi arayan bir bilgi talebi yayınladı. Yürütme emrinin gerektirdiği şekilde, ABD kamuoyu için ulusal güvenlik veya emniyet riskleri oluşturabilecek gelişmiş yapay zeka sistemleri geliştirenlere, gelecek rehberlik uygulanacaktır.
Ajans ayrıca, AI enstitüsüyle bağlantılı yeni bir konsorsiyuma katılmakla ilgilenen kuruluşların ilgi mektuplarını 15 Ocak 2024’e kadar kabul etmeye devam edecek. NIST, konsorsiyumun amacının “güvenli ve güvenilir yapay zekanın geliştirilmesini ve sorumlu kullanımını teşvik etmek için kanıtlanmış, ölçeklenebilir ve birlikte çalışabilir teknikler ve ölçümler” oluşturma konusunda işbirlikçi çabaları ilerletmeye yardımcı olmak olduğunu söyledi.
Milletvekilleri yeni yapay zeka güvenlik enstitüsünün kurulmasını alkışladılar ve NIST’in “yapay zeka güveni ve güvenlik araştırması alanı için sağlam, bilimsel temelli bir çerçeve geliştirmede haklı olarak lider olarak görüldüğünü” söyledi.
Milletvekilleri, “NIST’in yapay zeka güvenlik araştırmaları için federal araştırma fonu alıcılarını, daha geniş federal araştırma kuruluşunu karakterize eden aynı katı bilimsel ve metodolojik kalite kurallarına tabi tutmasını bekliyoruz” dedi.
NIST, Bilgi Güvenliği Medya Grubu’nun yorum talebine hemen yanıt vermedi.