Yapay Zeka ve Makine Öğrenimi , Devlet , Sektöre Özgü
‘Gönüllü Taahhüt’ Veren Şirketler Arasında Microsoft, Google, Meta, Amazon
Marianne Kolbasuk McGee (SağlıkBilgisi) •
21 Temmuz 2023
Gelişmekte olan yapay zekanın sunduğu fırsatlar ve riskler etrafında dönen hem heyecan hem de korku ile Microsoft, Amazon, Google ve Meta dahil olmak üzere yedi teknoloji şirketi Beyaz Saray’a güvenli, emniyetli ve güvenilir yapay zeka ürünlerinin geliştirilmesini sağlayacaklarına söz verdiler.
Ayrıca bakınız: İsteğe Bağlı | Gelişmiş Uç Nokta Stratejileri Sayesinde Sıfır Güven Hedeflerinize Nasıl Ulaşabilirsiniz?
Biden yönetimi Cuma günü, OpenAI, Anthropic ve Inflection’ı da içeren şirketlerden, yapay zeka ürünlerinin yapay zekanın geleceği için kritik olan üç temel ilke – güvenlik, güvenlik ve şeffaflık – üzerine inşa edilmesini sağlamak için “gönüllü taahhütler” aldığını söyledi.
Beyaz Saray, ürünlerinin güvenli olmasını sağlamak için şirketlerin, halka açıklanmadan önce yapay zeka sistemlerinin iç ve dış güvenlik testlerini gerçekleştirmeyi taahhüt ettiklerini söyledi. Beyaz Saray, buna siber güvenlik, biyogüvenlik ve ulusal güvenliği içeren tehditler de dahil olmak üzere “AI risklerinin en önemli kaynaklarından bazılarına” karşı korunma testlerini de içeriyor.
Beyaz Saray, ürünlerinin güvenli olduğunu taahhüt ederken, şirketlerin tescilli ve piyasaya sürülmemiş model ağırlıklarını korumak için siber güvenlik ve içeriden gelen tehdit önlemlerine yatırım yapma taahhüdünde bulunduğunu söyledi.
“Bu model ağırlıkları, bir AI sisteminin en önemli parçasıdır ve şirketler, model ağırlıklarının yalnızca istendiğinde ve güvenlik riskleri dikkate alındığında yayınlanmasının hayati olduğu konusunda hemfikirdir.”
Büyük teknoloji firmaları ayrıca, yapay zeka sistemlerindeki güvenlik açıklarının üçüncü taraflarca keşfedilmesini ve raporlanmasını kolaylaştırma taahhüdünde bulundu.
Beyaz Saray, “Bir yapay zeka sistemi yayınlandıktan sonra bile bazı sorunlar devam edebilir ve güçlü bir raporlama mekanizması bunların hızla bulunup düzeltilmesini sağlar” dedi.
Hükümet Yapay Zekayı Düzenleyecek mi?
Capitol Hill’deki bazı milletvekilleri, güvenliğe yönelik gönüllü taahhütleri alkışladı, ancak yönetimin ayrıca AI teknolojileri üzerinde “bir dereceye kadar düzenlemeye” ihtiyacı olduğunu söyledi.
Senato Seçilmiş İstihbarat Komitesi Başkanı Senatör Mark Warner, Cuma günü yaptığı açıklamada, “Yapay zeka tedarikçilerinin güvenlik ve emniyet konusundaki taahhütlerinden sık sık bahsettiğini duysak da, istismara açık, güvenilmez çıktılar üretmeye eğilimli ve kötüye kullanıma açık ürünlerin hızlandırılmış olarak piyasaya sürüldüğünü defalarca gördük” dedi.
Senato Çoğunluk Lideri Chuck Schumer, DN.Y, Haziran ayında hükümete yapay zekayı düzenlemek için bir çerçeve kabul etmesi için bir yasa tasarısı sundu.
Şirketler, AI teknolojilerinin güvenilirliğini sağlamak açısından, kullanıcıların içeriğin AI tarafından ne zaman üretildiğini bilmesi için filigran sistemleri gibi “sağlam teknik mekanizmalar” geliştirmeyi taahhüt ettiler. Beyaz Saray, bunun dolandırıcılık ve aldatmacayla mücadele ederken yaratıcılığın gelişmesine yardımcı olacağını söyledi.
AI Güvenilirliği Hakkında Sorular
Microsoft başkan yardımcısı ve başkanı Brad Smith, bir blogda şirketinin NIST Yapay Zeka Risk Yönetimi Çerçevesinin geniş ölçekte uygulanmasını taahhüt ettiğini ve yapay zeka siber güvenlik uygulamalarını benimsediğini söyledi. Smith, “Bunun, yalnızca müşterilerimize değil, tüm topluma fayda sağlayan daha güvenilir AI sistemlerine yol açacağını biliyoruz” dedi.
Beyaz Saray, şirketlerin taahhütlerine ek olarak, Biden yönetiminin ayrıca bir yürütme emri geliştirdiğini ve “Amerika’nın sorumlu inovasyona öncülük etmesine yardımcı olmak için” iki partili yasayı takip edeceğini söyledi.
Beyaz Saray ayrıca, Biden yönetiminin AI’nın gelişimini ve kullanımını yönetmek için uluslararası bir çerçeve oluşturmak üzere diğer ülkelerle birlikte çalışacağını söyledi. Beyaz Saray, şimdiye kadar yönetimin bu çaba için Avustralya, Brezilya, Kanada, Şili, Fransa, Almanya, Hindistan, İsrail, İtalya, Japonya, Kenya, Meksika, Hollanda, Yeni Zelanda, Nijerya, Filipinler, Singapur, Güney Kore, BAE ve Birleşik Krallık’tan gönüllü taahhütler aldığını söyledi.
Microsoft’tan Smith, sektörün bir bütün olarak yapay zeka teknolojilerinin etik gelişimine bağlı olması gerektiğini söyledi.
Smith, “Gelişmekte olan bu teknolojinin geliştirilmesinin erken aşamalarında davranış kuralları oluşturmak, yalnızca emniyet, güvenlik ve güvenilirliğin sağlanmasına yardımcı olmakla kalmayacak, aynı zamanda AI’nın ABD’deki ve dünyadaki topluluklar üzerindeki olumlu etkisini daha iyi ortaya çıkarmamıza da olanak tanıyacak” dedi.