ABD Ticaret Bakanlığı, gelişmiş yapay zeka geliştiricileri ve bulut bilişim sağlayıcıları için, teknolojilerin güvenli olmasını ve siber saldırılara karşı dayanıklı olmasını sağlamak amacıyla ayrıntılı raporlama gereklilikleri getirmeyi teklif ediyor.
Bakanlığın Sanayi ve Güvenlik Bürosu’nun önerisi, “sınır” yapay zeka modelleri ve bilgi işlem kümelerinin geliştirme faaliyetleri hakkında ABD hükümetine zorunlu raporlama yapılmasını öngörüyor.
Ayrıca siber güvenlik önlemlerinin yanı sıra siber saldırılara yardımcı olma veya kimyasal, biyolojik, radyolojik veya nükleer silah geliştirme konusunda uzman olmayan kişilere yönelik giriş engellerini düşürme gibi tehlikeli yeteneklerin test edilmesi gibi sözde kırmızı takım çabalarının sonuçları hakkında da raporlama yapılması gerekecektir.
Siber güvenlikte yeni riskleri tespit etmek için yıllardır dış kaynaklı kırmızı takım yöntemi kullanılıyor. Bu terim, ABD’nin Soğuk Savaş simülasyonlarında düşmanın “kırmızı takım” olarak adlandırılmasını ifade ediyor.
Açık uçlu komutlara yanıt olarak metin, fotoğraf ve video oluşturabilen Üretken Yapay Zeka, heyecan yarattığı kadar bazı işleri ortadan kaldırabileceği, seçimleri altüst edebileceği, potansiyel olarak insanları alt üst ederek felaket sonuçlara yol açabileceği korkularını da beraberinde getirdi.
Ticaret Bakanlığı, teklif kapsamında toplanan bilgilerin “bu teknolojilerin güvenlik ve güvenilirlik açısından sıkı standartları karşılamasını, siber saldırılara dayanıklı olmasını ve yabancı düşmanlar veya devlet dışı aktörler tarafından kötüye kullanılma riskinin sınırlı olmasını sağlamak açısından hayati önem taşıyacağını” söyledi.
Başkan Joe Biden, Ekim 2023’te ABD ulusal güvenliği, ekonomisi, halk sağlığı veya emniyeti için risk oluşturan yapay zeka sistemleri geliştiricilerinin, güvenlik testlerinin sonuçlarını kamuoyuna açıklanmadan önce ABD hükümetiyle paylaşmasını gerektiren bir yürütme emri imzaladı.
Kural, gelişmiş yapay zeka (YZ) modelleri ve bilgi işlem kümeleri için raporlama gerekliliklerini belirleyecek.
Düzenleyici baskı, Kongre’de yapay zekaya ilişkin yasal işlemlerin durmasının ardından geliyor.
Bu yılın başlarında, BIS yapay zeka geliştiricileri arasında bir pilot anket gerçekleştirdi. Biden yönetimi, büyüyen sektörün güvenlik endişeleri yaratması nedeniyle Çin’in ABD teknolojisini yapay zeka için kullanmasını önlemek için bir dizi adım attı.