Yapay Zeka ve Makine Öğrenimi, Siber Savaş / Ulus-Devlet Saldırıları, Dolandırıcılık Yönetimi ve Siber Suçlar
Yeni Raporda Kimyasal ve Nükleer Yapay Zeka Risklerini Azaltmak İçin Kamu-Özel Sektör İşbirliği Çağrısı Yapılıyor
Chris Riotta (@chrisriotta) •
25 Haziran 2024
ABD İç Güvenlik Bakanlığı, yapay zekanın küresel tehdit aktörlerinin yeni kimyasal, biyolojik ve nükleer riskler yaratması ve dağıtması için giriş engellerini azalttığı konusunda uyarıyor.
Ayrıca bakınız: İsteğe Bağlı | Dijital Doppelgängers: Deepfake Teknolojisinin İkili Yüzü
Bakanlık, Nisan ayında bir taslak sunduktan sonra Pazartesi günü yapay zeka ile kimyasal, biyolojik, radyolojik ve nükleer tehditlerin kesişimindeki risklerin azaltılmasına ilişkin bir rapor yayınladı. Rapor, Kongre’ye, federal kurumlara ve özel sektöre yapay zeka teknolojisi yönetiminde “uyarlanabilir ve yinelemeli” olmaları ve “hızlı veya öngörülemeyen teknolojik gelişmelere yanıt vermeleri” çağrısında bulunuyor.
Raporda “Biyoteknoloji, biyoimalat ve yapay zeka sektörlerindeki devrim niteliğindeki değişim hızı, mevcut düzenleme zorluklarını daha da artırıyor” ifadesine yer veriliyor. “Sanayi, hükümet ve akademi arasında sürekli etkileşimi” tavsiye ediyor.
DHS, mevcut düzenlemelerin ve ihracat kontrollerinin yapay zekanın yardımıyla oluşturulan potansiyel olarak zararlı nükleik asit dizilerinin oluşturduğu riskleri hesaba katmadığını söyledi. Mevcut kontrollerdeki bu tür boşluklar, tehdit aktörlerinin yapay zekayı tehlikeli biyolojik ajanlar geliştirmek için kötüye kullanmasına, tespitten kaçmasına ve potansiyel olarak geniş çaplı zarara neden olmasına olanak tanıyabilir.
Rapor, yapay zekanın KBRN önleme, tespit, müdahale ve hafifletme çabalarına entegrasyonunun “önemli veya acil faydalar sağlayabileceğini” söylüyor ancak aynı zamanda mevcut düzenleyici sınırlamaların, hükümetin yapay zeka araştırma, geliştirme ve uygulamasını düzgün bir şekilde denetleme yeteneğini engellediğini de söylüyor. DHS ayrıca raporda federal hükümetin “şu anda yapay zekayı kapsamlı bir şekilde düzenlemek veya denetlemek için kapsamlı bir yasal veya düzenleyici çerçeveye sahip olmadığını” kabul etti ve çeşitli yapay zeka yönetişim yaklaşımlarının birçok geliştirici için uyumluluk zorluklarına yol açabileceği konusunda uyardı.
Önerileri arasında yapay zeka geliştiricilerini biyolojik veya kimyasal araştırmalarda kullanılan modeller için kaynak kodunu ve yapay zeka model ağırlıklarını gönüllü olarak yayınlamaya teşvik etmek yer alıyor.
Raporda, “yapay zeka risklerini yönetmek, yapay zekanın iyilik potansiyelini açığa çıkarmak ve dünya çapındaki gelişmelerin ışığında ortak zorluklara yönelik ortak yaklaşımları teşvik etmek için yaklaşımlar, ilkeler ve çerçeveler geliştirmek için hükümetler, küresel kuruluşlar ve özel kuruluşlar gibi uluslararası paydaşlarla etkileşimin gerekli olduğu” belirtiliyor. Yapay zeka teknolojilerinin yayılması.”
DHS Sekreteri Alejandro Mayorkas, rapora eşlik eden bir açıklamada bunun, yapay zeka teknolojilerinin “güvenli, güvenli ve güvenilir bir şekilde geliştirilmesi ve kullanılmasının nasıl sağlanacağı konusunda daha uzun vadeli hedefler sağlamak” anlamına geldiğini söyledi.