Yapay Zekayla Geliştirilmiş Nükleer ve Kimyasal Tehditler ABD İçin Risklidir

Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme

Yeni Rapor, Küresel Tehdit Aktörlerinin ABD’ye Yönelik Fiziksel Saldırıları Geliştirmek İçin Yapay Zekayı Kullanabileceğini Söylüyor

Chris Riotta (@chrisriotta) •
30 Nisan 2024

İç Güvenlik Bakanlığı yeni bir raporda, farklı karmaşıklık seviyelerindeki küresel tehdit aktörlerinin ABD çıkarlarına karşı nükleer veya kimyasal saldırıları kavramsallaştırmak ve gerçekleştirmek için gerekli yetenekleri kazanabileceği konusunda uyarıyor.

Ayrıca bakınız: Küresel Tehdit Raporu 2024: Yönetici Özeti

Ajans Pazartesi günü, kritik altyapı sektörlerini ve ABD kitle imha silahlarını yapay zeka destekli tehditlere karşı korumaya çalışan, kuruluşları yapay zeka risklerini izlemeye ve risk yönetimi kontrollerini uygulamaya yönelik yöntemler belirlemeye yönlendiren yönergeler yayınladı.

DHS, aynı gün yayınlanan ayrı bir raporda, ABD’nin mevcut biyolojik ve kimyasal güvenlik düzenlemelerinde “halk sağlığı, ekonomik güvenlik veya risk teşkil eden hem kasıtlı hem de kasıtsız tehlikeli araştırma sonuçları olasılığını artırabilecek bilinen sınırlamalardan muzdarip olduğunu” söyledi. Ulusal Güvenlik.”

Güvenlik araştırmacıları, Bilgi Güvenliği Medya Grubu ile yapılan çok sayıda röportajda DHS tarafından ifade edilen endişeleri yineleyerek, ABD hedeflerine veya ulusal güvenlik çıkarlarına yönelik fiziksel saldırıların, yeni silahlar veya zararlı materyaller oluşturmaya yardımcı olmak için yapay zeka kullanılarak daha da kötüleştirilebileceği konusunda uyardı. Analistler ayrıca birçok kritik altyapı kuruluşunun şu anda yetersiz kaynaklara sahip olduğu ve siber güvenlik duruşlarını hızlı bir şekilde iyileştirme konusunda hazırlıksız olduğu konusunda da uyardı.

Güvenlik platformunun baş yapay zeka mühendisi Joseph Thacker, ajansın yeni başlatılan Yapay Zeka Güvenlik ve Güvenlik kurulunun, güvenlik düzenleme sınırlamaları ile gelişmiş siber güvenlik arasındaki boşlukları kapatmaya yardımcı olmak için “üst düzey yönergelerin yanı sıra daha spesifik, eyleme geçirilebilir uygulama önerileri yayınlamaya öncelik vermesi gerektiğini” söyledi. AppOmni.

Thacker, “Yapay zekanın ne kadar hızlı hareket ettiği göz önüne alındığında, kritik altyapı operatörlerinin uygulamaya koyabilecekleri somut teknik rehberliğe ihtiyacı olacak” dedi. “Yönetim kurulu ve kuruluş, ilkeleri gerçek dünya güvenlik önlemlerine dönüştüren referans mimarileri, yapılandırma kontrol listeleri ve kod örnekleri gibi uygulamalı araçlar sağlamalıdır.”

Washington merkezli kar amacı gütmeyen Nükleer Tehdit Girişimi tarafından yayınlanan 2023 endeksine göre ABD’de nükleer güvenlik geriliyor.

Kimyasal, biyolojik, radyolojik ve nükleer saldırılarda ortaya çıkan teknolojilerle ilişkili tehditler felaket olabilirken, DHS ayrıca “Yapay zekanın KBRN önleme, tespit, müdahale ve hafifletme yeteneklerine entegrasyonu önemli veya acil faydalar sağlayabilir” dedi.

Ajans, yapay zeka araçlarının, silahsızlanma anlaşmaları ve nükleer silahların yayılmasını önleme taahhütleri gibi küresel anlaşmalara uluslararası uyumun izlenmesi de dahil olmak üzere kimyasal, biyolojik, radyolojik ve nükleerle ilgili temel çabalarda uluslararası işbirliğini geliştirebileceğini söyledi.

Bulut güvenlik firması Qualys’in tehdit avlama biriminin siber tehditler direktörü Ken Dunham’a göre, muazzam vaatlerine rağmen yapay zeka araçları, ABD çıkarlarına karşı KBRN saldırılarını ilerletme konusunda “tamamen yeteneklidir”.

Dunham, “Yapay zeka, kritik altyapılara saldırmak ve kontrol etmek, insan gruplarını etkilemek ve daha fazlasını gerçekleştirmek için ulus devlet düşmanları tarafından konumlandırılıyor ve geliştiriliyor.” dedi. “Bilgisayar gücüne ve odaklanmış, hedeflenmiş, güçlü ulusların stratejik kullanımına ve iyileştirilmesine göre ölçeklendiğinde, ortaya çıkan bu tehdit ortamında bilinmeyen bir yapay zeka riski potansiyeli var.”

Yönergeler aynı zamanda yapay zeka araçlarının tasarımında ve uygulanmasında büyük güvenlik açıklarına yol açabilecek başarısızlıkların yanı sıra özellikle yapay zeka sistemlerini hedef alan saldırılarda artışa karşı da uyarıda bulunuyor. DHS, tasarım ve uygulama başarısızlıklarının yaygın örneklerinin “özerklik, kırılganlık ve anlaşılmazlık” olduğunu söyledi.

Tehdit aktörleri, tespit edilmekten kaçınmak için yapay zeka algoritmalarına yönelik hizmet saldırılarının yanı sıra düşmanca manipülasyon kampanyaları ve kaçınma taktiklerini giderek daha fazla kullanıyor.