Yapay zekanın kötüye kullanımına karşı savunma yapmanın zorluğu ve olası çözümler, bugün ABD kongresindeki duruşmanın konusuydu.
Veri güvenliği ve mahremiyet yetkilileri ve savunucuları, Temsilciler Meclisi İç Güvenlik Komitesi önünde “İleri İnovasyon (AI): Anavatanı Savunmak ve Güvenliğini Sağlamak için Yapay Zekadan Yararlanma” başlıklı duruşmada ifade verenler arasındaydı. Komite başkanı Mark E. Green (R-TN), komitenin hazırladığı mevzuata yapay zekayı da dahil etmeyi planladığını söyledi.
Duruşmada siber güvenlik ve mahremiyet tehditlerinden seçim müdahalesine ve ulus devlet saldırılarına kadar yapay zekanın geniş kapsamlı tehditleri ve savunma oluşturmanın zorlukları vurgulandı. Bununla birlikte, duruşmada teknoloji ve siber güvenlik şirketlerini ve kamu yararına çalışan bir grubu temsil eden dört panelist, hem teknolojik hem de düzenleyici bazı fikirler ortaya koydu.
Siber Suçlar Kolaylaşıyor
İfadelerin ve komite üyelerinin dile getirdiği endişelerin çoğu, yapay zekanın siber suçlulara ve ulus devlet aktörlerine sağladığı avantajlara odaklandı; siber güvenlik yetkilileri, yapay zekanın ürünlere giderek daha fazla dahil edilmesiyle karşılanması gerektiğini söylediği avantajlara odaklandı.
Biyometrik şirket iProov’un kıdemli başkan yardımcısı Ajay Amlani, “Yapay zeka, siber suçlulara gelişmiş sonuçlar elde edebilecek kullanımı kolay, gelişmiş araçlar sağlayarak tehdit ortamını demokratikleştiriyor” dedi.
“Karanlık ağ hizmeti olarak suç oldukça uygun fiyatlı. Yapay zeka tabanlı saldırılarla mücadele etmenin tek yolu, siber güvenlik stratejilerimizde yapay zekanın gücünden yararlanmaktır.”
Palo Alto Networks Birim 42’nin CTO’su Michael Sikorski, yapay zekanın siber savunucuların uğraşmak zorunda oldukları çok büyük miktardaki veri ve uyarılardan anlam çıkarmalarına da yardımcı olabileceğini söyledi. “Kötü adamların kazanmasını engellemek için yapay zekadan agresif bir şekilde yararlanmalıyız. Siber savunma,” diyen Sikorski, müşterilerin yapay zekayla geliştirilmiş ürünlerden elde ettiği “dönüştürücü sonuçlardan” bazılarını ayrıntılarıyla anlattı.
“Buna benzer sonuçlar, tehdit aktörlerinin sistemleri şifrelemeden veya hassas bilgileri çalmadan önce durdurulması için gereklidir ve bunların hiçbiri yapay zeka olmadan mümkün olamaz.” Sikorski ekledi.
Sikorski, kuruluşların “tasarım yoluyla güvenli yapay zeka” ilkelerini ve yapay zeka kullanım gözetimini benimsemesi gerektiğini söyledi. Prensiplerin geçen ay yayınlanan NIST AI risk yönetimi çerçevesiyle uyumlu olduğunu belirterek, “Kuruluşların, AI verilerini yetkisiz erişime ve sızıntıya karşı her zaman korumak için AI uygulama geliştirme yaşam döngüsünün ve tedarik zincirinin her adımını güvence altına alması gerekecek” dedi.
Seçim Güvenliği ve Dezenformasyon Öne Çıkıyor
Sıralama üyesi Bennie Thompson (D-MS), panelistlere başkanlık seçim yılında kritik önem taşıyan seçim güvenliğini artırmak ve müdahaleye karşı savunma sağlamak için neler yapılabileceğini sordu.
Amlani, dijital kimliğin dezenformasyon ve müdahaleyle mücadelede önemli bir rol oynayabileceğini, Başkan Biden’ın Ulusal Siber Güvenlik Stratejisi’nin 4.5 bölümünde yer alan ve henüz uygulamaya konmamış ilkelerin olabileceğini söyledi.
“Ülkemiz batı dünyasında dijital kimlik stratejisi olmayan tek ülke” Amlani dedi.
“Gönderi gönderenin ve iletişim kuranın doğru kişi olduğundan, gerçek bir kişi olduğundan emin olmak ve bu kişinin o anda orada olduğundan emin olmak, gerçekte kim olduğunu bildiğimizden emin olmak için çok önemli bir bileşendir. çevrimiçi içerik üretmek. Bugün internetin herhangi bir kimlik katmanı yok.”
Kamu Politikası Savunucusu Tarafından Önerilen Güvenli Yapay Zeka Kullanım Yönergeleri
Yapay zeka tehdidini ele almaya yönelik en ayrıntılı öneri, “Yapay zeka silahlanma yarışının” sorumlu bir şekilde ilerlemesi gerektiğini savunan Demokrasi ve Teknoloji Merkezi Güvenlik ve Gözetleme Projesi direktör yardımcısı Jake Laperruque’den geldi.
“Yapay zeka teknolojilerinin sorumlu kullanımına ilişkin ilkeler, geliştirme ve dağıtım aşamalarında geniş çapta uygulanmalıdır.” Laperruque dedi.
Laperruque, yakın zamanda yayınlanan yapay zeka yol haritasıyla süreci başlatması nedeniyle İç Güvenlik Bakanlığı’na teşekkür etti. Hükümetin yapay zeka kullanımının yedi ilkeye dayanması gerektiğini söyledi:
- Uygun eğitim verileri üzerine kurulmuştur
- Bağımsız testlere ve yüksek performans standartlarına tabidir
- Yalnızca teknolojinin tasarlanmış işlevinin sınırları dahilinde dağıtılır
- Yalnızca eğitimli personel tarafından kullanılır ve gerçek kişi tarafından yapılan incelemelerle desteklenir
- Sorumlu kullanımı tanımlayan ve teşvik eden iç yönetim mekanizmalarına tabidir
- İnsan haklarını ve anayasal değerleri korumaya yönelik güvencelerle bağlıyız
- Şeffaflık ve gözetimin sağlanmasına yönelik kurumsal mekanizmalar tarafından düzenlenir
Laperruque sözlerini şöyle tamamladı: “Yapay zekayı dikkatli bir şekilde kullanmak yerine hızlı bir şekilde dağıtmak için acele edersek, bu hem güvenliğe hem de sivil özgürlüklere zarar verecektir.” “Fakat eğer şimdi sorumlu kullanım için güçlü bir temel oluşturursak, gelecekte de faydalarından yararlanabiliriz.”
Medya Yasal Uyarısı: Bu makale, çeşitli yollarla elde edilen dahili ve harici araştırmalara dayanmaktadır. Sağlanan bilgiler yalnızca referans amaçlıdır ve bu bilgilere güvenme konusunda tüm sorumluluk kullanıcılara aittir. Cyber Express bu bilgilerin kullanılmasının doğruluğu veya sonuçları konusunda hiçbir sorumluluk kabul etmez.