Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Kusurları Hızla Bulmak ve Düzeltmek için Yeni Araçlar, DARPA’nın Yapay Zeka Siber Mücadelesinin Odak Noktasıdır
Rashmi Ramesh (rashmiramesh_), Mathew J. Schwartz (euroinfosec) •
9 Ağustos 2023
Beyaz Saray, kritik yazılım kodundaki güvenlik açıklarını daha iyi bulmak ve düzeltmek için yapay zekanın gücünden yararlanmak üzere tasarlanmış bir siber güvenlik mücadelesini Çarşamba günü başlatıyor.
Ayrıca bakınız: Başarılı ML Benimsemesinin Önündeki Engelleri Aşmak
Las Vegas’ta düzenlenen yıllık Black Hat siber güvenlik konferansında duyurulan yetkililer, AI Cyber Challenge’ın yaklaşık 20 milyon dolarlık ödülle desteklenen “AI ve güvenlik alanındaki en iyi ve en parlakları” bir araya getireceğini söyledi.
İki yıllık “AIxCC”nin amacı, hem ticari hem de açık kaynaklı yazılımlardaki güvenlik açıklarını hızlı bir şekilde bulmak ve düzeltmek için kullanılabilecek yeni nesil yazılım araçları geliştirmek için yapay zekayı kullanmaktır. Siber güvenlik yetkilileri, bu tür araçların, enerji ve ulaşımdan tıbbi cihazlara, finansal hizmetlere ve ötesine uzanan bir dizi kritik altyapı sektörü ve uygulamasını güvence altına alarak siber güvenlik dayanıklılığını artırmasını bekliyor.
Umut, AI’nın ağ savunucularına bir avantaj sağlayabilmesidir. ABD ulusal güvenlik danışman yardımcısı Anne Neuberger Salı öğleden sonra gazetecilere verdiği demeçte, “Siber güvenlikte, saldırı ve savunma arasında her zaman bir yarış vardır.” “Savunmanın bir adım önde olmasını sağlamada yapay zekanın vaadini görüyoruz.”
Yarışma, Savunma İleri Araştırma Projeleri Ajansı tarafından yürütülüyor ve Anthropic, Google, Microsoft ve OpenAI’nin katılımını içeriyor. Yetkililer, bu firmaların katılımcılara rehberlik etmek için yalnızca platformlarını değil, kurum içi uzmanlıklarını da ödünç vereceklerini söyledi.
Beyaz Saray Bilim ve Teknoloji Politikası Ofisi direktörü Arati Prabhakar, “DARPA, şaşırtıcı derecede zor sorunları çözmek için rekabet edecek çok sayıda yetenekli insanı ve kuruluşu çekmek için yaklaşık yirmi yıldır bu tür ödüllü yarışmaları kullandı” dedi.
“Bu, kamu ve özel sektörün büyük şeyler yapmak, geleceğin nasıl şekilleneceğini değiştirmek için birlikte çalışmasının yollarından biridir ve bu nedenle Beyaz Saray, DARPA’dan siber güvenlik için kritik yapay zeka konusunu ele almasını istedi” dedi.
AIxCC oyun alanını eşitlemek için DARPA, mücadeleye katılmak isteyen yedi küçük işletmenin her birine 1 milyon dolara kadar ödül verecek.
Katılan takımlar, 2024 baharında bir eleme etkinliğinde yarışacak. En fazla 10 finalist, Las Vegas’ta düzenlenen yıllık DEF CON konferansında yapılacak Ağustos 2024 yarı final yarışmasına yükselecek. Bu en yüksek puanı alan takımların en fazla beşi, her biri 2 milyon dolar alacak ve DEF CON 2025’te yapılacak finallere yükselecek. İlk üç puanı alan finalistler ek ödüller alacak.
DARPA’nın Bilgi İnovasyon Ofisi’nde program yöneticisi olan Perri Adams, “Birinciliği ve 4 milyon dolarlık büyük ödülü kazanmak için finalistlerin kritik altyapı kodunu saldırılara karşı hızla savunabilen bir sistem kurmaları gerekiyor” dedi.
Organizatörler, bu tür siber güvenlik araçlarının yalnızca bireysel nokta ürünlerinin veya kod tabanlarının daha iyi güvence altına alınmasına yol açmayacağını tahmin ediyor. Adams, açık kaynak kodu da dahil olmak üzere farklı tedarik zincirlerinde yaygın olarak kullanılan yazılımlardaki güvenlik açıklarının düzeltilmesinin “tüm alt yazılım projeleri üzerinde de geniş bir etkiye sahip olması gerektiğini” söyledi.
Ödül kazananların çözümlerini açık kaynak olarak kullanmaları beklenecektir.
Linux Foundation tarafından yönetilen Open Source Security Foundation, yarışma danışmanı olarak görev yapıyor. Beyaz Saray, “Ayrıca, kazanan yazılım kodunun Amerika’nın en hayati yazılımını korumak ve Amerikan halkını güvende tutmak için hemen kullanılmasına yardımcı olacak” dedi.
Yarışma, AI’nın sorumlu kullanımına ve geliştirilmesine rehberlik etmenin yanı sıra onu ulusal güvenliği desteklemek için uygulamayı amaçlayan bir dizi Beyaz Saray girişiminin en sonuncusu.
Biden yönetimi geçen ay önde gelen yedi yapay zeka şirketinin – Amazon, Anthropic, Google, Inflection, Meta, Microsoft ve OpenAI – yayımlanmadan önce yapay zeka sistemlerinin iç ve dış güvenliğini test etmek de dahil olmak üzere bir dizi gönüllü yönergeye uymayı kabul ettiğini duyurdu. . Yönetim ayrıca, AI uygulayıcılarının Amerikalıları, özellikle de yasadışı önyargı ve ayrımcılığa karşı korumak için desteklemesini istediği beş ilkeyi detaylandıran bir AI Bill of Rights için bir Taslak yayınladı.
Beyaz Saray ayrıca, sorumlu AI inovasyonunu teşvik etmeyi amaçlayan bir yürütme emri geliştirdiğini ve iki partili yasayı takip ettiğini söyledi.
Prabhakar, “Başkan Biden netti: Yapay zeka, zamanımızın en güçlü teknolojisi ve bunu Amerikan halkı için doğru şekilde yapmalıyız.” dedi.