Bu ses otomatik olarak oluşturulur. Geri bildiriminiz varsa lütfen bize bildirin.
LAS VEGAS – Cuma günü Savunma İleri Araştırma Projeleri Ajansı, yazılım güvenlik açıklarını özerk bir şekilde bulmak ve düzeltmek için tasarlanmış yapay zeka araçlarının geliştirilmesini teşvik etmek için bir yarışmanın kazananlarını tanıttı.
Atlanta Takımı, Trail of Bits ve Theori, Darpa’nın ilk üç noktasını talep etti AI Siber MücadelesiAjans yetkilileri, burada DEF Con Siber Güvenlik Konferansı’nda. Sırasıyla 4 milyon dolar, 3 milyon dolar ve 1,5 milyon dolarlık ödüller alacaklar.
Yedi finalist takımın tümü AI araçlarını açacak, böylece tüm dünya bunları kullanabilir. Araçlardan dördü Cuma günü çıkış yaparken, geri kalan üçü önümüzdeki birkaç hafta içinde piyasaya sürülecek.
“Gerçek yazılımı hızlı, ölçeklenebilir bir şekilde yamayabileceklerini gösterdiler. [and] Maliyet etkin bir şekilde ve bu araçlar kullanmak sizindir ”dedi. Rekabet program yöneticisi Andrew Carney, Def Con’daki bir sunum sırasında.“ Bu otomasyon lezzetinden yararlanmamak için bir mazeret yok. Ve sadece daha iyi olacak. Burası yeni zemin. ”
DARPA, popüler yazılımlarda yeni keşfedilen güvenlik açıklarından yararlanan artan siber saldırıların ortasında AI’yi iyi bir şekilde kullanmak amacıyla AI Cyber Challenge’ı 2023’te başlattı. Hükümet ve endüstrideki siber savunucular, kötü niyetli aktörler onları bulup sömürmeden önce kusurları keşfetmek ve düzeltmek için yarışırken yokuş yukarı bir savaşla karşılaşırlar.
Carney, “Bu sürdürülebilir veya kiralanabilir bir durum değil,” dedi. “Böyle yaşayamayız.”
Takımları adımlarına koymak için DARPA, açık kaynaklı yazılımın çatallı sürümlerinde “sentetik” güvenlik açıkları yarattı, araştırmacıların milyonlarca kod satırını tarayabilen, güvenlik açıklarını tanımlayabilecek ve bunları etkili bir şekilde yamalayabilen AI araçları geliştirme yeteneğini test etti. Önde gelen AI firmaları, ekiplerin yazılımlarını geliştirdiklerinde test edebilmeleri için mühendislik yardımı ve 1 milyon dolardan fazla büyük dil modeli kullanım kredisi sağladı.
Geçen yılki Def Con’da 42 takım yarı finalde yarıştı ve yedi takım finallere ilerledi. Bu son turda DARPA, takımlara 54 milyon kodla kod sundu ve modellerini çalıştırmak için her dört saatlik bulut hesaplama zamanını verdi.
Sonuçlar DARPA’yı iyice etkiledi. Ajansın yarattığı 70 sentetik güvenlik açıkından finalistler 54 (% 77 başarı oranı) keşfetti ve 43 (% 61) yamaladı. Bu süreçte, şu anda geliştiricilere açıklanan 18 gerçek dünya yazılım güvenlik açığı bile buldular.
Carney, “Bu ekipler, LLM’leri geleneksel dinamik ve statik analiz tekniklerinin yanı sıra gerçekten yeni, yenilikçi ve oyun değiştiren bir şekilde kullanmanın yollarını buldular” dedi. “Bu çok heyecan verici.”
DARPA, yazılımlarının kaç güvenlik açıkını bulduğu, kaç tane düzeltildiğini ve hata raporlarını ne kadar iyi analiz ettiği de dahil olmak üzere, her ekibin performansını değerlendirmek için bir puanlama algoritması kullandı.
Atlanta Takımı, Samsung Research, Georgia Teknoloji Enstitüsü ve iki Güney Koreli üniversiteden – Kore İleri Bilim ve Teknoloji Enstitüsü ve Pohang Bilim ve Teknoloji Üniversitesi – rakiplerinden önemli ölçüde daha iyi performans gösterdi ve bir kategoride en üst sıralar kazandı. Trail of Bits, New York merkezli küçük bir işletme iken, Theori, ABD ve Güney Kore’den AI ve siber uzmanların bir koleksiyonudur.
DARPA, rekabetinin saldırganlar ve savunucular arasındaki yarışmada ölçekleri devirmeye yardımcı olabilecek AI araçları vermesi konusunda iyimser.
Ajansın direktörü Stephen Winchell, “Şu anda her şeyi tutan eski dijital iskeleye sahip bir dünyada yaşıyoruz” dedi. “Kod tabanlarının birçoğu, birçok dil, işimizin birçok yolu ve üzerine inşa ettiğimiz her şey yıllar boyunca büyük teknik borçlara maruz kaldı. Ve gerçek şu ki, insan ölçeğinin ötesinde bir sorun.”
DARPA ve Sağlık ve İnsan Hizmetleri Departmanı’ndaki kardeş ajansı, İleri Araştırma Projeleri Sağlık İçin (ARPA-H), rakipleri desteklemeye devam ediyor ve programlarını kritik altyapıyı korumaya yardımcı olabilecek yazılıma entegre etmelerine yardımcı olmak için 1,4 milyon dolar daha sunuyor. DARPA, önümüzdeki birkaç ay içinde tam rekabet veri arşivini yayınlamayı planlıyor.
DEF CON Sunumunda sürpriz bir görünümde, Sağlık ve İnsan Hizmetleri Sekreter Yardımcısı Jim O’Neill, güvenlik topluluğunu yaşamları tehlikeye atabilecek ve toplumun dokusunu bozabilecek sorunları çözmenin yeni yollarını geliştirmek için zamanlarını ve uzmanlıklarını taahhüt ettikleri için övdü.
“Bahisler hiç bu kadar yüksek olmamıştı” dedi ve “fırsatlar hiç bu kadar büyük olmamıştı.”