BLACK HAT USA – Las Vegas – 9 Ağustos Çarşamba — Savunma İleri Araştırma Projeleri Ajansı (DARPA), yazılımları daha güvenli hale getirmek için yeni nesil siber güvenlik araçları oluşturmaya yönelik iki yıllık bir yarışmaya sponsor olacak. DARPA, ABD Savunma Bakanlığı’nın (DoD) ordu tarafından kullanılmak üzere yeni teknolojilerin geliştirilmesinden sorumlu bir araştırma ve geliştirme ajansıdır.
AI Siber Mücadelesi (AIxCC) olarak adlandırılan amaç, siber güvenlik sorunlarını ele almaya ve daha güvenli yazılım sağlamaya yardımcı olmak için yapay zeka odaklı sistemler oluşturmaktır. Black Hat konferansının açılış konuşmasında AIxCC program yöneticisi Perri Adams, yarışmanın açılışını duyurdu. Yazılımın modern yaşamı mümkün kıldığını ve üretkenliği artırdığını, aynı zamanda kötü niyetli aktörler için genişleyen bir saldırı hizmeti oluşturduğunu söyledi.
“Son teknolojik gelişmeler, savunmayı bir adım önde tutabilmemizi sağlamanın umut verici yeni yollarını sunuyor” dedi. “Yapay zekanın kazanımları, sorumlu bir şekilde kullanıldığında, kodumuzu güvence altına almak için dikkate değer bir potansiyele sahiptir.”
Ancak Adams, yapay zekanın neler yapabileceğine dair vaadin yeterli olmadığını ve yapay zekanın nasıl iyilik için kullanılabileceğini göstermek için yapay zeka ve siber güvenlik alanındaki en iyi isimleri bir araya getirmek için bir “zorlama işlevine” ihtiyaç olduğunu söyledi.
2 Yılda Yapay Zeka ile Yazılım Güvenliğini Çözmek?
Adams’ın 2025’te DEF CON’da sonuçlanacağını söylediği yarışma, rakipleri kritik koddaki güvenlik açıklarını hızla bulup düzeltmek için yapay zeka sistemleri tasarlamaya davet ediyor.
“Bu, dramatik yapısal değişim sağlayabilecek bir şey inşa etmek için gerçek bir fark yaratmak için teknolojiyi kullanmak için bir fırsat” dedi. “Bu yeni DARPA yarışmasıyla, böylesine inanılmaz bir yeniliği teşvik edeceğimizi umuyoruz.”
AIxCC, katılım için iki yol sunacak: Finanse Edilen Yol ve Açık Yol. Finanse Edilen Parkur yarışmacıları, bir Küçük İşletme İnovasyon Araştırma talebine sunulan teklifler arasından seçilecektir.
Yarışmada en iyi sistemlere sahip takımlara 20 milyon dolar ödül verilirken, yedi küçük işletmeye de 1 milyon dolara kadar ödül verilecek. En iyi seçeneklere sahip olan takımlar önümüzdeki baharda değerlendirilecek, yarı finalistler önümüzdeki yaz DEF CON 2024’te ve kazananlar ertesi yıl DEF CON 2025’te duyurulacak.
Adams, “İlk beş yarı finalistin her biri 2 milyon dolar kazanacak ve teknolojilerini ilerletmek için bir yıl harcama fırsatına sahip olacak” dedi. Yarı finalistlerin, kritik altyapıyı saldırılara karşı hızla savunabilecek bir sistem kurmak için bir yılı olacak.
AIxCC, Google, Anthropic, Microsoft ve OpenAI tarafından desteklenirken, Açık Kaynak Güvenlik Vakfı bir meydan okuma danışmanı olarak hizmet verecek.
Adams, “İnovasyonu gerçek dünya sorunları etrafında şekillendiren bir rekabetimiz var. Ticari endüstride kullanımdan hayat kurtaran tıbbi cihazlara kadar her türlü yazılımı saldırılara karşı otomatik olarak savunan sistemler oluşturmak istiyoruz” dedi.
Yapay Zekanın Tasarıya Uyduğu Yer
Anthropic’te jeopolitik ve güvenlik başkanı Michael Sellitto, teknolojinin hızla ilerlediğini ve yazılım geliştiricilerin zaten önemli kod bölümleri yazmak için yapay zekayı kullandığını söylüyor.
“Çalıştıkları kod alternatiflerini yorumlamaya veya önermeye yardımcı olabilir ve bu nedenle, güvenlik açıklarını bulma ve düzeltmede ve bir tür odaklanmış çabada iyi olan teknolojiden o kadar da uzakta değiliz” diyor. . “Bu zorluk, bu çabaları oldukça hızlı bir şekilde hızlandırabilir, çünkü iki yıl önce hiç kimse kod yazmak için AI kullanmıyordu ve bugün, kodlayıcıların önemli bir kısmı için günlük iş akışı haline geldi.”
Adams, amacın, yazılımın güvenliğini sağlamada dramatik bir etkiye sahip olabilecek çok kullanışlı sistemler geliştirmek olduğunu ve arzunun, bu başarının yapay zekanın toplumdaki önemli bir sorunu çözmek için nasıl kullanılabileceğinin bir örneği olarak hizmet etmesini sağlamak olduğunu söylüyor. “Amacımız, yazılımı büyük ölçekte güvence altına alabilecek en son teknolojiyi geliştirmek; yazılımları alıp ‘Hey, tüm bu hataları buldum ve işte düzeltmeler’ diyebilen araçlar, savunmasız kodu kaldırıp onu güvenli kodla değiştirecek, dedi.