Savunma Bakanlığı (DoD) Savunma İleri Araştırma Projeleri Ajansı (DARPA), Black Hat USA 2023’te, yapay zekada inovasyonu teşvik etmeyi ve yeni siber güvenlik araçları oluşturmayı amaçlayan iki yıllık bir “Yapay Zeka Siber Mücadelesi” (AIxCC) yarışmasını duyurdu. Yarışma, siber suçluların güvenlik açıklarını tespit etmek ve ortaya çıkarmak için halihazırda yapay zekayı kullandığı, giderek daha karmaşık hale gelen bir tehdit ortamında sektör çapında iş birliğini katalize edecek.
AIxCC’nin duyurusu üzerine üç güvenlik uzmanı, yapay zekanın siber güvenlikte gelecekteki kullanımı ve yeni DARPA girişiminin yapay zeka ve siber güvenlikteki kullanımlarına ilişkin anlayışımız üzerindeki etkileri hakkındaki düşüncelerini paylaştı.
Javed hasanCEO ve kurucu ortak, soy
“Bir kuruluşun dijital varlığı, satın aldığı ve oluşturduğu tüm yazılım ürünlerinden oluşur. Son birkaç yılda, geliştiricilerin ve güvenlik ekiplerinin haberi olmadan bu yazılımı kullanan saldırganların sayısında bir artış gördük ve bu durum, SolarWinds, 3CX ve Log4j ölçeğinde büyük ihlalleri geride bıraktı. Bu saldırıların sıklığındaki çarpıcı artış, birçok güvenlik uzmanının ‘Bağlantısızlık nerede?’ sorusunu sormasına neden oldu. Cevap şu: Bir kuruluşun güvenlik yığınında çok çeşitli siber güvenlik ürünleri bulunabilir, ancak yazılım tedarik zincirindeki sorunları tanımlayacak ve düzeltecek araçlar eksikse, tüm yatırımları boşa gidecektir.
Sorun şu ki günümüzde pek çok güvenlik açığı yaklaşımı iki kritik şeyi başaramıyor:
- İlk etapta yazılımı oluşturan tüm bileşenleri göz önünde bulundurun, sorunun hangi katmanda olduğunu keşfedecek kadar derine inmeyin.
- Güvenlik aciliyetine çok fazla odaklanarak geliştiriciler tarafından yürütülebilirliğin önemini tartın.
Neyse ki, üretken yapay zekadaki gelişmeler, kuruluşların hem geliştiricilere hem de güvenlik ekiplerine yardımcı olmak için yazılımın en derin katmanlarında bakım ve güvenliği optimize etmesine olanak tanıyabilir. DARPA’nın yeni yapay zeka yarışmasını tam olarak destekliyoruz ve yazılım tedarik zincirinin güvenliğindeki boşlukları belirlemek ve düzeltmek için kullanılabilecek yeni çözümler bulmanın önemini fark ettikleri için onları takdir ediyoruz.”
Dane Sherrets, HackerOne Kıdemli Çözüm Mimarı
“DARPA’nın Yapay Zeka Siber Mücadelesi (AIxCC), savunma açısından siber güvenlik tehditlerini azaltmaya yardımcı olan kamu-özel sektör işbirliğinin harika bir örneğidir. Yapay zeka uygulamalarının bir ihlali kontrol altına alma süresini nasıl kısaltabildiğini zaten gördük ve bu yeni odaklanma, devam eden çabaları güçlendirecek.
Ancak yapay zekanın iki ucu keskin bir kılıç olduğunu unutmamak önemlidir. Yapay zeka şüphesiz savunucuları güçlendirecek olsa da rakipleri de güçlendirebilir. Yapay zekanın kötü amaçlı uygulamaları, güvenlik açıklarını tespit etme ve geleneksel saldırı tekniklerini geliştirme konusunda giderek daha iyi hale geliyor ve bu da hem saldırı hem de savunma güvenlik ekiplerinin uzmanlığına meydan okuyan genişletilmiş bir saldırı yüzeyine yol açıyor.
Bu nedenle, savunma araçları her kuruluşun güvenlik stratejisinin önemli bir bileşeni olsa da, yapay zekanın yardımıyla insanlar tarafından gerçekleştirilen rakip testlerin (örn. Kırmızı Takım Operasyonları, Sızma Testi veya Bug Bounty programları) bu gelişen tehdidin üstesinden gelmek için gerekli olduğunu kabul etmek önemlidir. manzara.
Steve Povolnygüvenlik araştırmaları direktörü, ayrılacağım
“Siber güvenlik profesyonelleri ve rakipler arasındaki yapay zeka yarışının ortasındayız. Üretken yapay zeka, siber suçluların giriş engelini azaltarak yaygın kimlik avı kampanyalarını otomatikleştirmeyi, kötü amaçlı kod yazmayı ve daha fazlasını kolaylaştırdı. Üretken yapay zekadan korkmak yerine, güvenlik profesyonellerini ateşe ateşle karşılık vermeye ve teknolojiyi kendi avantajlarına kullanmaya teşvik ediyorum; DARPA yarışmasının bu kadar önemli olmasının nedeni de bu.
En iyi yenilik, rekabet ve işbirliği anlarında gerçekleşir. Tüm güvenlik topluluğunun en son teknolojiyi geliştirmek için bir araya geldiğini görmek heyecan verici. Yapay zeka, hepimizin siber güvenliğe yaklaşımımızda devrim yaratan inanılmaz bir araçtır. İnsan ve makine çabalarının bir araya gelmesiyle, iyi adamların devam eden küresel siber çatışmada üstünlük kazanma fırsatları çoğalıyor. DARPA yarışmasının sonuçlarını ve bunun güvenlik topluluğunun yapay zekaya yönelik yaklaşımını ileriye doğru nasıl etkilediğini görmeyi sabırsızlıkla bekliyorum.”
Sürekli yazılım geliştirme, kötü aktörler için saldırı yüzeylerini genişletirken, AIxCC, yeni nesil siber güvenlik araçlarının üretimini başlatmak için mükemmel bir fırsat olacaktır. Doğru yaklaşıldığında AIxCC, hem siber güvenlik uzmanlarına hem de uzman olmayanlara yapay zekanın kritik temellerini koruyarak toplumu daha iyi hale getirmek için kullanılabileceğini gösterebilir. DEF CON 2025’te yapılması planlanan yarışmanın son aşamasıyla birlikte önümüzdeki iki yıl içerisinde takımların nasıl gelişeceğini hepimiz sabırsızlıkla bekliyoruz.
Freepik’te DCStudio tarafından çekilen resim
Reklam