Üretken yapay zeka olarak yazılım geliştirmenin hızını artırırken, aynı zamanda dijital saldırganların mali motivasyonlu veya devlet destekli saldırılar gerçekleştirme yeteneklerini de artırıyor. Bu, teknoloji şirketlerindeki güvenlik ekiplerinin, kötü aktörlerden gelen daha fazla baskıyla uğraşırken, her zamankinden daha fazla gözden geçirmesi gereken koda sahip olduğu anlamına geliyor. Pazartesi günü Amazon, şirketin güvenlik ekiplerinin platformlarındaki zayıflıkları proaktif bir şekilde belirlemesine, diğer benzer kusurları hızlı bir şekilde aramak için değişken analizi yapmasına ve ardından saldırganlar onları bulmadan önce delikleri kapatmak için iyileştirmeler ve tespit yetenekleri geliştirmesine yardımcı olmak için kullandığı Otonom Tehdit Analizi (ATA) olarak bilinen dahili bir sistemin ayrıntılarını ilk kez yayınlayacak.
ATA, Ağustos 2024’te Amazon’un dahili bir hackathon’undan doğdu ve güvenlik ekibi üyeleri, o zamandan bu yana çok önemli bir araca dönüştüğünü söylüyor. ATA’nın altında yatan temel kavram, güvenlik testlerini ve tehdit analizini kapsamlı bir şekilde yürütmek için geliştirilmiş tek bir yapay zeka aracısı olmamasıdır. Bunun yerine Amazon, gerçek saldırı tekniklerini ve bunların Amazon sistemlerine karşı kullanılabilecek farklı yollarını hızlı bir şekilde araştırmak ve ardından insan incelemesi için güvenlik kontrolleri önermek üzere iki ekip halinde birbirleriyle rekabet eden çok sayıda özel yapay zeka aracısı geliştirdi.
Amazon’un güvenlik şefi Steve Schmidt, WIRED’e şunları söylüyor: “İlk konsept, güvenlik testlerindeki kritik bir sınırlamayı (sınırlı kapsam ve hızla gelişen tehdit ortamında tespit yeteneklerini güncel tutma zorluğu) ele almayı amaçlıyordu.” “Sınırlı kapsam, yeterli sayıda insanınız olmadığı için tüm yazılımlara veya tüm uygulamalara erişemeyeceğiniz anlamına gelir. Ayrıca bir dizi yazılımın analizini yapmak harikadır, ancak tespit sistemlerini tehdit ortamındaki değişikliklere göre güncel tutmazsanız, resmin yarısını kaçırırsınız.”
Amazon, ATA kullanımını ölçeklendirmenin bir parçası olarak, Amazon’un üretim sistemlerinin son derece gerçekçi yansımaları olan özel “yüksek kaliteli” test ortamları geliştirdi; böylece ATA, analiz için gerçek telemetriyi hem alabilir hem de üretebilir.
Şirketin güvenlik ekipleri ayrıca ATA’yı, kullandığı her tekniğin ve ürettiği tespit yeteneğinin gerçek, otomatik test ve sistem verileriyle doğrulanacağı şekilde tasarlamaya özen gösterdi. Amazon’un sistemlerine karşı kullanılabilecek saldırıları bulmaya çalışan kırmızı ekip temsilcileri, ATA’nın özel test ortamlarında doğrulanabilir günlükler üreten gerçek komutları yürütür. Mavi takım veya savunma odaklı ajanlar, önerdikleri korumaların etkili olup olmadığını doğrulamak için gerçek telemetriyi kullanır. Ve bir temsilci yeni bir teknik geliştirdiğinde, iddialarının doğruluğunu kanıtlamak için zaman damgalı günlükleri de çeker.
Schmidt, bu doğrulanabilirliğin yanlış pozitifleri azalttığını ve “halüsinasyon yönetimi” görevi gördüğünü söylüyor. Sistem belirli standartlarda gözlemlenebilir kanıt talep etmek üzere inşa edildiğinden Schmidt, “halüsinasyonların mimari açıdan imkansız olduğunu” iddia ediyor.