Yapay Zeka ve Makine Öğrenimi, Yeni Nesil Teknolojiler ve Güvenli Gelişim, Tehdit Tespiti
Apex Güvenlik Algılama Araçları, Kazara ve Kötü niyetli AI Kötüye Kullanılabilmesine Yardımcı Olabilir
Michael Novinson (Michaelnovinson) •
29 Mayıs 2025
İşletmeler içindeki AI kullanımını izlemeye ve kontrol etmeye yardımcı olmak için bir İsrail askeri istihbarat gazisi tarafından yönetilen bir AI güvenlik girişimi satın almayı planlıyor.
Ayrıca bakınız: 2024 Elastik Global Tehdit Raporu ile tehdit manzarasının ortaya çıkması
Baltimore bölgesi maruziyet yönetimi satıcısı, TEL Aviv, İsrail merkezli apeks güvenliğinin önerdiği satın alınmasının kullanıcı davranışına derin görünürlük sağlayacağını ve AI’nın yanlışlıkla ve kötü niyetli kötüye kullanımını ele almaya yardımcı olacağını söyledi. Ürün Sorumlusu Eric Doerr, müşterilerin AI kullanımını tespit eden ve uygulanabilir korkulukları uygulayan ve riski azaltmaya yardımcı olan araçlar talep ettiğini söyledi.
Bilgi Güvenlik Medya Grubuna verdiği demeçte, “Uzayda bir dizi farklı şirkete ciddi bir şekilde bakmaya başladık.” Dedi. Diyerek şöyle devam etti: “Bir grup farklı şirketle bağlantı kurduk ve birçoğuyla konuştuk, Apex ile bağlantı kurduk ve sahip oldukları şeyin, AI ile ne yaptığına dair gerçekten derin bir içgörü kombinasyonu olduğunu düşündük.”
Apex Security’nin Başlangıç, Mayıs 2024’te Sequoia Capital ve Index Ventures’tan 7 milyon dolarlık tohum finansmanı ile Stealth’den ortaya çıkan Mart 2023’e kadar uzanıyor. Apex şu anda 47 kişiyi istihdam etmektedir. Şirket, daha önce yaklaşık 15 yılını İsrail askeri istihbaratının 8200 ünitesinde geçiren Matan Derman tarafından başlatıldı, burada teğmen albay olarak yükseldi ve siber bölümün başı: bkz: bkz: Tenable’ın 150 milyon dolar).
Apex’in AI Güvenliğine Yaklaşımında Neler Farklı
Doerr, Apex’in dikkate alınabilen birkaç şirketten biri olduğunu, ancak AI kullanım kalıpları hakkındaki ayrıntılı anlayışının ve nüanslı davranışı tespit etme yeteneğinin şirketi öne çıkardığını söyledi. Apex, bir dizi kötüye kullanım senaryosunu tespit edebilir ve kötüye kullanımın çalışanlar tarafından yanlışlıkla hatalar mı yoksa rakipler tarafından kasıtlı olarak sömürü olup olmadığı gibi politika uygulama gibi önleyici kontrollerde ilerleyecektir.
Doerr, “Apex’in inşa ettiği ürün, üzerinde yenilik yaptıkları teknoloji süper gidiyor, kazara kötüye kullanım ve kasıtlı saldırılar etrafında bu durumları kullanıyor.” Dedi. Diyerek şöyle devam etti: “Bu saldırı yüzeyinin her iki tarafını karşılamak kesinlikle çok önemli. Ve sonra, bunun üzerine bazı önleyici kontroller oluşturmaya başlıyor.”
Palo Alto Networks’ün 700 milyon dolara satın almayı kabul ettiği Protect AI gibi rakipler genellikle AI modellerini veya altyapısını güvence altına almaya odaklanıyor, ancak Doerr’in kritik ve sıklıkla ihmal edilmiş bir risk boyutu olduğunu söyledi. Apex, eylemlerin kazara veya kötü niyetli niyet taşıyıp taşımadığını yorumlayabilir.
Doerr, “Konuştuğumuz cisoların çoğu, ‘Bak, bana politikayı uygulamak ve korkuluk eklemek için araçlar vermelisin’ ‘dedi. “‘Kötü bir şey olup olmadığını tespit etmek iyi, ama bu günde 100 kez olamaz.’ Ve bu yüzden Apex bunun çoğunu gerçekten iyi bir pakette yaptı. “
Kaza ile kötüye kullanım tipik olarak CHATGPT gibi AI araçlarını kullanan ve yanlışlıkla hassas veya düzenlenmiş verileri paylaşan çalışanlardan kaynaklanmaktadır, Doerr, kötü niyetli eylemlerin derhal enjeksiyon saldırıları, hassas model verilerini yayma girişimlerini veya kasıtlı ihlalleri gerçekleştirmek için AI sistemlerini kullanmayı içerebileceğini söyledi. Tespit artı kontrole sahip olmak, AI ile ilgili risklerin hem insan hem de teknolojik unsurlarını almanın anahtarıdır.
“Bunu klasik BT kullanıcı sorunu olarak düşünün,” dedi Doerr. “Chatgpt açılıyor, harika. Ne yapıyorlar? Çalışanlar nerede? Gizli verileri oraya mı koyuyorlar mı? Ve sohbet sağlayıcıları tarafından yerleşik olan bazı kontroller var. Ama bu yeterli değil. İnsanların ihtiyacı değil. Bizi buna götürdü.
Nasıl Tenlenebilir, Apex bir araya gelecek
Apex’in yetenekleri Tenable’ın pozlama yönetim platformuna yerleştirilecektir. “Bu, işlenebilir olanın bir parçası olacak,” dedi Doerr. Diyerek şöyle devam etti: “Bunun yeni entegre versiyonunun yılın arka yarısında mevcut olması için çalışacağız. Daha sonra belirli tarihler hakkında daha fazla ayrıntıya sahip olacağız. Ama bu oldukça hızlı bir şekilde ilerleyeceğimiz bir şey.”
Tenable, kuruluşların AI’nın çevrelerinde nerede ve nasıl kullanıldığını keşfetmelerine yardımcı olmak için Ağustos ayında bir ürün başlattı, ancak Doerr AI’nın farkında olanı politikaları uygulayamayacağını veya kontrolleri uygulayamayacağını söyledi. AI Fiel Feield’ın keşif yeteneklerini Apex’in uygulama özellikleriyle birleştirerek Doerr, müşterilerin artık Shadow AI’yı bulabileceğini, riskini değerlendirebileceğini ve tek bir platformda hemen harekete geçebileceğini söyledi.
Doerr, “‘Artık şeyleri keşfettiğine göre, hangi kontrolleri yerine getirmek istiyorsunuz? Çalışanların gerçekte ne yaptığını nasıl izliyorsunuz?’ Demek için mantıklı bir bağlantı var. “Bu çok doğal bir tür artı biri hayal edebileceğiniz üçe eşit.”
Doerr, Tenable’ın, müşterilerin aracı çevrelerindeki AI ile ilgili riski yönetmek ve azaltmak için aracı ne kadar etkili bir şekilde kullandığına bağlı olarak Apex Güvenlik Anlaşması ile ilerlemesini değerlendireceğini söyledi. AI kritik yeni bir sınır olsa da, Doerr bunun tüm işletmeyi kapsayan daha geniş bir risk duruşuna entegre edilmesi gerektiğini söyledi. Bu nedenle, başarının Tenable’ın uçtan uca maruz kalma misyonuna katkıda bulunmakla ilgili olduğunu söyledi.
Doerr, “AI ve oradaki müşterilere yardımcı olmak için neler yapabileceğim kadar heyecanlı, günün sonunda, tüm risk ve tüm işletmenizde haritalanan tüm maruziyetle ilgili.” Dedi. “Bu gerçekten çözdüğümüz sorun bu.”