Upwind, büyüyen kurumsal yapay zeka saldırı yüzeyini korumak için şirketin CNAPP’sini genişleten entegre yapay zeka güvenlik paketinin lansmanını duyurdu. Paket, gerçek zamanlı yapay zeka güvenliği, yapay zeka duruş yönetimi, yapay zeka aracıları ve çalışma zamanı korumasını sunarak yapay zeka güvenliğinin, veri güvenliği, API güvenliği, kimlik ve bulut algılama ve yanıt konularında Upwind’in CNAPP’sini halihazırda güçlendiren aynı derin bulut bağlamından faydalanmasına olanak tanıyor.
Upwind CEO’su Amiram Shachar, “Yapay zeka güvenliği tek başına bir güvenlik bileşeni olmamalıdır” dedi. “Daha büyük bir ekosistemin parçası olmalı. Bu rotayı takip etmek ve yapay zeka güvenliğinin, CNAPP’mizin halihazırda sahip olduğu tüm verilerden ve bağlamdan faydalandığından emin olmak son derece mantıklı.”
Yapay zekanın hızla benimsenmesi ve eksik güvenlik bağlamı
Yapay zeka inovasyonu kuruluşlar genelinde hızlandı ancak temel güvenlik sorunları çözülmedi. Modeller, aracılar, çıkarım uç noktaları ve yapay zeka veri akışları artık birden fazla hizmeti, çerçeveyi ve altyapıyı kapsıyor, ancak güvenlik ekipleri yapay zeka davranışını izlemek, yapay zeka duruşunu doğrulamak veya yapay zeka odaklı kararların gerçek etkisini anlamak için tutarlı bir yöntemden yoksun. Bu yeni dinamik saldırı yüzeyi, geleneksel güvenlik yaklaşımlarının ortak bağlam ve çalışma zamanı kanıtları olmadan çözemeyeceği riskleri barındırıyor.
Doğası gereği geçici olan bu nesil bulut ve yapay zeka iş yüklerinin güvenliğini sağlamak farklı bir düşünce tarzı gerektirir. Gerçek zamanlı sinyallere, API’lere, hareket halindeki verilere ve Katman 7 görünürlüğüne odaklanan bir yaklaşım gerektirir. Bu, Upwind’in bulut güvenliğine yönelik içten dışa yaklaşımıdır.
İçten dışa, statik yapılandırmalara ve anlık görüntülere güvenmek yerine iş yükü çalışırken trafiği, API çağrılarını, veri akışlarını ve davranışları gözlemlemek anlamına gelir. İçeriden dışarıya güvenlik varsayımlara değil gerçekliğe dayanır.
Upwind’in çalışma zamanı öncelikli modeli, yapay zeka riskini gerçek aktivite ve gerçek sinyallere dayandırarak güvenlik ekiplerine en önemli anda gerçekte ne olduğuna dair doğru, öncelikli bir resim sunar: çalışma zamanı.
Upwind’in yeni yapay zeka yetenekleri, kuruluşlara yapay zekanın nerede çalıştığı, modellerin ve aracıların çalışma zamanında nasıl davrandığı ve hangi hassas verilerle etkileşimde bulundukları konusunda görünürlük sağlayarak güvenlik ekiplerinin bugün karşılaştığı en acil görünürlük boşluklarından birine çözüm getiriyor. Upwind, çalışma zamanı öncelikli mimarisini doğrudan yapay zeka katmanına genişleterek yapay zeka duruşunu, envanterini, çalışma zamanı davranış takibini ve güvenlik açığı testini tek bir birleşik platforma getiriyor.
Shachar, “Yapay zeka artık modern sistemlerde kritik kararları yönlendiriyor, ancak çoğu kuruluş hâlâ modellerinin ve aracılarının gerçekte ne yaptığını göremiyor” diye ekledi.
“Rüzgar ters yönde değişiyor. Gerçek güvenlik, gerçek kanıtlarla başlar. Bulut iş yüklerine çalışma zamanı netliği getirdik ve şimdi de aynısını yapay zeka için yapıyoruz. Bu, ekiplere yapay zekalarının gerçek dünyada nasıl davrandığına dair gerçekçi, uçtan uca görünürlük sağlıyor ve bu netlik, yeni nesil güvenli yapay zekayı tanımlayacak olan şey olacak,” diye sözlerini tamamladı.
Yapay zeka güvenliğine çalışma zamanı öncelikli bir yaklaşım
Upwind, kuruluşların yığının her katmanında yapay zekayı yönetme ve izleme şeklini güçlendiren entegre bir yapay zeka güvenlik özellikleri seti sunar:
- Yapay Zeka Güvenlik Duruş Yönetimi (AI-SPM): Açığa çıkan çıkarım uç noktalarının güvenliğini sağlar, model sürümü oluşturmayı ve yönetişimi zorunlu kılar, aşırı geniş IAM rollerini sıkılaştırır ve bulut ve görüntü kaynakları genelinde sızdırılan veya açığa çıkan AI API anahtarlarını tespit eder. Duruş sorunlarını gerçek çalışma zamanı etkinliğiyle ilişkilendirerek en önemli yapay zeka yapılandırma risklerini ortaya çıkarır.
- Yapay Zeka Algılama ve Yanıt (AI-DR): Süreç, ağ etkinliği ve bilgi istemlerinin 3, 4 ve 7. katman analizi aracılığıyla aracıları, MCP ve LLM altyapısını anormal davranışlara ve jailbreak girişimlerine karşı izleyin. Bu, güvenlik ekiplerinin kötü niyetli yapay zeka davranışlarını gerçek zamanlı olarak tespit edebileceği ve canlı, kanıta dayalı sinyallere göre yanıt verebileceği anlamına gelir.
- AI Malzeme Listesi (AI-BOM): Yapay zeka bileşenlerinin kapsamlı, gerçek zamanlı bir envanterini oluşturmak için modelleri, çerçeveleri, SDK’ları, aracı sistemleri ve bulut yapay zeka ürünlerini kaynak kodu, bulut envanterleri ve çalışma zamanı kanıtları genelinde eşler. Bu, ekiplere yapay zekanın neyi çalıştırdığı, nerede yaşadığı ve neye bağlı olduğu konusunda birleşik bir anlayış sağlar.
- Yapay Zeka Ağı Görünürlüğü: OpenAI, AWS Bedrock, Azure OpenAI ve Vertex AI’ye giden çağrıları tanımlarken Upwind’in ağ motorunu JSON-RPC, HTTP/2 akışı ve websocket’ler de dahil olmak üzere yapay zekaya özgü trafiğin kodunu çözecek şekilde genişletir. Gölge veya yetkisiz yapay zeka kullanımını algılar ve istemler ve çıkarım yükleri aracılığıyla hareket eden hassas verileri vurgular. Bu, yapay zeka sistemlerinin nasıl iletişim kurduğu ve hangi verilerin ortamdan ayrıldığı konusunda gerçek zamanlı netlik sağlar.
- MCP Güvenliği: İlk istemden aşağı akış işlev çağrılarına, dosya işlemlerine, API etkileşimlerine ve sonuçta ortaya çıkan sistem değişikliklerine kadar AI aracı eylemlerinin tam sırasını izler. Kuruluşlar, bir aracının ne yaptığına, neden hareket ettiğine ve nasıl bir etkiye sahip olduğuna dair yetkili, çalışma zamanına dayalı kanıtlar elde eder.
- Yapay Zeka Güvenlik Testi: Upwind’in Saldırı Yüzey Yönetimi motorunu, yapay zeka sistemlerini LLM’ler için OWASP İlk 10, hızlı enjeksiyon, jailbreak’ler, güvenli olmayan araç bağlama ve halüsinasyona dayalı veri ifşası gibi rakip tekniklere karşı doğrulamak için genişletir. Bu, yapay zeka uygulamalarının, geliştikçe gerçek dünyadaki saldırı modellerine karşı sürekli olarak test edilmesini sağlar.
Bu yetenekler bir arada, işletmelere bulut ve yapay zeka riskini yönetmek, operasyonel karmaşıklığı azaltmak ve geniş ölçekte güvenli yapay zeka inovasyonunu mümkün kılmak için tek ve entegre bir yaklaşım sunuyor.