Cisco, geliştiricilerin yapay zeka (AI) uygulamalarındaki ve bunların temel modellerindeki güvenlik açıklarını tespit etmesine ve azaltmasına olanak tanıyan yeni teknolojiyle bulut güvenlik platformunu genişletiyor.
15 Ocak’ta tanıtılan yeni Cisco AI Defense teklifi aynı zamanda ChatGPT, Anthropic ve Copilot gibi hizmetleri kullanan çalışanların veri sızıntısını önlemek için tasarlandı. Ağ devi, halihazırda erken erişim müşterilerine AI Defense sunuyor ve bunu Mart ayında genel kullanıma sunmayı planlıyor.
AI Defense, Cisco’nun geçen yıl piyasaya sürdüğü yenilenen güvenli hizmet kenarı (SSE) bulut güvenliği portföyü olan Cisco Secure Access ile entegredir. Hizmet olarak yazılım teklifi, sıfır güven ağ erişimini, hizmet olarak VPN’yi, güvenli bir Web ağ geçidini, bulut erişim güvenlik aracısını, hizmet olarak güvenlik duvarını ve dijital deneyim izlemeyi içerir.
Yöneticiler, Cisco’nun tüm bulut güvenliği tekliflerini barındıran Cisco Bulut Kontrolü arayüzünde AI Savunma kontrol panelini görüntüleyebilir.
Yapay Zeka Yeteneklerindeki Boşluklar
Lansman etkinliğinde Cisco’nun baş ürün sorumlusu ve başkan yardımcısı Jeetu Patel, AI Defense’in, AI ile ilişkili güvenlik risklerinden endişe duyan ancak teknolojiyi iş süreçlerine uygulama baskısı altında olan kuruluşlara yardımcı olmayı amaçladığını söyledi.
Patel, “Bu dünyada yenilik yapmaya devam etmek için doğru hız ve sürat seviyesine sahip olmanız gerekiyor, ancak aynı zamanda güvenliğinizin de olduğundan emin olmanız gerekiyor” dedi. “Bunlar sahip olmak isteyeceğiniz ödünler değil. Her ikisine de sahip olduğunuzdan emin olmak istiyorsunuz.”
Buna göre Cisco’nun 2024 Yapay Zeka Hazırlık AnketiAnkete katılanların %71’i, kuruluşlarında yapay zekaya yetkisiz müdahaleleri önlemek için tam donanımlı olduklarına inanmıyor. Ayrıca %67’si makine öğrenimine özgü tehditlere ilişkin sınırlı bir anlayışa sahip olduklarını söyledi. Patel, AI Defense’in bu sorunları ele aldığını söyledi.
“Cisco AI Defense, herhangi bir modele uygulanabilen, herhangi bir buluttaki herhangi bir aracıya, herhangi bir uygulamaya uygulanabilen ortak bir emniyet ve güvenlik alt katmanı olan bir üründür” dedi.
Geniş Ölçekte Model Doğrulaması
Cisco AI Defense öncelikle kurumsal AppSecOps kuruluşlarını hedef alır. Geliştiricilerin, uygulamalar ve aracılar üretime dağıtılmadan önce yapay zeka modellerini doğrulamalarına olanak tanır.
Patel, yapay zeka modelleriyle ilgili zorluğun, kendilerine eklenen yeni verilerle sürekli olarak değişmeleri ve bunun da uygulamaların ve aracıların davranışını değiştirmesi olduğunu belirtti.
“Modeller sürekli değişiyorsa doğrulama sürecinizin de sürekli olması gerekir” dedi.
Cisco, geçen yıl kırmızı takım çalışmasına eşdeğer bir teklif sunmanın bir yolunu arıyordu Robust Intelligence’ı satın aldıHarvard araştırmacıları Yaron Singer ve Kojin Oshiba tarafından 2019 yılında kurulan bir girişim ve AI Defense’in temel bileşenidir. Robust Intelligence Platform, güvenlik açıklarını taramak için algoritmik kırmızı ekip oluşturmayı ve Robust Intelligence adı verilen bir mekanizmayı kullanır. Budama ile Saldırı Ağacıbüyük dil modellerini (LLM’ler) sistematik olarak jailbreak yapmak için otomasyonun kullanıldığı yapay zeka tabanlı bir yöntem.
Patel’e göre Cisco AI Defense, modelleri sürekli olarak doğrulamak ve otomatik olarak korkuluklar önermek için üretken yapay zeka (GenAI) platform sağlayıcısı Scale AI’nin algılama modellerini ve Cisco’nun Talos’u ve yakın zamanda satın aldığı Splunk’un tehdit istihbaratı telemetrisini kullanıyor. Ayrıca Cisco’nun, bu korkulukları ağ yapısı üzerinden dağıtmak için AI Defense’i tasarladığını belirtti.
Patel, “Bu, esas olarak amaca yönelik olarak oluşturulmuş bir model ve dışarı çıkmak üzere veriler sunmamıza olanak tanıyarak, bir modelin beklentilere göre çalışıp çalışmayacağını veya bizi şaşırtıp şaşırtmayacağını doğrulamamıza olanak tanıyor” dedi ve bunun genellikle en çok zaman aldığını ekledi. kuruluşların bir modeli doğrulaması yedi ila 10 hafta sürer. “Bunu 30 saniye içinde yapabiliriz çünkü bu tamamen otomatiktir” dedi.
Sektörde Bir İlk mi?
Analistler, Cisco’nun bu ölçekte otomatik model doğrulamayı ele alabilecek teknolojiyi piyasaya süren ilk büyük oyuncu olduğuna inanıyor.
IDC’nin güvenlik ve güven araştırması uygulamalarından sorumlu grup başkan yardımcısı Frank Dickson, “Buna yakın bir şey yapan başka kimseyi tanımıyorum” diyor. “İnsanların LLM güvenlik duvarı diyebileceğimiz bir şey yaptığını duydum, ancak bu bu kadar karmaşık ve karmaşık değil. Bu tür otomatik kalem testini 30 saniyede yapabilme yeteneği oldukça akıcı görünüyor.”
S&P Global Market Intelligence’ın 451 Araştırma Bilgi Güvenliği kanalının araştırma direktörü Scott Crawford da aynı fikirde ve çeşitli büyük satıcıların GenAI güvenliğine farklı şekillerde yaklaştığına dikkat çekiyor.
Crawford, “Ancak Cisco, bu girişimin kalbinde yer alan Robust Intelligence’ı alarak, bu odaklı bir startup’ın ilk satın alımını gerçekleştirdi” diyor. “Bu alanda, herhangi biri bu yeni gelişen alanda satın alma hedefi olabilecek bir dizi başka girişim var, ancak bu, büyük bir kurumsal BT satıcısının bu türden ilk satın alımıydı.”
Crawford, savunmasız modellere yönelik saldırıların artması göz önüne alındığında yapay zeka güvenliğinin ele alınmasının bu yıl büyük bir endişe olacağını söylüyor.
“LLM istismarlarının örneklerini zaten gördük ve uzmanlar bunun nasıl manipüle edilebileceği ve saldırıya uğrayabileceği yollarını değerlendirdi” diyor.
Genellikle LLMjacking olarak tanımlanan bu tür olaylar, güvenlik açıklarından yararlanmak hızlı enjeksiyonlar, tedarik zinciri saldırıları ve veri ve model zehirlenmesi ile. Geçen yıl Sysdig Tehdit Araştırma Ekibi tarafından kayda değer bir LLMjacking saldırısı keşfedildi ve bulutta barındırılan 10 LLM’yi hedef alan çalınan bulut kimlik bilgilerini gözlemledi. Bu olayda saldırganlar, Laravel’in güvenlik açığı bulunan bir sürümünü çalıştıran bir sistemdeki kimlik bilgilerine erişti (CVE-2021-3129).