Bu yıl Mayıs ayının sonuna kadar, işletme son kullanıcıları arasında üretken yapay zeka (GENAI) platformlarının kullanımında% 50 artış gördü ve güvenlik ekipleri, Hizmet Olarak Yazılım (SaaS) AI çerçevelerinin güvenli bir şekilde benimsenmesini kolaylaştırmak için çalışırken, Amazon Opantiai, Amazon Vertex AI, Hava Gönderme AI, Hava Gözden Geçirme, Havalı Uygulamanın Kullanıldığını, Bir rapora göre, işletme ve güvenlik risklerini birleştiriyor.
Veri Koruma ve Tehdit Önleme Platformu Tedarikçisi Netskope tarafından derlenen çalışma, kullanıcılar arasında toplanma kaymasını, çoğunlukla kendi AI ajanlarını ve uygulamalarını oluşturmak için kullandıkları şirket içi Genai platformlarına güvenmeye inceledi.
Netskope, Ollama, LM Studio ve Ramalama gibi araçları içeren bu platformların, göreceli kullanım kolaylıkları ve esneklikleri nedeniyle artık en hızlı büyüyen Shadow AI kategorisi olduğunu söyledi. Ancak, projelerini hızlandırmak için bunları kullanırken, çalışanlar platformlara kurumsal veri mağazalarına erişim sağlıyor ve kapıları veri sızıntısına veya doğrudan hırsızlığa açık bırakıyor.
Netskope Tehdit Laboratuarları direktörü Ray Canzanese, “Gölge AI’nın hızlı büyümesi, Genai platformlarını kullanarak yeni AI uygulamaları ve AI ajanları oluşturduğunu ve nerede inşa ettiklerini belirlemek için kuruluşlara yerleştiriyor” dedi.
“Güvenlik ekipleri, çalışanların son kullanıcılarının inovasyon isteklerini engellemek istemiyor, ancak AI kullanımı sadece artacak. Bu yeniliği korumak için kuruluşların AI uygulama kontrollerini elden geçirmeleri ve DLP’lerini geliştirmeleri gerekiyor [data loss prevention] Gerçek zamanlı kullanıcı koçluk öğelerini dahil etmek için politikalar. ”
Muhtemelen Genai’yi yerel olarak kullanmanın en popüler yolu, aynı “depolama cephesinden” çeşitli modellerle etkileşimi sağlayan büyük bir dil modeli (LLM) arayüzü dağıtmaktır.
Ollama, bu çerçevelerin en popüler olanıdır. Bununla birlikte, en yaygın kullanılan SaaS seçeneklerinden farklı olarak, dahili kimlik doğrulamasını içermez, bu da kullanıcıların ters proxy’nin veya amaçlı kimlik doğrulama ile uygun şekilde sabitlenmiş özel bir erişim çözümünün arkasına dağıtmak için kendi yolundan çıkmaları gerektiği anlamına gelir. Bu ortalama kullanıcı için kolay bir soru değil.
Ajan Gölge AI, her gün ofisinize gelen, verileri işlemek, sistemler üzerinde işlem yapmak ve her şey arka plan kontrol edilmezken veya güvenlik izlemesi yerinde olmak gibi bir kişi gibidir.
Netskope Raporu
Ayrıca, Openai, Bedrock, Vertex ve ark. Model istismarına karşı korkuluklar sağlarken, Ollama kullanıcıları kötüye kullanımı önlemek için kendilerini adım atmalıdır.
Netskope, şirket içi Genai’nin bazı faydaları olmasına rağmen-örneğin, kuruluşların GPU kaynaklarına önceden var olan yatırımlardan yararlanmalarına yardımcı olabileceğini veya diğer şirket içi sistemleri ve veri kümeleriyle daha iyi etkileşime girmelerine yardımcı olabileceğini söyledi-bunların, bunların, kuruluşların, kuruluşların, generasyonlarının güvenliğinin güvenliği için, SAA’ların güvenliğinin güvenliğine sahip olmaları nedeniyle daha ağır olabileceğini söyledi.
Netskope analistleri, müşterilerinin “üretken AI” olarak sınıflandırılan etkinlik platformunda onaylanmamış uygulamalar ve kişisel girişler için odaklanmış aramalar yaparak kolayca tanımlayabilecekleri yaklaşık 1.550 farklı Genai SaaS uygulamasını izliyor. Kullanımı izlemenin bir başka yolu, sarılma yüzü gibi AI pazarlarına kimin eriştiğini izlemektir.
Bu tür araçların kullanımını belirlemenin yanı sıra, BT ve güvenlik liderleri, çalışanların onaylanmış hizmetlere erişimini kısıtlayan, onaylanmamış olanları engelleyen, DLP’nin genai araçlarında veri paylaşımını hesaba katması ve kullanıcıları onaylanmış araçlara ve duyabilir uygulamaya yönlendirmek için gerçek zamanlı kullanıcı koçluğunu benimsemeyi düşünmeli ve uygulamayı düşünmelidir.
NIST, OWASP ve MITER tarafından sağlanan çerçevelere karşı genai kullanımının sürekli izlenmesi ve yerel genai altyapısının bir envanterinin yürütülmesi de tavsiye edilir.
Raporun yazarları, “Ajan Shadow AI, her gün ofisinize gelen, verileri ele alan, sistemler üzerinde işlemler yaparak ve hepsi arka plan kontrol edilmezken veya güvenlik izlemesine sahipken bir kişi gibidir” diye uyardı.