Yazan: Ido Shlomo, CTO ve Kurucu Ortak, Token Security
Ajan AI geldi. Özel GPT’lerden otonom yardımcı pilotlara kadar, yapay zeka aracıları artık kullanıcılar ve kuruluşlar adına hareket ediyor, hatta doğrudan insan müdahalesi olmadan kararlar vererek, sistemlere erişerek ve diğer aracıları çağırarak yalnızca başka bir takım arkadaşı gibi hareket ediyor.
Ancak bu yeni özerklik düzeyiyle birlikte acil bir güvenlik sorusu da geliyor: Eğer işi yapay zeka yapıyorsa, ona ne zaman güveneceğimizi nasıl bileceğiz?
Geleneksel sistemlerde, her kullanıcının, uç noktanın, iş yükünün ve hizmetin sürekli olarak kim olduklarını ve ne yapmaya yetkili olduklarını kanıtlamaları gereken Sıfır Güven mimarisi, örtülü bir güven varsaymaz.
Ancak ajansal yapay zeka dünyasında bu ilkeler hızla çöküyor. Yapay zeka aracıları genellikle kayıtlı bir sahip veya kimlik yönetimi olmadan, devralınan kimlik bilgileri altında çalışır.
Sonuç olarak, güvenilir görünebilen ancak aslında güvenilmeyen, büyüyen bir aracı popülasyonu ortaya çıkar; bu, altyapınızdaki otonom yapay zeka aracılarının birçok riskinden biridir.
Bu açığı kapatmak için kuruluşların NIST Yapay Zeka Risk Yönetimi Çerçevesini (AI RMF), özünde kimliğe yer veren Sıfır Güven merceği aracılığıyla uygulaması gerekir. Kimlik, yapay zeka için güvenin kökü olmalıdır ve o olmadan diğer her şey (erişim kontrolleri, denetlenebilirlik, hesap verebilirlik) çöker.
Ajanlık Çağında Kimlik Riski
NIST’in AI RMF’si, dört işlev genelinde AI riskini yönetmeye yönelik üst düzey bir kılavuz sağlar: Haritalama, Ölçme, Yönetme ve Yönetme. Ancak bunları kimlik yönetimi merceğinden yorumlamak, yapay zekaya özgü risklerin nerede saklandığını ortaya çıkarır.
“Harita” işlevini kullanın. Kuruluşunuzda şu anda kaç tane yapay zeka aracısı aktif? Bunları kim yarattı ve sahibi kim? Kurumsal sistem ve hizmetlere nasıl erişimleri var? Çoğu güvenlik ekibi bugün bu sorulara cevap veremiyor.
Yapay zeka ajanları, çok az gözetim altında dahili geliştirme iş istasyonlarında, üretim hesaplarında veya bulut sanal alanlarında çalıştırılıyor.
Gölge ajanlar genellikle aşırı izin verilen kimlik bilgilerini devralır veya uzun ömürlü bir sır kullanarak kimlik doğrulaması yapar. Birçoğunun sahibi yok, rotasyon politikası yok, doğru boyutlandırma izni yok ve izleme yok.
Bu “artık ajanlar” varsayılan olarak Sıfır Güven’i ihlal ediyor. Güvenilir bir kimlik olmadan çalışırlar; bu da sistemin doğrulayamadığı varlıklara güvendiği anlamına gelir.
Yapay zeka ajanları artık yalnızca talimatları takip etmekle kalmıyor, harekete geçiyor.
Token Security’nin, eylemlerin, amacın ve sorumluluğun uyumlu olması gereken Agentic AI çağı için kuruluşların erişim kontrolünü yeniden tanımlamasına nasıl yardımcı olduğunu öğrenin.
Ücretsiz Kılavuzu İndirin
Kimlik Neden Önce Gelmelidir?
Bunu düzeltmek için güvenlik ekiplerinin Sıfır Güven’in ilk ilkesiyle başlaması gerekir: Güven vermeden önce doğru izinlerin ve kimlik bilgilerinin uygulanması gerekir. Bu yalnızca kullanıcılar için değil, aynı zamanda AI aracıları için de geçerlidir.
Her AI temsilcisinin sahip olması gerekenler:
- Benzersiz, yönetilen bir kimlik
- Açık bir sahip veya sorumlu ekip
- Gerçekte hangi erişime ihtiyaç duyduğuna bağlı, amaca dayalı bir izin şeması
- Bir yaşam döngüsü: diğer kimlikler gibi oluşturulur, gözden geçirilir, döndürülür ve kullanımdan kaldırılır
Bu, ajansal yapay zekayı yönetilmeyen bir riskten yönetilen bir varlığa dönüştürür. Kimlik, ister hassas verileri okumak, ister sistem komutları vermek veya başka bir aracıyı çağırmak olsun, yapay zeka aracısının dokunduğu her şeyin bekçisi haline gelir.
NIST Çerçevesini Uygulama: Kimlik Odaklı Sıfır Güven
Her NIST AI RMF işlevinin kimlik merkezli Sıfır Güven yaklaşımıyla nasıl uygulanabileceği aşağıda açıklanmıştır:
Harita: Özel GPT’ler, yardımcı pilotlar ve MCP sunucuları dahil tüm yapay zeka aracılarını keşfedin ve envanterini çıkarın. Eksik veya belirsiz mülkiyete sahip aracıları işaretleyin. Her aracının neye erişebileceğini haritalandırın ve bunu amaçlanan amaca bağlayın. Aracı davranışını yalnızca model çıktıları için değil, kimlik davranışı için de sürekli olarak izleyin. Aracı daha önce hiç kullanmadığı sistemlere erişiyor mu? Kimlik bilgilerinin süresi doldu ama hâlâ çalışıyor mu? Anormal kimlik kullanımı, uzlaşma veya sapmanın erken uyarı işaretidir.
Üstesinden gelmek: Her yapay zeka kimliği için doğru boyutlu izinler. En az ayrıcalığın dinamik olarak uygulanmasını sağlamak için amaca dayalı erişimi kullanın. Eski kimlik bilgilerini iptal edin, sırları döndürün ve artık bir amaca hizmet etmeyen aracıları kaldırın.
Yöneten: Kimlik yönetimini, insanlar için kullanılanla aynı titizlikle yapay zeka aracılarına uygulayın. Çoklu aracı ekosisteminizde sahipler atayın, yaşam döngüsü politikalarını uygulayın ve kimlik kullanımını denetleyin. Bir temsilci hassas bir eylemde bulunursa hemen cevap verebilmelisiniz: Buna kim ve neden izin verdi?
Kör Noktalardan Kanıtlanmış Güvene
Riskler gerçektir. Yetim yapay zeka ajanları, saldırganlar için arka kapı görevi görebilir. Aşırı izin verilen aracılar hassas verileri saniyeler içinde sızdırabilir. Ve bir ihlal meydana geldiğinde denetim izi genellikle mevcut değildir. Açık kimlikler olmadan, güvenlik ekipleri sorunu tespit etmekte zorlanır: “Bunu kimin yaptığını bilmiyoruz.”
Kimlik, yapay zeka güvenliğinde yalnızca başka bir katman olamaz. Bunun temeli olması gerekiyor. Her AI aracı eyleminin bilinen, yönetilen bir kuruluşa bağlı olmasını sağlayarak Sıfır Güven ile uyumludur. Ayrıca yapay zekaya duyulan güvenin varsayılması değil, kazanılması gerektiğinden, yapay zekanın geniş ölçekte güvenli bir şekilde benimsenmesini sağlar.
Yapay zeka temsilcileri özerk olabilir ancak güvenleri hesap verebilirlik üzerine inşa edilmelidir. Kimlik, oraya nasıl ulaştığımız ve bu güveni nasıl kurduğumuzdur. Kuruluşlar, yapay zeka dağıtımının her aşamasına (keşif, izin verme, izleme ve yönetişim) kimlik kontrollerini dahil ederek kör noktaları ortadan kaldırabilir ve en önemli yerlerde Sıfır Güven’i uygulayabilir.
Daha güçlü bir güvenlik ve uyumluluk duruşu sağlamak için bunu yapay zeka aracılarına uygulamaya başlamamızın zamanı geldi.
Ajan yapay zekanızın haritasını çıkarmaya ve temsilcilerinizin kontrolünü ele geçirmeye hazırsanız, platformumuzun bunu nasıl yaptığını görmek için Token Security demosunu rezerve edin.
Token Security tarafından desteklenmiş ve yazılmıştır.