Siber güvenlik ekipleri, büyük dil modeli aracılarının geniş ölçekte ne kadar etkileşime girebileceğini düşünmeye başlıyor. Cisco Research’ün yeni bir makalesi, mevcut ağ yığınının bu değişime hazırlıklı olmadığını öne sürüyor. Çalışma, temsilcilerin yapılandırılmış bir şekilde iletişim kurmasına ve harekete geçmeden önce ortak anlam üzerinde anlaşmaya varmasına yardımcı olmak için uygulama taşıma katmanının üstünde iki ekstra katman önermektedir.
Geleneksel OSI yığını ve aracı uygulamalar için önerdiğimiz ağ yığını. Aracı iletişimi için HTTP/2/3’ün üzerinde, Uygulama Aktarımı katmanı (L7) olarak hizmet veren iki yeni katman öneriyoruz.
Mevcut temsilci protokolleri neden yetersiz kalıyor?
Belgede, aracıların, araç çağrılarına ve yapılandırılmış görevlere izin veren MCP ve A2A gibi protokoller aracılığıyla zaten veri alışverişinde bulunabildiği belirtiliyor. Bu protokoller mesaj formatlarının standartlaştırılmasına yardımcı olur ve geliştiricilere görevleri aracılar arasında aktarmanın bir yolunu sunar. Ancak araştırma yinelenen bir soruna dikkat çekiyor. Aracılar mesajları ayrıştırabilir ancak çoğu zaman içeriğin neyi temsil ettiğine dair ortak bir anlayıştan yoksundurlar. Bir şehirden veya görevden bahseden bir talep, çeşitli şekillerde anlaşılabilir ve bu da temsilcileri yavaş açıklama döngülerine zorlar. Bu, çıkarım yükünü artırır ve sistem davranışını öngörülemez hale getirir.
Araştırmacılar bunu mevcut ağ mimarisindeki bir boşluk olarak çerçeveliyor. Geleneksel OSI ve TCP ve IP modelleri paketleri dağıtmak için oluşturuldu. Anlam üzerinde uyum sağlaması gereken özerk varlıklar arasındaki koordinasyonu desteklemek için tasarlanmamışlardır. Yazarların açıkladığı gibi durum, geliştiricilerin aktarım ve uygulama davranışı arasındaki boşluğu doldurmak için HTTP’yi oluşturduğu eski web’e benziyor. Bu geçici adım sonunda internetin temel bir parçası haline geldi. Araştırmacılar, etmen sistemlerinin de benzer bir geçiş noktasında olduğunu öne sürüyor.
Temsilcilerin iletişim kurma biçimini standartlaştırma çabası
Önerilen Aracı İletişim Katmanı, HTTP’nin üzerinde yer alır ve mesaj yapısına ve etkileşim modellerine odaklanır. Çeşitli protokollerde ortaya çıkanları bir araya getirir ve bunları ortak bir yapı taşları kümesi halinde düzenler. Bunlar arasında standartlaştırılmış zarflar, amacı tanımlayan icra edicilerin kaydı ve bire bir veya bire çok iletişim kalıpları yer alır.
Buradaki fikir, aracılara içeriği yorumlamadan önce gerçekleşen iletişim türünü anlamaları için güvenilir bir yol sağlamaktır. Bir istek, bir güncelleme veya bir teklifin her biri beklenen bir modeli izler. Bu, aracıların gönderenin niyetini tahmin etmeden görevleri koordine etmesine yardımcı olur. Katman anlamı yargılamaz. Yalnızca iletişimin tüm aracıların yorumlayabileceği öngörülebilir kurallara uymasını sağlar.
Aracılara anlamı anlamaları için ortak bir yol sağlamak
Bir sonraki katman mevcut protokollerin eksik olduğu kısmı ele alır. Araştırma, aracıların paylaşılan bir bağlam keşfetmesine, bunu kabul etmesine ve ardından tüm mesaj içeriğini buna göre doğrulamasına olanak tanıyan bir Aracı Semantik Müzakere Katmanı önermektedir. Bir bağlam; kavramları, görevleri ve gerekli parametreleri tanımlayabilir. Her bağlam versiyonlanmıştır ve resmi şemalara dayandırılabilir.
Aracılar bir bağlamı kilitledikten sonra bunu daha sonraki tüm iletişimler için kullanırlar. Katman, mesajların üzerinde anlaşılan tanımlara uygunluğunu kontrol eder ve bir şeyin belirsiz olması durumunda yapılandırılmış açıklama yapılmasını ister. Çalışma, bunun LLM istemlerindeki tahminleri nasıl azalttığını ve aracıların daha belirleyici bir şekilde çalışmasına nasıl olanak sağladığını gösteriyor. Ayrıca gözlemleri veya kararları paylaşan aracı grupları arasında hem basit düzenlemeyi hem de geniş koordinasyonu destekler.
Anlam bir güvenlik endişesi haline geldiğinde
Anlamın resmileştirilmesiyle sistem öngörülebilirlik kazanır ancak aynı zamanda yeni güvenlik endişelerini de beraberinde getirir. Makale birkaç yeni riskin ana hatlarını çiziyor. Saldırganlar şemaya uyan ancak aracının mantığını kandıran zararlı içerik enjekte edebilir. Bir temsilci topluluğunu yanıltacak şekilde değiştirilmiş veya sahte bağlam tanımları dağıtabilirler. Ağ kaynakları yerine çıkarım kaynaklarını tüketen tekrarlayan anlamsal sorgularla sistemi bunaltabilirler.
Bu sorunları yönetmek için yazarlar yeni katmana uygun güvenlik önlemleri önermektedir. İmzalı içerik tanımları kurcalamayı önleyecektir. Anlamsal güvenlik duvarları, içeriği kavram düzeyinde inceleyecek ve bağlamın hangi bölümlerini kimin kullanabileceğine ilişkin kuralları uygulayacaktır. Hız sınırları hesaplama yükünün kontrol edilmesine yardımcı olacaktır. Makale ayrıca, aracıların hangi bağlamları güvenli bir şekilde kullanabileceklerini doğrulayabilmeleri için sertifika yetkililerine benzer bir güven modeline duyulan ihtiyacı da belirtiyor.
Evlat edinmenin önündeki engeller
Çalışma, bu katmanları bir değişimden ziyade ilave bir mimari olarak sunuyor. Parçaların çoğu daha önceki protokollerde zaten mevcut ve teklif bunları birleştirmeye çalışıyor. Daha büyük zorluk performans, yönetişim ve paylaşılan standartlarda yatmaktadır. Aracıların, bağlamların hızlı bir şekilde keşfedilmesinin yanı sıra bunları dağıtmak ve doğrulamak için ortak bir yönteme ihtiyaçları vardır. Kuruluşların bağlam sürümlerini yönetme ve hatalı olanları kullanımdan kaldırma yöntemine ihtiyacı olacak.
Yazarlar, çoklu etmenli sistemlerin tedarik zinciri planlaması ve işbirlikçi akıl yürütme gibi görevler için halihazırda üretimde olduğuna dikkat çekiyor. Bu sistemler büyüdükçe yapı ve anlam için resmi katmanların eksikliği güvenilirliği sınırlayabilir. Önerilen yaklaşım, geliştiricilere aracılar arasındaki karışıklığı azaltan ve karmaşık işleri güvenli ve öngörülebilir bir şekilde koordine etmelerine yardımcı olan bir temel sağlamayı amaçlamaktadır.