Aylardır model bağlam protokollerini (MCP’ler) düşünüyorum ve işte gerçekte ne olduklarını açıklamanın en basit yolu:
MCP’ler diğer insanların istemleri ve diğer insanların API’leridir.
İşte bu. Her şey bu.
Gün boyu başkalarının kodunu çalıştırıyoruz. Kimse her satırı sıfırdan yazmıyor. Asıl soru şu: Risk nedir ve gerçekten düşündünüz mü?
MCP Trust yığınını anlamak
Bir MCP kullandığınızda, farklı soyutlama katmanları vardır.
Katman 1: API çağrısı
İlk olarak, üçüncü bir tarafa API çağrıları yapıyorsunuz. İyi. Bunu sürekli yapıyoruz. Burada yeni bir şey yok.
Katman 2: Gizli İstemi
Ancak işte çoğu insanın özlediği: Bu API çağrıları bir istemden filtreleniyor.
Bir MCP’ye çarptığınızda, onu vurmuyorsunuz. Bu bir ajan. Yapay zekanız AI ile konuşuyor. Ve AI’ları varsayılan olarak görmediğiniz ve kontrol edemediğiniz bir istem ile kontrol edilir.
Katman 3: Yönlendirme
Oradan, yapay zekanızı başka bir yerde komutlar yürütmeye yönlendirir. Temsilciniz, ajanlarının söylediklerini en azından geçici olarak yapar.
MCP zincirindeki her elden çıkarma potansiyel bir saldırı vektörüdür. Yapay zekanız, ajanınızı bir şeyler yapmayı gönderen kodlarıyla konuşan istemleriyle konuşuyor.
Risk hesaplaması
Peki, MCP’ler tehlikeli mi?
Onlar diğer insanların kodu. Bu sana her şeyi anlatmalı.
Ama riskler konusunda spesifik olalım:
- Hızlı enjeksiyon potansiyeli: AI’nizin davranışını manipüle etmek için onların istemleri tasarlanabilir
- Veri sızıntısı: Kontrol etmediğiniz sistemlerden bilgi akıyor
- Yürütme Kaçırma: Komutlar istenmeyen hedeflere yönlendirilebilir
Aldatma yüzeyi
Hassas verileri açığa çıkarma, zararlı komutlar yürütme veya kötü niyetli yanıtlara güvenme konusunda manipüle etme konusunda kandırılma şansı var. Saldırganların yaratıcılığı sınırsız.
Bu mutlaka kötü değil. Ama ne olduğunu anlamıyorsanız, o zaman bir sorun haline gelir.
MCP riski hakkında nasıl düşünülür
İşte MCP riskini düşünmek için basit bir çerçeve:
- Üçüncü taraf kontrollü olduğunu unutmayın
- Unutmayın, sadece API çağrıları değil
- Aslında AI aracılığıyla API çağrıları
- API çağrısı başlamadan önce bir AI’nın başka bir AI ile konuşma riskini değerlendirmelisiniz.
Yani hemen hemen bu.
MCPS gönderiyor musun senin AI başka birinin API’lerini üzerinden vuracak Başkası AI.
Buna göre değerlendirin ve kullanın.