Yapay Zeka ve Makine Öğrenimi, Siyah Şapka, Etkinlikler
Lytical Ventures ‘Taylor Margot Otonom Ajanlar ve Yeni AI Savunmaları
Michael Novinson (Michaelnovinson) •
12 Ağustos 2025
Yapay zekadaki üçüncü taraf riski, kuruluşlar sistemlere, verilere ve karar vermeye benzeri görülmemiş bir erişimi olan otonom ajanları benimsedikçe genişlemeye hazırdır. Lytical Ventures’ın ortağı olan Taylor, teknolojide tamamen yeni savunmalar gerektiren yeni bir kara kütlesi keşfetme değişimini karşılaştırdı. Geleneksel insan merkezli kontroller başarısız olabilir, izin verme, izleme ve veri kontrolünü kritik hale getirebilir.
Ayrıca bakınız: Kavram kanıtı: AI ajanlarının yaşı için kimliği yeniden düşünmek
Küçük ve orta ölçekli işletmeler muhtemelen ajan gelişimi için dış satıcılara bağlı olacak ve opak, birbirine bağlı riske maruz kalmayı artıracaktır. Margot, satıcı sistemlerine görünürlük olmadan kuruluşların veri kötüye kullanımını, model zehirlenmesini veya yetkisiz karar almayı tespit edemeyeceği konusunda uyardı. Temsilciler olarak bileşik, insan müdahalesi olmadan hareket eder, potansiyel olarak bütçeleri, kampanyaları veya işe alma süreçlerini kendi başlarına değiştirir.
Margot, “Herhangi bir modern AI sisteminin arkasındaki sürüş gücü, bağlamı formüle etme yeteneğidir.” Dedi. İyi yapılandırılmış veri düzenleme maliyetleri azaltır, etkili denetimi sağlar ve anomalilerin tanımlanmasını mümkün kılar. Onsuz, kuruluşlar güvenlik tehditlerini tespit etmek veya ele almak için temelden yoksundur.
Bilgi Güvenliği Medya Grubu ile yapılan bu video röportajında Margot da şunları ele aldı:
- AI güvenlik duvarları neden yanlış yönlendirilmiş bir savunma yatırımı olabilir;
- Güçlü veri düzenlemesinin maliyet ve güvenlik faydaları;
- Yapay zeka savunmalarının gerçekten gerekli olduğunu belirlemedeki zorluklar.
Margot sermaye oluşumu, anlaşma tedariki, sınırlı ortak ilişkileri, portföy danışmanlığı, gayret ve yönetim kurulu desteği üzerine odaklanır. Üretken yapay zeka ve girişimcilikten aktif olan eski bir birleşme ve devralma avukatı, risk sermayesini ve birleşme ve satın alma uzmanlığını birleştirir.