Agentic AI, video
CI-ISAC’dan Denny Wan, kullanıcı tanımlı Ajan AI’nın zorlukları hakkında
Suparna goswami (Gsuparna) •
25 Mart 2025
Geleneksel üretken yapay zekanın aksine, ajan yapay zeka kararları alabilir, harekete geçebilir ve belirli hedeflere ulaşmayı öğrenebilir. Bu yeni yeteneklerden bazıları, ajanın doğrudan bilgisinin ötesine uzanır ve potansiyel olarak daha fazla yeniliğe yol açar. Ancak, öngörülebilirlik ve kontrol ile ilgili önemli riskler de getirir.
Ayrıca bakınız: Silolardan Synergy’ye: Gen AI onu hizalar ve güvenlik ekipleri
“Otonom AI, tüm işlerin toplamı üzerinde hareket ettikleri üretken AI için bir kamu aracısıdır. Ajan yapay zeka çok farklıdır, çünkü CISAC’da siber değil ve bilgilendirilmiş risk ölçümü büyükelçisi Denny Wan.
Wan, ajan AI’nın işlevinde ve karar vermede tanıttığı karmaşıklıklarda farklılık gösterdiğine dikkat çekti. ISO 42001 gibi mevcut standartlar AI risklerini ele alırken, aracı AI’yı tam olarak kapsamazlar. Wan bunu bir dadı kiralamayla karşılaştırdı: aileler beklentiler belirlerken, kültürel farklılıklar ve kişisel tercihler öngörülemeyen sonuçlara yol açabilir. Benzer şekilde, ajanik AI önceden tanımlanmış kurallarda çalışır, ancak kullanıcı niyetleriyle uyumlu olmayan sonuçlar üretebilir.
Bilgi Güvenliği Medya Grubu ile yapılan bu video röportajında WAN da şunları tartıştı:
- AI risklerini yönetmek için ortaya çıkan Faircam çerçevesi;
- Yapay zekadaki kontrol fizyolojisi, AI ajanları arasındaki etkileşimleri uyumlu hale getirmeye nasıl yardımcı olur;
- Varyans izleme, sapmaları tırmanmadan önce nasıl tespit etmeye yardımcı olur.
Yapay zeka risk araştırması ve endüstri standartlarının geliştirilmesine odaklanan Wan, adil standardın oluşturulmasında kilit bir rol oynamıştır ve AI yönetişim ve siber güvenlik riski çerçeveleri üzerine tartışmalara katkıda bulunmuştur.