Yapay Zeka ve Makine Öğrenimi, Etkinlikler, Yeni Nesil Teknolojiler ve Güvenli Geliştirme
DistribeedApps.ai’den Ken Huang, Ajan AI Riskleri ve Tehdit Modellemesi Üzerine
Rahul Neel Mani (@rneelman) •
2 Mayıs 2025
AI ajanları özerklik kazandıkça ve dinamik araçlara eriştikçe, kuruluşlar DistribeDapps.ai Başkanı Ken Huang, AI’nın öngörülemezliğini açıklayan yeni bir yöntem olan karışım tehdidi modellemesi gibi yeni tehdit modelleme yaklaşımlarını benimsemelidir.
Ayrıca bakınız: Sase ve Zero Trust: Entegre Güvenliğin Omurgası
AI sistemlerinin sürekli kırmızı takımına duyulan ihtiyacı vurguladı ve güvensiz kodlara yol açabilecek hızlı tempolu, AI güdümlü geliştirme yöntemi olan “Viper kodlama” ile ilgili endişeleri artırdı. Otonom AI’ya göre uyarlanmış modern güvenlik uygulamalarına olan ihtiyacı vurguladı.
Huang, “AI ajanları birden fazla platformda çalıştıkça geleneksel güven sınırları artık uygulanamaz.… Güvenliğe daha esnek bir yaklaşıma ihtiyacımız var.” Dedi.
RSAC Konferansı 2025’teki Information Güvenlik Medya Grubu ile yapılan bu video röportajında Huang da şunları tartıştı:
- Ajanik AI saldırı yüzeyini nasıl genişletir;
- Kimlik tabanlı kontroller neden artık yeterli değil;
- Viper kodlama riskleri.
Huang, distribredApps.ai’de üretken AI güvenliğine odaklanan girişimlere öncülük eden başarılı bir AI uzmanıdır. AI ve Web3’te sekiz kitabın yazarıdır ve Cloud Security Alliance’da AI Organizasyonel Sorumluluk Çalışma Grubu ve AI kontrol çerçevesini eş başkanlık eder.