Yapay Zeka ve Makine Öğrenimi, Veri Yönetişimi, Veri Gizliliği
Ürün Başkanı Jeetu Patel, Yapay Zeka Savunmasının Çalışma Zamanında Güvenli Yüksek Lisans Operasyonlarını Nasıl Sağladığını Anlattı
Michael Novinson (MichaelNovinson) •
15 Ocak 2025
Yapay zeka modellerinin kullanıma sunulması, model toksisitesi ile ilgili güvenlik risklerinin yanı sıra ani enjeksiyon saldırıları nedeniyle halüsinasyonlar ve güvenlik riskleri yarattı. Cisco’nun başkan yardımcısı ve baş ürün sorumlusu Jeetu Patel, kuruluşların, senaryolarda amaçlandığı gibi performans göstermelerini sağlamak için yapay zeka modellerini sürekli olarak doğrulamaları gerektiğini söyledi – özellikle de ince ayarlar yapıldığında veya yeni verilere maruz kaldıklarında.
Ayrıca bakınız: AI Surge, Makine-İnsan Kimlik Oranını 40-1’e Artırıyor
Algoritmik kırmızı ekip oluşturma, modellerin çeşitli koşullar altında sağlam olmasını sağlamak için benzeri görülmemiş bir ölçekte test yapılmasına olanak tanıyor ve benzer arızaları önlemek için güvenlik açıkları doğrulama yoluyla belirlendikten sonra korkuluklar uygulanabilir, dedi (bkz: Cisco, Güçlü Zeka Satın Alarak Yapay Zeka Güvenliğini Güçlendiriyor).
Patel, “Model üzerinde sürekli olarak yapılması gereken bir tür doğrulamaya ihtiyacınız var” dedi. “Bir modele her ince ayar yaptığınızda – modelde bir değişiklik olduğunda – modelin eğittiği ve aslında model davranışını değiştirme potansiyeline sahip yeni veriler var.”
Bilgi Güvenliği Medya Grubu ile yapılan bu video röportajında Patel ayrıca şunları da tartıştı:
- Cisco, operasyonel verimlilik ve risk azaltma için yapay zeka destekli araçları nasıl kullanıyor?
- AI Defense platformunun Cisco’nun daha geniş güvenlik çerçevesiyle nasıl entegre olduğu;
- Robust Intelligence’ın edinilmesi Cisco’nun yapay zeka güvenlik yeteneklerini nasıl güçlendirdi?
Ağustos ayından bu yana Cisco’nun baş ürün sorumlusu olan Patel, daha önce dört yıl boyunca firmanın güvenlik ve işbirliği iş birimlerini yönetmişti. Daha önce Box’ın ürün ve platform stratejisini yöneterek firmanın bulut içerik yönetimine yönelik uzun vadeli vizyonunu ve yol haritasını belirledi. Ayrıca daha önce dosya senkronizasyonu paylaşımı ve işbirliğine yönelik bir bulut hizmeti olan EMC’nin Syncplicity İş Birimi’nde genel müdür ve icra kurulu başkanı olarak görev yapmıştı.