AI Tabanlı Saldırılar, Yapay Zeka ve Makine Öğrenimi, Dolandırıcılık Yönetimi ve Siber Suç
Troy Leach ve Avani Desai, Yapay Zeka Halüsinasyonu ve Yanıltıcı Çıktıların Riskleri Üzerine
Anna Delaney (anamadelin) •
26 Eylül 2024
Bulut Güvenlik İttifakı’ndan Troy Leach ve Schellman’dan Avani Desai, son “Kavram Kanıtı”nda yapay zeka halüsinasyonlarının risklerini ele alıyor. Yapay zeka modelleri geliştikçe, halüsinasyonlar özellikle hızlı ve doğru karar almanın önemli olduğu durumlarda güvenlik açısından ciddi tehditler oluşturuyor.
Ayrıca bakınız: İşletmenizin Başarısını Artırmak İçin Varsayılan Olarak Güvenli Bir Strateji
Leach, AI modelleri daha insan benzeri düşünme ve muhakeme yetenekleri geliştirdikçe risklerin arttığını söyledi. AI, yönlendiricinin veya yazılım geliştiricisinin ne istediğini anlayabilse de, “amacınıza daha iyi uyduğunu düşündüğü için” yanlış cevap verebilir.
Desai, “Yapay zeka sistemlerine olan güven… gerçekten titiz bir süreç ve sürekli denetimle oluşturulmalı ve sürdürülmeli” diyerek, güvenlik açıklarını anlamak için yapay zeka kırmızı takım çalışması gibi proaktif stratejilere ihtiyaç duyulduğunu belirtti.
Bu panel tartışmasında, yapım yönetmeni Anna Delaney, editör yardımcısı Tom Field, Cloud Security Alliance strateji sorumlusu Troy Leach ve Schellman CEO’su Avani Desai şunları tartıştılar:
- Yapay zeka halüsinasyonunun karar alma ve siber güvenlik operasyonlarını nasıl bozabileceği;
- Yapay zeka kırmızı takım çalışması da dahil olmak üzere “yalan söyleyen” yapay zeka modellerinin risklerini tespit etme ve azaltma stratejileri;
- Tehdit tespiti için “iyi yapay zeka”nın kullanılması ile insan gözetiminin sürdürülmesi arasındaki denge.
Leach, 25 yılı aşkın süredir sorumlu teknolojinin ilerlemesi ve herkes için yaşam kalitesinin ve eşitliğin iyileştirilmesi konusunda eğitim veriyor ve savunuculuk yapıyor. Bilgi güvenliği ve finansal ödemeler konusunda uzman olarak çeşitli danışma kurullarında yer alıyor. Leach ayrıca, güvenli ve güvenilir ortamlar yaratmak için blok zinciri teknolojisinden, sıfır güven metodolojisinden ve çeşitli bulut hizmetlerinden yararlanma fırsatları konusunda danışmanlık yapan bir danışmanlık firması kurdu. Daha önce PCI Güvenlik Standartları Konseyi’nin kurulmasına ve yönetilmesine yardımcı oldu.
Desai, hem yeni kurulan hem de büyüyen organizasyonları kapsayan bilgi güvenliği, operasyonlar, kar ve zarar, denetim ve pazarlama konusunda yerel ve uluslararası deneyime sahiptir. Forbes, CIO.com ve The Wall Street Journal’da yer almıştır ve güvenlik, gizlilik, bilgi güvenliği, teknoloji trendleri ve teknolojiye dahil olan genç kadınların artan sayısı gibi çeşitli yeni konularda aranan bir konuşmacıdır.
“Kavram Kanıtı” serimizin önceki bölümlerini kaçırmayın. Bunlar arasında, yapay zeka uyumluluğunun ve güvenlik kontrollerinin sağlanmasına ilişkin 22 Mayıs tarihli bölüm ve deepfake tehditlerinin nasıl geride bırakılacağına ilişkin 25 Temmuz tarihli bölüm de yer alıyor.