Yapay Zeka Tabanlı Saldırılar, Yapay Zeka ve Makine Öğrenimi, Dolandırıcılık Yönetimi ve Siber Suçlar
IAPP’den Ashley Casovan, Yapay Zeka Yönetişimi için Eğitim ve Sertifikasyon Yöntemleri hakkında
Rahul Neel Mani (@rneelmani) •
6 Şubat 2024
OpenAI CEO’su Sam Altman, geçtiğimiz yıl ABD Kongresi’nde verdiği ifadede hükümetlere yapay zekayı düzenlemeleri tavsiyesinde bulunmuştu. “Hükümetlerin düzenleyici müdahalesi, giderek daha güçlü hale gelen yapay zeka modellerinin risklerini azaltmak için kritik öneme sahip olacak” dedi.
Ayrıca bakınız: İsteğe Bağlı Panel | Operasyonel Mükemmelliği Güvenceye Almak: CISO’ları Engellemek 5 En Önemli Güvenlik Sorunu
Üretken yapay zeka modellerinin yaygınlaşması ve benimsenmesi, gerçekçi ancak sahte verilerin yetkisiz sentezi, hassas bilgilerin yanlışlıkla ifşa edilmesi yoluyla potansiyel gizlilik ihlalleri ve eğitim verilerinde mevcut önyargıların artması dahil olmak üzere önemli veri gizliliği ve koruma endişelerini beraberinde getirdi. Deepfake içeriğin oluşturulması aynı zamanda itibarı tehdit ederek ve yanlış bilgilerin yayılmasını sağlayarak riskleri artırıyor.
Uluslararası Gizlilik Uzmanları Birliği’nin (IAPP) bir parçası olan Yapay Zeka Yönetişim Merkezi, küresel yapay zeka yönetişimi ve düzenlemeleri hakkında farkındalığı artırmaya adanmıştır. Merkez 45 kuruluştan oluşuyor ve yapay zeka ile ilgili zorlukların üstesinden gelmeyi amaçlayan eğitim ve sertifika programlarının geliştirilmesiyle aktif olarak ilgileniyor.
IAPP Yapay Zeka Yönetişim Merkezi genel müdürü Ashley Casovan, “AB Yapay Zeka Yasası ve diğer benzer yasalar, yapay zeka sistemlerinden kaynaklanan riskleri ele almak için risk temelli bir yaklaşıma odaklanmalıdır. Bir yapay zeka yönetişim görevlisinin kurulmasına ihtiyaç var” dedi.
Bilgi Güvenliği Medya Grubu ile yapılan bu video röportajında Casovan şunları da tartıştı:
- Yapay zeka sistemlerinin değişen risk ortamı;
- Yönetişim modellerini sürekli geliştirme ihtiyacı;
- Yapay zekayı daha iyi yönetmek için profesyoneller nasıl eğitilir ve yeniden becerilendirilir?
Casovan, kamu görevlisi olarak 10 yıldan fazla deneyime sahiptir ve 2010’dan bu yana Kanada’nın Açık Veri ve Açık Hükümet Topluluğunda topluluk savunucusu ve uygulayıcısı olarak aktif olarak yer almaktadır. Kanada merkezli Sorumlu Yapay Zeka Enstitüsü’nün genel müdürüydü.