Yapay Zeka Tabanlı Saldırılar, Yapay Zeka ve Makine Öğrenimi, Dolandırıcılık Yönetimi ve Siber Suçlar
Paramount’tan Surinder Lall, Yapay Zeka Kimliğine Bürünme, Deepfake ve Yapay Zeka Yönetişim Çerçeveleri Konusunda
Mathew J. Schwartz (euroinfosec) •
27 Eylül 2024
Yapay zeka, hem işletmeler hem de siber suçlular için oyunun kurallarını değiştiren bir hale geldi ve yapay zeka destekli kimliğe bürünme teknikleri, kuruluşlar için zorlu bir mücadele haline geldi. Kimlik avı e-postaları geleneksel olarak şirketlere girmenin kolay bir yolu olsa da, Paramount küresel bilgi güvenliği risk yönetiminden sorumlu kıdemli başkan yardımcısı Surinder Lall, “Yapay zeka artık bu savunmaları atlıyor” dedi ve CyberEdBoard üyesi, hatalı yazım, logo ve şüpheli e-posta adreslerini tespit etmeye odaklanan geleneksel güvenlik eğitimine atıfta bulunuyor.
Ayrıca bakınız: İşletmenizin Başarısını Artırmaya Yönelik Varsayılan Olarak Güvenli Strateji
Yapay zeka destekli bu kimliğe bürünme tekniklerinin sonuçları, e-posta kimlik avının ötesine uzanıyor. Lall, ses sentezinin aynı zamanda iş arkadaşlarının kimliğine bürünmek için de kullanıldığını ve video görüşmelerinde yetkisiz nakit transferlerine yol açan deepfake vakalarının bulunduğunu söyledi.
Bu karmaşık tehditlerle mücadele etmek için Lall, işletmeleri yapay zekanın benimsenmesinde ölçülü bir yaklaşım benimsemeleri konusunda uyardı. “Dahili bir sistem oluşturun veya verilerin nereye gittiğini bildiğiniz ve uygun rol tabanlı erişim kontrolünün olduğu bir sistem oluşturun… Aksi takdirde, kendinizi bunların kamuya açık hale geleceği güne hazırlamalısınız.” söz konusu.
Londra’daki Siber Güvenlik Zirvesi’nde Bilgi Güvenliği Medya Grubu ile yapılan bu video röportajında Lall ayrıca şunları da tartıştı:
- Uyarlanabilir yapay zeka yönetişim çerçeveleri geliştirmeye yönelik stratejiler;
- Üçüncü taraf yapay zeka araçlarının gizli riskleri ve potansiyel verilerin açığa çıkması;
- Dijital aldatma çağında fiziksel doğrulama neden geri dönüş yapabilir?
Paramount’un bilgi güvenliği liderliğinin bir parçası olarak Lall, varlıklarını korur. Viacom ve Elsevier Science gibi şirketlerde çalıştı ve Neurodiversity Network ile AI Ethics and Policy Think Tank’ı kurdu. Birleşik Krallık Hükümeti Siber Güvenlik Danışmanlığı’nın yönetim kurulu üyesi ve CyberEdBoard üyesidir.