Yapay Zeka ve Makine Öğrenimi , Bulut Güvenliği , Yeni Nesil Teknolojiler ve Güvenli Geliştirme
Forrester’dan Brian Wrozek Zehirli Yapay Zeka Verileri, Bulut Karmaşıklığı, Ulus-Devlet Tehditleri Üzerine
Anna Delaney (annamadelin) •
16 Haziran 2023
Forrester’ın 2023’teki En Önemli Siber Güvenlik Tehditleri raporuna göre, üretken yapay zeka araçlarının piyasaya sürülmesi, jeopolitik tehditlerin yükselişi ve artan bulut karmaşıklığı, 2023’te güvenlik ekiplerinin karşı karşıya olduğu en önemli yeni tehditler arasında yer alıyor.
Ayrıca bakınız: İsteğe Bağlı | Google Cloud ile Güvenli Başlayın ve Güvende Kalın
Raporda, Forrester Baş Analisti Brian Wrozek, saldırganların verileri zehirlemek ve kullanıcıları kandırmak için algoritmik kaymaya neden olmak için yapay zeka algoritmalarını tersine çevireceğini tahmin ediyor.
Wrozek, “Verileri zehirlediklerini, kendi oluşturdukları kaynak bilgilerini koyduklarını görüyorum” dedi. “Bunu neredeyse, kriptanalistlerinizin bilinen verileri besleyerek ve çıktının ne olacağını anlamaya çalışarak şifreleme algoritmalarını kırmaya çalıştıkları bir yol olarak düşünebilirsiniz. Bu endişe verici çünkü bir son kullanıcı olarak, yalnızca algoritmayı alma eğilimindeyiz. yüz değerinde.”
Kuruluşların yapay zekayı kendi yapay zekasını oluşturmaktansa bir tedarikçi firmadan alması daha olasıdır. Raporda, bu nedenle satıcıların yapay zeka modellerini nasıl koruyacaklarını anlamanın önemli olduğu belirtiliyor. Wrozek, işletmelere satıcılara kaynaklarını nasıl doğruladıklarını sormalarını tavsiye ettiğini söyledi.
“Bu algoritmaları eğitmek için bilgileri nereden alıyorlar ve bu algoritmaları nasıl koruyorlar?” O sordu. “Verilerin geçerli olduğundan emin olmak için ne yapıyorlar? Şeffaflık her zaman iyidir. Çıktılarda yanlılık olmadığından emin olmak için bu algoritmaların ölçeklendirilmesinde şişe ağırlıklarını nasıl manipüle ediyorlar?”
Information Security Media Group ile yapılan bu video röportajında Wrozek şunları tartıştı:
- Siber suçluların makine öğrenimi e-posta araçlarını tersine mühendislik yapmak için üretici yapay zekayı potansiyel olarak nasıl kullanabileceklerine ilişkin tahminler;
- Bulut karmaşıklığı, güvenlik ekiplerinin savunma şeklini nasıl değiştiriyor;
- Ulus-devlet tehditlerinin nasıl daha iyi anlaşılabileceği konusunda güvenlik liderlerine tavsiyeler.
Wrozek, güvenlik ve risk uzmanlarına hizmet vermektedir. Kapsamı, operasyonel teknoloji güvenliği ve tehdit istihbaratını içerir. Kritik altyapı ve üretim gibi sektörlerde Forrester müşterilerine OT ortamlarının güvenliğini sağlama konusunda geniş bir deneyime sahiptir ve müşterilere daha iyi karar vermeleri için tehdit bilgilerini eyleme dönüştürülebilir tehdit istihbaratına dönüştürme konusunda rehberlik eder.