Immuta’ya göre yapay zekanın benimsenmesi hala çok yüksek; veri uzmanlarının %54’ü kuruluşlarının halihazırda en az dört yapay zeka sistemi veya uygulamasından yararlandığını söylüyor. %79’u ayrıca son 12 ayda yapay zeka sistemlerine, uygulamalarına ve geliştirmeye ayırdıkları bütçenin arttığını bildiriyor.
Yapay Zeka Güvenliği ve Yönetişim Raporu, yapay zeka güvenliği ve yönetimine bakış açıları hakkında yaklaşık 700 mühendislik lideri, veri güvenliği uzmanı ve yönetişim uzmanıyla anket yaptı.
Yapay zekanın benimsenmesiyle ilgili güvenlik zorlukları
Ancak bu benimseme aynı zamanda büyük bir belirsizlik de taşıyor. Örneğin veri uzmanlarının %80’i yapay zekanın veri güvenliğini daha da zorlaştırdığı konusunda hemfikir. Uzmanlar, hassas verilerin LLM’ler tarafından yanlışlıkla açığa çıkması ve kötü niyetli aktörlerin yapay zeka modelleri aracılığıyla düşmanca saldırıları konusundaki endişelerini dile getirdi.
Aslında ankete katılanların %57’si geçtiğimiz yıl yapay zeka destekli saldırılarda önemli bir artış gördü.
Yapay zekanın hızla benimsenmesi kesinlikle yeni güvenlik zorlukları doğursa da, potansiyeli konusundaki iyimserlik kuruluşları uyum sağlamaya zorluyor. Veri liderleri, örneğin yapay zekanın, yapay zeka destekli tehdit algılama sistemleri (%40) ve yapay zekanın gelişmiş bir şifreleme yöntemi olarak kullanılması (%28) gibi görevler için mevcut güvenlik uygulamalarını geliştireceğine inanıyor.
Güvenlik riskleri karşısında bu faydaların ortaya çıkmasıyla kuruluşların %83’ü dahili gizlilik ve yönetim yönergelerini güncelliyor ve yeni riskleri ele almak için adımlar atıyor:
- Veri liderlerinin %78’i kuruluşlarının yapay zeka güvenliğine özel risk değerlendirmeleri yaptığını söylüyor.
- %72’si anormallikler için yapay zeka tahminlerini izleyerek şeffaflığı artırıyor.
- %61’inde yapay zeka modellerinin yetkisiz kullanımını önlemek için amaca dayalı erişim kontrolleri bulunuyor.
- %37’si güncel ve gelecek yapay zeka düzenlemeleri ve veri güvenliği gereksinimleriyle uyumluluğu sürdürmek için kapsamlı bir stratejiye sahip olduklarını söylüyor.
Immuta Ürün Yönetiminden Sorumlu Başkan Yardımcısı Matt DiAntonio, “Mevcut standartlar, düzenlemeler ve kontroller yapay zekanın hızlı evrimini karşılayacak kadar hızlı uyum sağlayamıyor ancak geleceğe yönelik iyimserlik var” dedi. “Rapor, bir dizi yapay zeka güvenlik sorununun yanı sıra kuruluşların bunları çözmeye yardımcı olması için yapay zekaya nasıl baktığını da açıkça ortaya koyuyor. Yapay zeka ve makine öğrenimi, tehdit algılamayı iyileştirmek için süreçleri otomatikleştirebiliyor ve geniş veri kümelerini hızlı bir şekilde analiz edebiliyor ve verileri güvence altına almak için gelişmiş şifreleme yöntemlerini etkinleştirebiliyor.
“Kuruluşlar yapay zeka yolculuklarında olgunlaştıkça, hassas verilerin yapay zeka modellerine istenmeyen veya kötü niyetli bir şekilde maruz kalmasını önlemek için verilerin riskini ortadan kaldırmak kritik önem taşıyor. Üretken yapay zeka veri hatları ve çıktıları etrafında sıkı bir güvenlik ve yönetişim stratejisinin benimsenmesi, bu riskin azaltılması için zorunludur,” diye tamamladı DiAntonio.
Yapay zeka veri güvenliği stratejilerine güçlü güven
Yapay zekanın güvenliği daha zorlu hale getirdiğini ifade eden pek çok veri liderine rağmen %85’i, kuruluşlarının veri güvenliği stratejisinin yapay zekanın evrimine ayak uyduracağından bir şekilde veya çok emin olduklarını söylüyor.
Geçtiğimiz yıl katılımcıların %50’sinin, kuruluşlarının veri güvenliği stratejisinin yapay zeka evriminin hızına ayak uydurmakta başarısız olduğunu güçlü bir şekilde veya bir şekilde kabul ettiğini ortaya koyan araştırmanın aksine, bu, bir olgunluk eğrisinin olduğunu ve birçok kuruluşun, buna rağmen yapay zeka girişimlerinde ilerlemeye devam ettiğini gösteriyor. beklenen kazanç buna değer olduğundan riskler.
Yapay zekadaki hızlı değişimler anlaşılır bir şekilde heyecan verici ama aynı zamanda da bilinmiyor. Düzenlemelerin değişken olması ve birçok modelin şeffaflıktan yoksun olması nedeniyle bu durum özellikle doğrudur. Veri liderleri iyimserliklerini yapay zekanın değişmeye devam edeceği ve uyumluluk hedeflerinin de bu şekilde hareket etmeye devam edeceği gerçeğiyle birleştirmeli.
Yapay zekanın geleceği ne olursa olsun, tek bir eylem açıktır: Veri güvenliği stratejisi olmayan sorumlu bir yapay zeka stratejisi olamaz. Statik olmayan, bunun yerine inovasyon iş için sonuçlar getirdikçe dinamik olarak uyum sağlayan bir veri güvenliği stratejisini destekleyen bir yönetişim oluşturun.