Yakın zamanda yapılan bir Gartner araştırmasına göre, GenAI’nın yaygın şekilde benimsenmesi, teknolojinin kullanımından kaynaklanan potansiyel risklere yönelik denetim kapsamı sağlama konusunda bir mücadeleye yol açtı.
Gartner’da Araştırma Uzmanı olan Thomas Teravainen, bu Help Net Security videosunda, 2024’te denetim planı kapsamındaki en büyük artışın yapay zeka ile ilgili risklerde nasıl görüldüğünü anlatıyor.
Hem kamuya açık hem de şirket içinde geliştirilen GenAI uygulamaları, veri ve bilgi güvenliği, gizlilik, fikri mülkiyet hakları ve telif hakkı uyumluluğu gibi alanlarda gelişmiş riskler getirmektedir. Ayrıca çıktılarının güvenirliği ve güvenilirliği konusunda endişeleri de dile getiriyorlar.
Önemli sayıda GenAI projesinin müşteri odaklı olması nedeniyle, GenAI’nın yaygın kullanımı, önyargılı veya yanlış veriler ve AI “halüsinasyonları” gibi güvenilmez AI çıktılarının izlenmesi ve yönetilmesi aciliyetini artırmaktadır. Bu sorunların ele alınması, bir kuruluşun itibar kaybına veya yasal zorluklara karşı korunması açısından çok önemlidir.