Portal26’ya göre şirketlerin yapay zeka programlarının operasyonlarını görünür hale getirmek için yardıma ihtiyacı var; bu durum potansiyel olarak üretkenliği azaltırken yönetişim, veri güvenliği ve daha fazlası konusunda önemli riskler yaratıyor.
Ankete katılanların üçte ikisi, geçen yıl bir Üretken Yapay Zeka güvenliği veya kötüye kullanım olayına maruz kaldıklarını itiraf etti. %73’ü halihazırda GenAI ile ilgili güvenlik olayları yaşadı; bunların %67’si yalnızca geçen yıl meydana geldi.
GenAI yatırımları son 12 ayda hızla arttı
Bu programların yeniliği muhtemelen nedenidir. Katılımcıların %84’ü GenAI’ye yatırım yapmış veya yatırım yapmayı planlıyorken, bu GenAI operasyonlarının %71’i son iki yıl içinde, %49’u ise yalnızca son 12 ayda başlatıldı. İşletmeleri yapay zekayı benimseyen katılımcıların %85’i yapay zekanın gizlilik ve güvenlik risklerinden endişe duyuyor.
Anket, GenAI’yi çevreleyen ve işletmeler için hala çok aktif ve çözülmemiş bir dizi endişeyi ortaya çıkardı; bunlar arasında %58’de yer alan Shadow AI (GenAI’nin bilinmeyen veya onaylanmamış kullanımı), veri gizliliği (%56), yönetişim (%63), Fikri mülkiyet koruması (%62), eğitimde önyargı (%55), veri güvenliği (%60), çalışanların istem kullanımı (%63), çalışan eğitimi (%58) ve hem iç hem de dış kurallar ve uyumluluk (%64 ve sırasıyla %62).
Veri güvenliği, büyük kuruluşlar (5.000’den fazla çalışan) için özellikle acil bir sorundur ve bunların %93’ü Gölge Yapay Zeka ile ilgili endişelerin arttığını bildirmiştir. Bunun nedeni basit: Bir şirketin ne kadar çok çalışanı varsa, kötü aktör veya kasıtsız insan hatası için potansiyel giriş noktaları da o kadar fazla olur.
Riskler ne olursa olsun, Üretken Yapay Zekanın işletmeleri açısından faydaları konusunda iyimserlik güçlü: Katılımcıların %82’si GenAI’nın kendilerine rekabet avantajı sağladığına dair yüksek güven bildirdi.
Kuruluşlar güvenli yapay zeka kullanımı için yönergeler oluşturuyor
Kuruluşlar benimsemeye çalışırken anket, işletmelerin bu acil sorunlarla nasıl başa çıktığına dair erken bir bakış sağlıyor. Yüzde 80’i, kullanımı güvenli bir şekilde etkinleştirmenin önemli bir ilk adımı olan yapay zekayla ilgili yönergeleri ve politikaları zaten oluşturdu.
Bu arada %68’i, çalışanların yanlışlıkla özel bilgileri paylaşmamasını veya yanlışlıkla uyumluluk talimatlarını ihlal etmemesini sağlamak için kabul edilebilir kullanım politikaları oluşturup paylaştı.
Yanıtlardan, şirketlerin GenAI’ya yönelik yetersiz görünürlüğün getirdiği riskleri çok ciddiye almaya başladıkları açıkça görülüyor. Ankete katılanların %99’u, şirketleri için bir GenAI veri yönetimi aracına sahip olduklarını veya yatırım yapacaklarını söylerken, %0’ı bunun dikkate alınmadığını söyledi (%1 emin değildi).
%33’ünün halihazırda bu tür programları var ve %32’si ilk görüşme aşamasında. Aynı zamanda, çalışanların GenAI eğitimi teknolojik gelişmelerin gerisinde kalıyor; şirketlerin %58’i çalışanlarına GenAI konularında yıllık beş saatten daha az eğitim ve öğretim sağlıyor.
Portal26 CEO’su Arti Raman, “GenAI’nin şirketler arasında yaygın şekilde benimsenmesiyle, gerçek zamanlı olarak büyük bir deneyin gerçekleştiğine tanık oluyoruz” dedi.
“GenAI’nin faydaları inkar edilemez, ancak görünürlük eksikliği her zaman daha düşük üretkenliğe ve güvenlik, Gölge AI, yönetişim, gizlilik ve daha fazlası konusunda daha yüksek risklere yol açacaktır. Bu anket sonuçlarının gösterdiği gibi, bu GenAI programlarının çoğu henüz bir yaşında ve şirketlerin GenAI’nin sunabileceği tüm avantajlardan rahatça yararlanabilmesi için birçok temel çalışmanın yapılması gerekecek. Bu ankete göre pek çok şirketin görünürlük, yönetişim vb. konulardaki altyapı ihtiyacının zaten fazlasıyla farkında olduğunu ve buna göre ilgili teknolojiye yönelik harcamaları artırdığını görmek cesaret verici. Bu süreç hâlâ başlangıç aşamasında ve önümüzdeki aylarda ve yıllarda görünürlük altyapısına daha da güçlü yatırımlar görmeyi bekleyebiliriz” diye ekledi Raman.