Gartner’a göre, OpenAI’nin ChatGPT ve Google Bard gibi üretken yapay zekanın kitlesel kullanılabilirliği, 2023’ün ikinci çeyreğinde kurumsal risk yöneticileri için en önemli endişe haline geldi.
Ortaya çıkan risklere ilişkin karşılaştırmalı bir görünüm
Gartner Risk & Audit Practice’de araştırma direktörü olan Ran Xu, “Üretken yapay zeka, ikinci çeyrek anketimizde en sık adlandırılan ikinci risk oldu ve ilk kez ilk 10’da yer aldı” dedi. “Bu, hem halkın farkındalığındaki hızlı artışı hem de üretken yapay zeka araçlarının kullanımının yanı sıra potansiyel kullanım durumlarının genişliğini ve dolayısıyla bu araçların yol açtığı potansiyel riskleri yansıtıyor.”
Mayıs 2023’te Gartner, liderlere yeni ortaya çıkan 20 riskle ilgili karşılaştırmalı bir görüş sunmak için 249 üst düzey kurumsal risk yöneticisiyle anket yaptı. Rapor, bu riskler için olası etki, zaman çerçevesi, dikkat düzeyi ve algılanan fırsatlar hakkında ayrıntılı bilgiler içerir.
Üçüncü taraf uygulanabilirliği, kuruluşların 2Ç23 anketinde en yakından takip ettiği en hızlı ortaya çıkan riskti. Finansal planlama belirsizliği üçüncü sıradaki risk oldu ve bunu bulut yoğunlaşma riski izledi. Çin ticaret gerilimleri, mevcut geniş makroekonomik ve jeopolitik oynaklığın belirtileri ile teknolojiyle ilgili endişeler arasında bölünmüş ilk beş riski tamamladı.
Üretken AI kullanılabilirliği
Gartner daha önce güvence işlevleriyle ilgili altı üretici yapay zeka riski ve dört yapay zeka düzenlemesi alanı belirlemiştir. Gartner uzmanlarına göre kurumsal risk yönetimi açısından üç ana husus ele alınmalıdır:
Fikri mülkiyet
Xu, “Üretken bir yapay zeka aracına girilen bilgiler, eğitim setinin bir parçası haline gelebilir, bu da hassas veya gizli bilgilerin diğer kullanıcılar için çıktılara dönüşebileceği anlamına gelir” dedi. “Bu araçlardan elde edilen çıktıların kullanılması, istemeden onu kullanan diğer kişilerin fikri mülkiyet haklarının ihlal edilmesiyle sonuçlanabilir.”
Fikri mülkiyet risklerinin üretken AI araçlarından hem girdi hem de çıktı açısından uygun şekilde hafifletilebilmesi için kurumsal liderliği bu tür araçların kullanımı konusunda dikkatli ve şeffaf olmanın gerekliliği konusunda eğitmek önemlidir.
Veri gizliliği
Üretken yapay zeka araçları, kullanıcı bilgilerini satıcılar veya hizmet sağlayıcılar gibi üçüncü taraflarla önceden haber vermeksizin paylaşabilir. Bu, birçok yargı alanında gizlilik yasasını ihlal etme potansiyeline sahiptir. Örneğin, düzenleme Çin ve AB’de uygulanmakta olup, önerilen düzenlemeler diğerlerinin yanı sıra ABD, Kanada, Hindistan ve Birleşik Krallık’ta ortaya çıkmaktadır.
Siber güvenlik
Xu, “Hacker’lar her zaman yeni teknolojileri kendi amaçları için bozmanın yollarını deniyorlar ve üretken yapay zeka da farklı değil” dedi. “Üretken yapay zekanın üretmesi için kandırıldığı kötü amaçlı yazılım ve fidye yazılımı kodu örneklerinin yanı sıra, bu araçları kandırarak vermemeleri gereken bilgileri vermeleri için kandırabilen ‘hızlı enjeksiyon’ saldırıları gördük. Bu, gelişmiş kimlik avı saldırılarının sanayileşmesine yol açıyor.”
Üçüncü taraf yaşayabilirlik riskinin nedenleri ve sonuçları
Xu, “Faiz oranı artışlarına daha az tepki veren ve beklenenden daha uzun süre devam eden kalıcı enflasyon, maliyetleri ve üçüncü taraflar üzerindeki marj baskılarını artırdı” dedi. “Merkez bankaları enflasyonla mücadele için faiz oranlarını artırdıkça, bu aynı zamanda tedarikçilerin faaliyetlerini askıya almasına veya borçlanma maliyetleri arttıkça iflas etmesine neden olabilecek bir kredi sıkılaştırma sürecini de beraberinde getiriyor.”
Ekonomik koşullar genel olarak kötüleşirse, bu, satıcının varlığını veya mal ve hizmetleri zamanında sağlama yeteneğini etkileyebilecek beklenmedik bir talep düşüşüne neden olabilir.
Gartner uzmanları, durum geliştikçe risk yöneticilerinin izlemesi için üç potansiyel üçüncü taraf uygulanabilirlik sonucu belirledi:
- Önemli girdilerin ve malzemelerin kaybı: Üçüncü taraflar, daha geniş ekonomik durum nedeniyle fiyatlarını artırıyorsa, üçüncü taraflar daha yüksek fiyatlar ödemeye istekli müşterileri tercih edeceğinden, kilit girdilere ve malzemelere erişimi kaybetme riski vardır.
- Hatalı finansal planlama varsayımları: Tedarikçiler fiyatları artırdıkça veya başarısız oldukça, maliyet varsayımları geçersiz hale gelecek, bu da mal ve hizmetlerin elde edilmesi için değiştirme maliyetlerini ve artan fiyatları gerektirecektir.
- Tedarik zinciri dışındaki zorluklar: Yönetilen hizmet sağlayıcılar veya ticari ortaklar, alacaklılar veya teknoloji satıcıları gibi iş ortakları faaliyetlerini durdurabilir veya kısıtlayabilir.