Kasım 2022’de ChatGPT piyasaya sürülerek yeni olasılıklar ve zorluklar getirildi. AI ve GenAI popülerlik ve kullanım açısından büyüdükçe, işletmeler teknolojiyi nasıl kullanacakları ve doğru ve etik bir şekilde nasıl kullanılacağı konusunda mücadele etmek zorunda kaldılar. Üretkenlik kazanımları kullanıcılar için şeffaf olsa da, şirketler kendilerini ve çalışanlarını korumak için yönergeler belirlemelidir.
Bulut teknolojisinin tanıtıldığı ve BT departmanlarının bunu nasıl dağıtacaklarını çözmeleri gerektiği zamanı düşünün. Çalışanlar, BT departmanları faydalarını ve sınırlamalarını anlamadan önce bulut tabanlı teknolojileri kullanmaya başladılar ve bu da veri gizliliği endişeleri, veri kaybı ve güvenlik sorunları gibi çeşitli sorunlara yol açtı. Bugüne hızlıca ilerleyelim, çalışanlar dahili kurallar ve sektör çapında düzenlemeler uygulanmadan önce AI ve GenAI’yi benimsediler. Bu Vahşi Batı zihniyeti, BT departmanlarının çalışanların kullandığı uygulamalar ve hizmetler üzerinde hiçbir görünürlüğü veya kontrolü olmadığı “gölge BT”nin bir güncellemesi olan “gölge AI” ile sonuçlandı.
Gölge AI, genellikle kuruluşun BT departmanının bilgisi dışında, işyerinde AI teknolojisinin yetkisiz kullanımıdır. Birçok çalışan, BT departmanlarının onaylamadığı kişisel hesaplar aracılığıyla AI araçlarını kullanır. Cyberhaven’ın yakın zamanda yaptığı bir araştırma, Mart 2023 ile Mart 2024 arasında çalışanların AI araçlarına koyduğu kurumsal veri miktarının %485 arttığını gösteriyor. Bu kurumsal verilerin dörtte birinden fazlası veya %27’si hassas olarak kabul edildi ve bu da verileri riske atma potansiyeli taşıyordu (daha fazla BT sorununa yol açıyor). Hassas veriler, kişisel olarak tanımlanabilir bilgiler (PII), finansal veriler, fikri mülkiyet, iş operasyonları verileri, müşteri verileri, çalışan verileri ve yasal belgeleri içerir.
Resmi yönetim, güvenlik protokolleri ve denetim sayesinde çalışanlar, üretkenliği artırmak veya belirli bir sorunu çözmek için yapay zeka araçlarını veya hizmetlerini kullanırken hassas verilerin ifşa edilmesini önleyebilirler.
GenAI, BT Onayı ile veya Onay Olmadan Nasıl Kullanılıyor?
Gölge AI, bir casus romanı için gizli kapaklı bir başlık gibi geliyor. Gerçek şu ki, AI ve GenAI etrafında yönetişim, denetim veya güvenlik protokolleri oluşturmazlarsa işletmeler zor durumda kalır. İşte çalışanların ve departmanların GenAI’dan nasıl yararlandığına dair örnekler:
- İçerik oluşturma. Bir pazarlama ekibi, yapay zeka destekli senaryo yazımı, özelleştirilmiş mesajlaşma, yapay zeka tarafından oluşturulan grafikler ve animasyonlar, ses ve görüntü düzenleme gibi özelliklerle ilgi çekici videolar oluşturmak için GenAI’dan yararlanabilir.
- Veri Analizi. Çalışanlar, BT desteğini beklemeden hızlı bir şekilde içgörü elde etmek için veri analizi için AI araçlarını kullanabilir. Örneğin, pazarlama ekibi bir ürün lansmanına hazırlanıyor olabilir ve mesajları farklı kitlelere göre uyarlamak için müşteri davranışını analiz etmesi gerekebilir.
- Otomasyon. Departmanlar, süreçleri kolaylaştırmak ve manuel işi azaltmak için AI destekli otomasyonu uygulayabilir. Örneğin, İK departmanı özgeçmiş taraması, filtreleme ve mülakat planlama otomasyonu ile işe alımda AI’dan yararlanabilir.
- Müşteri Etkileşimleri. Müşteri hizmetleri ekipleri, etkileşimi artırmak ve yaygın soruları ve destek taleplerini ele almak için yapay zeka sohbet robotlarını veya sanal asistanları kullanabilir.
Gölge Yapay Zeka ile Hangi Riskler Ortaya Çıkıyor?
AI ve GenAI ne kadar umut verici olsa da, bu teknolojileri uygun parametreler olmadan kullanmak önemli risklere yol açabilir ve işletmeyi etkileyebilir. Şunları göz önünde bulundurun:
- Veri ihlalleri ve kötü amaçlı yazılım saldırıları. GenAI’dan yararlanan araçlarda erişim kontrolleri ve şifreleme eksikliği olabilir; bu da hassas verilerin yetkisiz kişilere açık olmasına ve kötü amaçlı yazılımlara ve potansiyel güvenlik ihlallerine kapı aralamasına neden olabilir.
- Yasal ve uyumluluk. Onaylanmamış AI teknolojilerinin kullanılması, gizlilik yasalarını ihlal eden kişisel verilerin kötüye kullanılmasına yol açabilir. Bu araçların gerekli denetim olmadan kullanılması, GDPR, HIPPA veya PCD DSS gibi endüstri standartlarına uyulmamasına yol açabilir ve ağır para cezalarına veya daha kötüsü yasal sonuçlara yol açabilir.
- Operasyonel verimsizlik. Parçalanmış veri yönetimi veya yetersiz kaynak tahsisi, veri tutarsızlığına, yanlış bilgilere veya yinelenen çalışmalara yol açabilir.
Eylem ve Eğitim İşletmeleri Korumanın Anahtarıdır
İşletmelerin yapay zekanın kötüye kullanımı ve hassas verilerin ifşa edilmesi tehlikelerinden kendilerini korumasının en iyi yolu proaktif olmaktır: iş uygulamaları ve politikaları oluşturun, BT onaylı yapay zeka araçları sağlayın ve bir uyumluluk ve farkındalık kültürü geliştirin.
Bir diğer yol da BT departmanının yetkisiz AI teknolojilerinin kullanımının olumsuz yönlerine ilişkin farkındalığı artırmak için eğitim kampanyaları uygulamasıdır. BT uzmanlarının onaylanmamış AI araçlarının sonuçlarını tartıştığı farkındalık kampanyaları, eğitim atölyeleri ve bilgilendirme oturumları bu sorunları çözebilir. Diğer öneriler şunlardır:
- Net politikalar ve yönergeler oluşturun.
- Gölge Yapay Zeka’nın tehlikeleri hakkında eğitimleri ve SSS’leri paylaşmak için çalışanlara yönelik iletişim kanallarından (e-öğrenme modülleri, haber bültenleri, intranet) yararlanın.
- Yapay zekanın kötüye kullanılmasının tehlikelerini gösteren gerçek dünya örnekleri ve vaka çalışmaları geliştirin. Shadow AI’nın bir soruna neden olduğu dahili olayları vurgulamayı düşünün.
- Üst yönetime örnek teşkil edecek politikaları ve en iyi uygulamaları onaylama görevini verin.
Yapay zeka kullanımına ilişkin politikaların yerinde olduğundan ve çalışanların Gölge Yapay Zeka ile ilişkili sorunları anladığından emin olmak için proaktif önlemler alarak, BT departmanı şirketi ve çalışanlarını güçlendirecek ve koruyacak ve bir güvenlik ve uyumluluk kültürü oluşturacaktır.
Yazar Hakkında
Saugat Sindhu Wipro Limited’de Kıdemli Ortak ve Küresel Danışmanlık Hizmetleri Başkanıdır.
Wipro’da siber güvenlik ve risk odaklı yönetim danışmanlığı ve iş danışmanlığı hizmetleri ve ticari ve kamu sektörü müşterileri için ilgili teknoloji entegrasyonu ve dönüşüm hizmetleri sağlayarak küresel çapta çeşitli uygulayıcılardan oluşan bir gruba liderlik ediyor. Wipro’nun Siber Danışmanlık işletmesi için strateji geliştirme ve uygulama planlaması, endüstri hareketleri, çözüm inovasyonu ve müşteri hizmetlerine liderlik ediyor. Birincil endüstri uzmanlığı Medya, Teknoloji ve Telekom’u içeriyor.
Saugat’a https://www.linkedin.com/in/saugatsindhu/ adresinden ve şirketimizin https://www.wipro.com/ adresindeki web sitesinden ulaşabilirsiniz.