İşletmelerde üretken yapay zekanın (GenAI) kullanımına ilişkin bir araştırma için görüşülen üst düzey iş liderlerinin %90’ından fazlası, bu tür araçların çalışanları tarafından düzenli olarak kullanıldığına inanıyor ve %53’ü üretken yapay zekanın artık belirli çizgileri “yönlendirdiğini” söylüyor. %59’u bu “sessiz sızmanın” boyutunun siber risk düzeylerini artırdığına dair derin endişelerini dile getiriyor.
Bu, siber güvenlik tedarikçisi Kaspersky’ye göre, liderlerin yalnızca %22’sinin üretken yapay zeka kullanımını izlemek için dahili yönetişim politikaları belirlemeyi tartıştığı, hatta %91’inin bu tür araçların nasıl kullanıldığına dair daha fazla anlayışa ihtiyaçları olduğunu kabul ettiği konusunda uyardı. güvenlik risklerine karşı koruma sağlamak.
İnsanların işyerlerinde BT ve güvenlik ekiplerinin ya da liderliğin gözetimi olmadan GenAI’yı benimsemeleri teması, makul bir şekilde gölge AI olarak adlandırabileceğimiz bir trend, aslında yeni bir trend değil. Bu yılın başlarında bir Imperva raporu da benzer endişelere dikkat çekti ve büyük bir kuruluşta, kayıt dışı bir kapasiteyle üretken yapay zekayı kullanan bir kişinin içeriden sızmasının yalnızca an meselesi olduğunu belirtti.
Bununla birlikte, üretken yapay zeka araçlarının giderek genişleyen kapsamı ve giderek artan kapasitesi göz önüne alındığında, kuruluşların artık en azından asgari düzeyde gözetim uygulamama lüksü yoktur.
“Tıpkı kendi cihazını getir gibi [BYOD]Kaspersky’nin baş güvenlik araştırmacısı David Emm, “gen AI, işletmelere büyük üretkenlik avantajları sunuyor, ancak bulgularımız yönetim kurulu yöneticilerinin kuruluşlarındaki varlığını açıkça kabul ettiğini ortaya koysa da, kullanım kapsamı ve amacı hala gizemini koruyor” dedi.
Emm, “GenAI’nin hızlı gelişiminin şu anda hiçbir azalma belirtisi göstermediği göz önüne alındığında, bu uygulamalar ne kadar uzun süre kontrolsüz çalışırsa, İK, finans, pazarlama ve hatta BT gibi ana iş fonksiyonlarında kontrol edilmesi ve güvenliğinin sağlanması da o kadar zor hale gelecektir” dedi.
Verimli bir şekilde çalışabilmek için, üretken yapay zeka, veri girişleri yoluyla sürekli öğrenmeye dayanır ve her izinsiz kullanım durumunda, bir çalışan üretken bir yapay zeka aracına herhangi bir veri girdiğinde, bunu kuruluş dışına aktarıyor ve pekala bir veri kaybına neden oluyor olabilir. iyi niyetle hareket edilse bile ihlal.
Bu nedenle, dedi Emm, yönetim kurulunun veri kaybıyla ilgili endişeleri son derece gerçek ve araştırma verileri de bunu yansıtıyor; liderlerin %59’u bu risk faktörü konusunda “ciddi endişelerini” ifade ediyor.
Bu endişelere rağmen çalışma, iş liderlerinin %50’sinin üretken yapay zekadan belirli bir kapasitede yararlanmayı planladığını, muhtemelen işgücünün daha tekrarlayan görevlerinden bazılarını otomatikleştirmeyi planladığını ve %44’ünün üretken yapay zeka araçlarını günlük rutinlerine entegre etmeyi planladığını da ortaya çıkardı. İlginç bir şekilde %24’ü, otomatikleştirmek için üretken yapay zekayı kullanmaya en çok meyilli olduklarını düşündükleri işlevlerin BT ve güvenlik olduğunu söyledi.
“Hassas veri kaybı ve kritik iş birimlerinin kontrolünü kaybetme ihtimalinin üst düzey yöneticilerin duraksamasına yol açabileceği düşünülebilir, ancak bulgularımız endüstri patronlarının neredeyse dörtte birinin şu anda en önemli bazı birimlerini devretmeyi düşündüğünü ortaya koyuyor. Yapay zekaya hizmet ediyor” dedi Emm.
“Bu gerçekleşmeden önce, kapsamlı bir veri yönetimi anlayışının ve sağlam politikaların uygulanmasının, GenAI’nin kurumsal ortama daha fazla entegrasyonundan önce gelmesi zorunludur.”
Başbakan Rishi Sunak’ın dünyaya üretken yapay zekadan kaynaklanan riskleri daha ciddiye alması yönünde çağrıda bulunduğu konuşmanın ardından ve Bletchley Park’ta yapılacak Yapay Zeka Güvenlik Zirvesi öncesinde konu hakkında konuşan kıdemli başkan yardımcısı Fabien Rech ve Trellix genel müdürü şu yorumu yaptı: “Üretken yapay zeka iki ucu keskin bir kılıçtır; siber güvenlik ortamı gelişmeye devam ettikçe, üretken yapay zekanın yaygınlaşması karışıma yalnızca daha fazla karmaşıklık katıyor.
“Önümüzdeki hafta başlayacak ilk Yapay Zeka Güvenliği Zirvesi ile birlikte, kuruluşların bu gelişen teknolojiyle ilgili düzenlemelerin geleceği açısından bunun ne anlama geldiğinin ve işletmelerin bunu nasıl kullanıp entegre etmesinin beklenebileceğinin farkında olması hayati önem taşıyor.
“Sohbet robotları ve görüntü oluşturucular gibi üretken yapay zeka araçlarına erişim kolaylığı sayesinde günlük görevlerin ve etkinliklerin basitleştirilmesi, genel üretkenlik ve verimlilik açısından kesin bir avantaj sağlıyor. Ancak bunların, kötü amaçlı kod enjeksiyonu, kimlik avı ve sosyal mühendisliğin karmaşıklığını geliştirmek ve hatta veri gizliliği düzenlemelerini atlatmak için deepfake teknolojisinin kullanımını geliştirmek için nasıl kullanılabileceği konusunda anlaşılır endişeler var.
Rech şunu ekledi: “Kuruluşların güvenlik hijyenlerinin sağlam olduğundan emin olmaları hayati önem taşıyor. Güvenlik ekipleri, doğru çözümleri ve teknolojiyi entegre ederek tehditlere doğrudan karşı koyabilecek şekilde esnekleşen uyarlanabilir teknolojiyle daha dayanıklı bir koruma ortamı oluşturabilir. Bu yaklaşımı benimsemek kuruluşların güvenini yeniden kazanmalarına olanak tanıyarak onlara üstünlük sağlarken işletmeyi üretken yapay zekadan yararlanmak isteyen siber suçlulardan korur.”