3. Taraf Risk Yönetimi, Yapay Zeka ve Makine Öğrenimi, Yönetim ve Risk Yönetimi
Netskope, Firmaların Engelleme Kontrolleri ve DLP Kullandığını, Ancak Hala Güvenlik Açıklarıyla Karşı Karşıya Olduğunu Söylüyor
Rashmi Ramesh (raşmiramesh_) •
24 Temmuz 2024
Güvenlik firması Netskope’a göre, ChatGPT’nin hızlı üretken yapay zeka benimsenmesinin önünü açmasının üzerinden yaklaşık 18 ay geçti, ancak işletmeler temel siber güvenlik stratejilerini uygulamaya ve yapay zeka risklerini azaltmak için engelleme kontrolleri, DLP araçları ve canlı koçluk kullanmaya yeni başlıyor.
Ayrıca bakınız: Güvenlik Stratejinizdeki Boşlukları Kapatın
Netskope, anonimleştirilmiş yapay zeka uygulaması kullanım verilerini analiz ettikten sonra, kuruluşların riskleri azaltmak ve kullanıcıların kişisel tanımlanabilir bilgiler, kimlik bilgileri ve ticari sırlar gibi hassas verileri yapay zeka uygulamalarıyla paylaşmasını önlemek için güvenlik önlemleri uyguladığını söyledi.
Netskope, üretken yapay zeka uygulamalarıyla paylaşılan hassas verilerin üçte birinden fazlasının düzenlendiğini, bu nedenle kuruluşların yasal olarak bunu korumak zorunda olduğunu belirterek güvenlik mekanizmalarına ihtiyaç duyulduğunu söyledi.
Netskope CISO’su James Robinson, “İşletmeler, AI çıktılarının yanlışlıkla hassas bilgileri ifşa edebileceğini, yanlış bilgi yayabileceğini veya hatta kötü amaçlı içerik sunabileceğini kabul etmelidir. Bu, verileri, itibarı ve iş sürekliliğini korumak için sağlam bir risk yönetimi yaklaşımı gerektirir” dedi.
Kuruluşların yaklaşık 4’te 3’ü, çalışanların en az bir, bazen de birkaç üretken yapay zeka uygulamasının kullanımını sınırlamak için engelleme/izin verme politikalarını kullanıyor; bu, geçen yıla göre %53’lük bir artışı temsil ediyor.
30 Haziran’da sona eren 13 aylık çalışmada ankete katılan kuruluşların sayısı belirtilmedi ancak şirket, finansal hizmetler, sağlık, imalat, telekomünikasyon ve perakende sektörlerindeki 1.000’den fazla aktif kullanıcısı olan kuruluşların dahil edildiğini belirtti.
Ankete katılan kuruluşların yarısı güvenlik endişeleri nedeniyle ikiden fazla üretken yapay zeka uygulamasını engelledi ve bazıları 15’e kadar kısıtlama getirdi. Çoğu şirket Beautiful.ai, Writesonic, Craiyon ve Tactiq’i engelledi.
Güvenlik kuruluşları, Netskope’un olgunlaşan kurumsal güvenlik stratejilerine bağladığı AI’yı güvence altına almak için DLP araçlarını kullanma oranlarını artırdı. Bu yıl, kuruluşların %42’si bu araçları kullanıcıların üretken AI araçlarına ne girebileceğini yönetmek için kullandı; bu sayı Haziran 2023’te bu sayının yaklaşık yarısıydı.
Kullanıcıları yapay zeka uygulamalarıyla potansiyel olarak riskli etkileşimler konusunda gerçek zamanlı olarak uyaran canlı koçluk kontrolleri, Haziran 2023’te %20 iken kuruluşların %31’i tarafından kullanılıyor.
Üretken AI hizmetlerine gönderilen verileri kontrol etmek için, bu hizmetlerden gelen yanıtlarla ilişkili riskleri yönetmekten daha fazla çaba harcanmıştır. Çoğu kuruluşun, üretilen verileri nasıl ele alacağına dair kabul edilebilir kullanım politikaları olsa da, çok azı, gerçek dışı veya taraflı veriler, manipüle edilmiş sonuçlar, telif hakkı ihlali ve uydurma yanıtlarla başa çıkmak için yerleşik mekanizmalara sahiptir.
Kuruluşlar bu riskleri satıcı sözleşmeleri, özel uygulamalar için tazminat maddeleri ve yalnızca yüksek kaliteli veri kümelerine sahip kurumsal onaylı uygulamaları kullanarak azaltabilir. Zaman damgaları, kullanıcı istemleri ve sonuçlar dahil olmak üzere tüm döndürülen veri kümelerinin kaydedilmesi ve denetlenmesi de yardımcı olabilir.
Yapay zeka uygulaması güvenliğine yönelik artan odaklanma, işletmelerin yapay zeka araçlarını hızla benimsemesiyle birlikte geliyor. Netskope’un anketi, müşteri şirketlerindeki insanların %96’sının kodlama, yazma, sunum oluşturma ve görüntü ve video oluşturma konusunda yardımcı olması için üretken yapay zeka uygulamalarını kullandığını söylüyor – geçen yılın Haziran ayında bu oran %74’tü.
Ortalama olarak, kuruluşlar üç kat daha fazla üretken AI uygulaması kullanıyor ve neredeyse üç kat daha fazla kullanıcı bir yıl öncesine göre bu araçlarla etkileşim kuruyor. Benimseyenlerin en üstteki %1’i ortamlarında ortalama 80 üretken uygulamaya sahip.
ChatGPT en çok kullanılan uygulama olmaya devam ediyor, onu Grammarly, Microsoft Copilot, Google Gemini ve Perplexity AI takip ediyor – ancak Perplexity AI aynı zamanda en sık engellenen uygulamalar arasında da yer alıyor.
Yapay zeka teknolojisi, popülaritesine paralel olarak önemli yatırımlar topladı ve bu alandaki şirketler, 2020’den 2024 Mart ayına kadar 28 milyar dolar sermaye yatırımı aldı.