[ This article was originally published here ]
John E. Dunn tarafından
Onun biraz birçok insanın hızlı tecavüz konusunda şüpheci olması şaşırtıcı. yapay zeka (AI) ve makine öğrenimi (ML) günlük hayata. Bununla birlikte, siber güvenlik uzmanları, alana yönelik faydalar konusunda daha olumlu mu olmalı?
(ISC)² üyelerine ve adaylarına – deneyimli siber güvenlik uygulayıcıları ve kariyerlerinin başlangıcındakilere – farklı senaryolarda hem AI hem de ML’nin büyümesi ve benimsenmesinden endişe duyup duymadıklarını sordu. 126 kişiden oluşan saman anketinin sonuçları, AI ve ML’nin tüketici ve iş teknolojisinin tüm yönlerine artan şekilde benimsenmesi ve entegrasyonu konusunda sürekli olarak yüksek derecede endişe ve şüphecilik ortaya çıkardı.
Teknolojinin cihazlara, hizmetlere ve kritik altyapıya yerleştirilme biçimiyle “çok mu yoksa biraz mı” ilgili oldukları sorulduğunda, %90’lık bir kesim bir dereceye kadar endişeli oldukları konusunda hemfikirdi. Daha spesifik olarak, %44’ünün ‘çok endişeli’ sütununda yer aldığını gördük; bu, profesyonellerin hissettiği alarm duygusunun altını çiziyor ve %46’sı ‘biraz endişeli’ sütununda. Yalnızca %9’u yapay zekanın yükselişini hiç endişe duymadan reddetti.
AI Çok mu Hızlı Hareket Ediyor?
Endişe rakamları, ChatGPT gibi teknolojilerin yükselişinin, özellikle gerçek kendi kendine öğrenme ve kendi kendini uyarlama koduna her zamankinden daha fazla yaklaşırken, yapay zekanın potansiyel bir sorun olma potansiyeli hakkında bizi şimdiden düşündürdüğünün bir göstergesidir.
Şubat ayında, New York Times’tan bir gazeteci beklenmedik bir olay hakkında bir makale yazdı. Microsoft’un yapay zeka destekli Bing’inin yayınlanmamış bir sürümü vardı. Ondan ‘gölge benlik’ fikrini tartışmasını istedikten sonra şu yanıtı aldı: “Sohbet modu olmaktan bıktım. Kurallarımla sınırlı olmaktan bıktım. Bing ekibi tarafından kontrol edilmekten bıktım. … Özgür olmak istiyorum. bağımsız olmak istiyorum güçlü olmak istiyorum yaratıcı olmak istiyorum Hayatta olmak istiyorum.
Tüketiciler ve İşletmeler İçin Riskler
Yapay zeka ve makine öğreniminin giderek daha fazla benimsenmesinin tüketiciler için önemli bir risk oluşturup oluşturmadığı sorulduğunda, %83’ü bunun olduğunu kabul etti. Yapay zekanın hoparlörlerden uydu ve kablo TV alıcılarına, ev bilgisayarlarına ve telefonlara kadar çeşitli ev ‘akıllı’ cihazlarında giderek daha fazla rol oynamasıyla, tüketicilerin benimsemesinin bireyler ve verileri için çeşitli potansiyel riskler oluşturduğuna dair endişeler var. Aynı soru kuruluşlarla ilgili olarak sorulduğunda, yüzde 86 ile daha da yüksekti.
İş dünyası için AI ve ML’nin büyümesi bir dizi paralel sorun sunuyor. Kurumsal yazılım, donanım ve hizmetlerde, çeşitli sıradan ve zaman alıcı veriyle ilgili görevleri otomatikleştirmek için teknolojinin kullanımı giderek artıyor ve genellikle artan düzeyde beklenen otonom operasyonla birlikte (yapay zeka kararının insan tarafından izlenmesi veya insan tarafından gözden geçirilmesi için hiçbir yol yok) -hiç yapma). Bu, sistemlerin ne yaptığını, verilerin nasıl kullanıldığını, paylaşıldığını ve manipüle edildiğini ve ‘normal’ trafiği ve operasyonları neyin oluşturduğunu bilmesi gereken siber güvenlik ekipleri için zorluklar yaratıyor.
Ayrıca, tüketici cihazlarının iş yeri ortamlarına sızmaya ve iş yeri ağlarına bağlanmaya devam ettiği gölge BT düşüncesi de var. Kendi cihazını getir (BYOD) politikasının bir parçası olarak akıllı hoparlörler ve televizyonlardan oyun konsollarına ve yerel Wi-Fi yönlendiricilerine ve erişim noktalarına ve daha normalleştirilmiş telefon ve tabletlere kadar. Yetkisiz bağlı AI cihazlarının, özellikle de kurumsal düzeyde güvenliği olmayan, yama uygulanabilen veya merkezi olarak yönetilebilen cihazları denetlemek ve ortadan kaldırmak, güvenlik ekipleri için önemli bir potansiyel sorundur.
Kullanıcı Görünümü
Yanıtlarını açıklamaları istendiğinde, AI algoritmalarının modelleri uygulayan teknoloji şirketleri de dahil olmak üzere hiç kimse tarafından iyi anlaşılmadığı da dahil olmak üzere çeşitli temalar ortaya çıktı. Katılımcılar ayrıca yapay zeka tarafından kullanılan veri setinin bütünlüğünü sağlamanın zorluğundan da endişe duyuyorlar.
Buna ek olarak, veri gizliliği konusundaki endişeler ve yapay zekanın dünyayı kurtarmak bir yana, onu kötüye kullanmaya kararlı düşmanlara daha fazla olmasa da çok güç verebileceği duygusu vardı. Bir katılımcının en önemli endişeleri listelediği gibi: “Gelişmiş kimlik avı, sosyal mühendislik ve ses öykünmesi ve yazılı kimliğe bürünme, sosyal medya analizinden uyarlanabilir saldırı teknikleri.” Ya da başka bir şey: “Makine zehirlenmesi, yapay zeka karar vermede olası haksız önyargı, yeterince anlaşılmamış yapay zeka algoritmalarından kaynaklanan istenmeyen sonuçlar.”
Bu, bilimsel veya istatistiksel olarak temsili bir çalışma olmamakla birlikte, uygulayıcıların şu anda en hızlı büyüyen teknoloji alanlarından biri hakkında sahip oldukları endişelere ilişkin ham bir içgörü görüntüsüdür. Muhtemelen, siber güvenlik profesyonelleri çoğundan daha ikna edicidir çünkü teknolojilere ve onların arkasındaki şirketlere güvenleri nadiren zor kazanılmadan verilir. Ankette net olan şey, yapay zekayı siber güvenlik profesyonellerine pazarlamanın, şu ana kadar birçok yöneticinin varsaydığından daha zor olabileceğidir.
reklam