Editörün notu: Cybersecurity Dive, ChatGPT ve üretken yapay zekanın güvenlik konusunda nasıl iz bıraktığını araştırıyor. Yöneticiler, rakiplerin teknolojiden zarar vermek için nasıl yararlanmasını bekliyor? Üretken yapay zekanın savunmayı nasıl destekleyebileceğine ilişkin önceki haberimize göz atın.
ChatGPT dünyayı kasıp kavurdu ve hem tüketiciler hem de iş dünyası için dalgalar yaratırken güvenlik uzmanları, kötü amaçlar için üretken yapay zekaya yönelen tehdit aktörlerine karşı temkinli davranıyor. Endişe için bir neden ama tam bir panik değil.
Süretken yapay zeka chatbot’u Kasım ayında piyasaya sürüldüğünden beri, Palo Alto Networks’ün 42. Birimi tespit etti günlük olarak ChatGPT ile ilgili 118 adede kadar kötü amaçlı URL ve araçla ilgili alan işgali %17.818 arttı.
Tehdit istihbaratı firması Perşembe günü yaptığı açıklamada, ChatGPT’nin “tarihin en hızlı büyüyen tüketici uygulamalarından biri” olduğunu söyledi. Blog yazısı. “Bu popülaritenin karanlık tarafı, ChatGPT’nin siteyle ilgili görünen ifadeler ve alan adlarını kullanmaktan yararlanmaya çalışan dolandırıcıların da dikkatini çekmesidir.”
ChatGPT’yi içeren en eski ve en bariz tehditler, keskin kimlik avı e-postası oluşturma, bazı kötü amaçlı yazılım kodlamaları ve daha etkili hedefleme için verilerin toplanması ve bağlamsallaştırılmasını içerir.
Otonom saldırı mekanizmaları ve karmaşık kötü amaçlı yazılım kodlaması gibi daha şaşırtıcı tehlikeler henüz gerçekleşmedi.
ChatGPT ve diğer üretken yapay zekanın güvenlik ortamını nasıl temelden değiştireceğine dair oldukça fazla sansasyonellik var. Jon France, CISO, (ISC)2. “Henüz durumun bu olduğundan emin değilim.”
Aldatmaca ve gerçeklik arasındaki boşluk, endişeleri yatıştırmak için çok az şey yapıyor.
Bir araştırmaya göre, BT uzmanlarının neredeyse dörtte üçü, ChatGPT’yi potansiyel bir tehdit olarak değerlendirdi ve piyasaya sürüldükten sadece iki ay sonra teknolojiyle ilgili endişelerini paylaştı. BlackBerry anketi Ocak ayında gerçekleştirildi. Ankete katılanların yarısından fazlası, ChatGPT’nin bu yıl başarılı bir siber saldırıda kullanılacağını tahmin etti.
Endişeler çok ama siber güvenlik uzmanları şu anda ChatGPT’nin savunmayı yıkmak yerine güçlendirmek için daha fazlasını yaptığını görüyor.
“Bundan çıkan birkaç olumsuzluk, gerçekten vurgulama eğilimindeyiz” dedi Darktrace’te kırmızı ekip operasyonlarından sorumlu Kıdemli Başkan Yardımcısı Justin Fier.
Fier, “Dışarıda her zaman bir şeyi alacak ve onu kötüye kullanmanın bir yolunu bulacak biri vardır ve bundan kaçış yok,” dedi. “Muhtemelen çoktan başladığını varsaymalıyız.”
Sebep dahilinde endişeler bol
Araştırmacılar Kontrol Noktası Ve Cyberark Ocak ayı gibi erken bir tarihte kötü amaçlı kod yazmak için ChatGPT kullanan tehdit aktörleri gözlemlendi, ancak analiz, ortaya çıkan kodun o aşamada temel düzeyde olduğuna karar verdi.
Fransa’ya göre ChatGPT, tehdit aktörlerinin daha hedefli ve etkili kod yazmasını sağlayabilirken, üretici yapay zeka aracı henüz tam teşekküllü işleyen bir kötü amaçlı yazılım parçası yazmadı.
Şimdilik, tehdit daha spesifik ve dar.
France, “Aklınızda belirli bir hedef varsa ve model, nispeten iyi biliniyorsa, muhtemelen kişi hakkında oldukça fazla şey biliyor” dedi. “Oldukça hızlı bir şekilde bağlamsallaştırabilir ve potansiyel olarak size saldırganın aşikar olmayabileceği bazı vektörler verebilir. Bu durumda biraz steroid kullanan Google gibi.
Saldırganlar, örneğin güvenlik duvarlarındaki belirli yolları öğrenmek veya neyi hedefleyeceklerini belirlemek için yama yapılmamış güvenlik açıklarını belirlemek için ChatGPT’nin sorun çözme yeteneklerini de kullanabilir.
Fier, “Dünya genelinde Log4Shell durumunu alacak olan bir sonraki sıfır günü yazacak bir noktada olduğumuzu sanmıyorum,” dedi.
Daha büyük ve daha acil endişe, veri madenciliğini içerir. Fier’e göre, ChatGPT’nin büyük veri kümelerindeki kalıpları bulma ve bu bulguları diğer veri kümelerindeki kalıplarla birleştirme yeteneği, bazı korkutucu sonuçlara yol açabilir.
Siber güvenlik uzmanları, ChatGPT’yi ağırlıklı olarak zarar vermek için kullanılacak bir güç olarak görme konusunda isteksizler, ancak henüz bunu bir olasılık olarak saymaya istekli değiller.
Fier, “Bazıları biraz telaşlı hissetse de, bu konuşmaları yapıyor olmamızın olumlu olduğunu düşünüyorum” dedi. “Bu konuşmaları yapmanın zamanı geldi. AI hiçbir yere gitmiyor. Bu, farklı uluslar arasında yeni bir silahlanma yarışı.”