OpenAI’nin ChatGPT’si gibi üretici yapay zeka teknolojileri, güvenlik uzmanlarının karmaşık, öngörülemeyen saldırılara karşı savunma yapmasına yardımcı olma potansiyeline sahiptir. Teknoloji aynı zamanda saldırganları da cesaretlendirecek. Ancak güvenlik sağlayıcıları, güvenlik uzmanları için kendi GPT tabanlı araçlarını piyasaya sürmeden önce tartışmaların hangi yöne gideceğini görmeyi beklemiyorlar.
Son iki aya ait bu kapsamlı olmayan duyuru listesini göz önünde bulundurun:
- Airgap Networks, Zero Trust Güvenlik Duvarı için gelişmiş bir makine öğrenimi modeli olan ThreatGPT’yi duyurdu.
- Endor Labs, geliştiricilerin projeleri için daha iyi (güvenli, eski olmayan, daha az riskli) açık kaynaklı yazılım bileşenleri seçmelerine yardımcı olacak bir sohbet botu olan özel bir beta Endor Labs DroidGPT’yi piyasaya sürdü.
- Microsoft, güvenlik ekiplerinin güvenlik olaylarını araştırmasına ve yanıt vermesine yardımcı olmak için geçen ay Microsoft Security Copilot’u tanıttı.
- Overhaul, tedarik zinciri görünürlüğünü, olaylara müdahale süresini ve risk değerlendirme yeteneklerini geliştirmeye yönelik uyumluluk ve risk platformu özelliği olan RiskGPT’yi duyurdu.
- SentinelOne, ChatGPT, GPT-4 ve diğer büyük dil modellerine dayalı sinir ağları doğal dil arayüzünü birleştiren yeni bir tehdit avlama platformunu tanıttı.
- Skyhawk Security, ChatGPT API’sini kullanan Tehdit Dedektörü özelliğini bulut tehdit algılama ve yanıtlama platformuna ekledi.
- Tenable Research, güvenlik açıklarını daha hızlı ve daha verimli bir şekilde belirlemek için üretken yapay zekayı kullanan GitHub’da dört araç yayınladı. Bunlar: tersine mühendisliği otomatikleştirmek için G-3PO, web uygulaması güvenlik araştırması için BurnGPT, kimlik ve erişim yönetimi politikası sorunlarını belirlemek için Yükseltilmiş GPT ve hata ayıklamayı basitleştirmek için GNU Hata Ayıklayıcı için bir Yapay Zeka Asistanı.
Tenable Research, savunucuların büyük dil modellerinden (LLM) yararlanmaları için dört aracının piyasaya sürülmesiyle birlikte yayınlanan Generatif Yapay Zeka Nasıl Değişiyor? “Günlük ayrıştırma ve anormallik saptamadan önceliklendirme ve olay yanıtlama yeteneklerine kadar, savunucular üstünlük sağlayabilir. Tersine mühendislik görevlerinin ve güvenlik araştırmasının manuel iş yükünü azaltmak için ChatGPT gibi LLM’leri kullanma örneklerimize ek olarak, AI’nın kanıtlayabileceği başka bir yol Tenable Security araştırma grubu şöyle yazdı: .
AI’nın Yapabileceklerinden Korkuyor
ChatGPT’nin artan kullanımı, gerçekçi görüntüler, ses veya video üretebilen veya yazılı içerik üretebilen algoritmalardan oluşan üretken yapay zekanın sağladığı verimlilikten daha fazla zarar vermek için kullanılacağına dair korkuları artırıyor. Pazartesi günü, ünlü AI yaratıcısı Geoffrey Hinton, Google’daki işinden ayrıldığını duyurdu. “Yapay zekanın vaftiz babası” olarak anılan Hinton, Google, Meta, Apple ve Microsoft gibi teknoloji devlerinin onu serbest bırakmakta çok hızlı hareket ediyor olabileceği konusunda uyardı.
The New York Times’a konuşan Hinton, “Kötü aktörlerin onu kötü şeyler için kullanmasını nasıl engelleyebileceğinizi görmek zor,” dedi.
Bu şirketlerin liderleri, olası kötüye kullanımı ciddiye aldıklarını ve önlemler oluşturduklarını söyleyerek yanıt verdiler. Dünya Ekonomik Forumu’nun Çarşamba günü Cenevre’deki Büyüme Zirvesi’ndeki bir panel oturumunda konuşan Microsoft’un baş ekonomisti Michael Schwarz, hem Microsoft hem de ortağı ChatGPT yaratıcısı OpenAI’nin “Yapay zekanın güvenli olduğundan ve yapay zekanın iyi için kullanıldığından emin olmaya gerçekten kararlı olduklarını” söyledi. ve kötü için kullanılmaz.
Ancak Schwarz riskleri kabul etti. “Diğer tüm teknolojilerde olduğu gibi, bu teknolojinin güvenliği konusunda çok endişelenmemiz gerekiyor” dedi. “Mümkün olan her şekilde, koruma önlemleri almalıyız.”
Değişen Güvenlik Araştırması
Siber güvenlik endüstrisindeki birçok kişi için yapay zeka, yeni araçlar geliştirme ve yeni tehditleri başka türlü imkansız olacak bir ölçekte keşfetme yeteneğini önemli ölçüde hızlandıracak bir şeydir ve kötüye kullanılmasıyla ilgili endişeler, onu kullanmaktan vazgeçmek için neden olmamalıdır.
Araştırma grubu teknik incelemede, “Gelişmekte olan bu teknolojilerin kesinlikle karanlık bir tarafı olsa da, Tenable Research ayrıca yapay zekayı daha büyük iyilik için kullanma fırsatlarını da görüyor” diye yazdı. “Örneğin, böcek avlama sanatı kapsamlı güvenlik ve kodlama becerileri gerektirir ve bir kişinin sıfır gün güvenlik açıklarını bulmak için gerekli uzmanlığı geliştirmesi yıllar alabilir. Araştırmacılar olarak kafa yapımızı, el emeğini azaltabilecek araçları kullanmaya ve geliştirmeye yöneltiyoruz. Bu üretken modellerle, güvenlik araştırmasının gidişatını değiştirmek için eşsiz bir fırsata sahibiz.”
Geçen hafta RSA Konferansı sırasında Tenable Security tarafından medya için düzenlenen gayri resmi bir panel tartışmasında katılımcılar, yapay zeka gelişimini frenlemenin gerçekçi olmadığı konusunda hemfikir oldular. Alert Enterprises CSO’su ve Ulusal Siber Güvenlik Merkezi’nin baş strateji sorumlusu Mark Weatherford, “Kesinlikle düşmanlarımızı durdurmayacak,” diye uyardı.
“Bunu durdurmanın hiçbir yolu yok,” diye ekledi Tenable CTO yardımcısı Robert Hansen. “ChatGPT’nin yenilik yapmasını durdurmak isteseniz bile, tanıdığım tüm bilgisayar korsanları şu anda bunun üzerinde çalışıyor ve başarmaya çalıştıkları şeye doğru yarışıyorlar.”