RSA’da Bu hafta San Francisco’daki güvenlik konferansından sonra, havada bir kaçınılmazlık hissi oluştu. Genişleyen Moscone kongre merkezindeki konuşmalarda ve panellerde, gösteri alanındaki her satıcı standında ve salonlardaki gündelik sohbetlerde, birinin üretken yapay zekayı ve bunun dijital güvenlik ve kötü niyetli bilgisayar korsanlığı üzerindeki potansiyel etkilerini gündeme getireceğini bilirsiniz. . NSA siber güvenlik direktörü Rob Joyce da bunu hissediyor.
Çarşamba günü öğleden sonra artık her yıl düzenlenen “State of the Hack” sunumu sırasında “Yapay zeka ve kötü amaçlı yazılım hakkında konuşmadan RSA’da dolaşamazsınız” dedi. “Sanırım hepimiz patlamayı gördük. Henüz teslim edildiğini söylemeyeceğim, ancak bu gerçekten oyunun kurallarını değiştiren bir teknoloji.”
Son aylarda, OpenAI’nin ChatGPT’si gibi büyük dil modeli destekli sohbet robotları, yıllarca süren makine öğrenimi geliştirme ve araştırmasını dünyanın her yerinden insanlar için daha somut ve erişilebilir hissettirdi. Ancak bu yeni araçların, kötü niyetli kişiler tarafından kötü amaçlı yazılım geliştirmek ve yaymak, yanlış bilgi ve orijinal olmayan içeriğin yaratılmasını körüklemek ve saldırganların saldırılarını otomatikleştirme yeteneklerini genişletmek için nasıl manipüle edileceği ve kötüye kullanılacağı hakkında pratik sorular var. Aynı zamanda, güvenlik topluluğu, sistemleri savunmak ve koruyucu bir avantaj elde etmek için üretken yapay zekadan yararlanmaya heveslidir. Yine de bu ilk günlerde, bundan sonra ne olacağını tam olarak yıkmak zor.
Joyce, Ulusal Güvenlik Teşkilatı’nın üretken yapay zekanın kimlik avı gibi zaten etkili olan dolandırıcılıkları körüklemesini beklediğini söyledi. Bu tür saldırılar, kurbanları farkında olmadan saldırganlara yardım etmeleri için kandırmak için ikna edici ve zorlayıcı içeriğe dayanır; bu nedenle üretken yapay zekanın, hızlı bir şekilde özel iletişim ve materyaller oluşturmak için bariz kullanımları vardır.
Joyce, “İngilizceyi iyi konuşamayan Rus asıllı bilgisayar korsanı artık çalışanlarınıza berbat bir e-posta göndermeyecek” dedi. “Anadili İngilizce olacak, mantıklı olacak, sniff testini geçecek. … Yani bugün tam burada ve hem ulus-devlet hem de suçlu düşmanların, onlara İngilizce dil fırsatları vermek için ChatGPT türü nesli denemeye başladıklarını görüyoruz.
Bu arada, AI sohbet robotları sıfırdan mükemmel bir şekilde silah haline getirilmiş yeni kötü amaçlı yazılım geliştiremese de Joyce, saldırganların platformların sahip olduğu kodlama becerilerini büyük bir etkisi olabilecek daha küçük değişiklikler yapmak için kullanabileceğini belirtti. Buradaki fikir, antivirüs yazılımı gibi tarama araçlarının yeni yinelemeyi tanıyıp işaretlemeyebileceği kadar özelliklerini ve davranışını değiştirmek için üretici yapay zeka ile mevcut kötü amaçlı yazılımı değiştirmek olacaktır.
Joyce, “Kodun yeniden yazılmasına ve imzasını ve niteliklerini değiştirecek şekillerde yapılmasına yardımcı olacak” dedi. “O [is] yakın vadede bizim için zorlayıcı olacak.”
Savunma açısından Joyce, üretici yapay zekanın büyük veri analizi ve otomasyona yardımcı olma potansiyeli konusunda umutlu görünüyordu. Teknolojinin bir “savunma hızlandırıcı” olarak “gerçek umut vaat ettiği” üç alan olarak dijital günlükleri taramayı, güvenlik açığından yararlanmada kalıpları bulmayı ve kuruluşların ağlarındaki hangi güvenlik sorunlarına öncelik vermelerine yardımcı olmayı gösterdi. Bununla birlikte, savunucuların ve toplulukların günlük hayatta bu araçlara daha geniş ölçüde bağımlı hale gelmeden önce, üretken yapay zeka sistemlerinin nasıl manipüle edilebileceğini ve istismar edilebileceğini incelemeleri gerektiği konusunda uyardı.
Çoğunlukla Joyce, yapay zeka ve güvenlik için içinde bulunduğumuz anın belirsiz ve öngörülemez doğasını vurguladı ve güvenlik camiasını henüz gelme olasılığı yüksek olan durumlara karşı “kemerlerini bağlamaları” konusunda uyardı.
“Yapay zeka tarafından üretilen ve her şeyi istismar edecek sihirli bir teknik yetenek beklemiyorum” dedi. Ancak “gelecek yıl, burada benzer bir yılı gözden geçiriyorsak, bunun nerelerde silah haline getirildiği, nerede kullanıldığı ve nerelerde başarılı olduğuyla ilgili bir sürü örneğe sahip olacağımızı düşünüyorum.”