Andy Patel, Kıdemli Araştırmacı, WithSecure tarafından
Üretken modeller yakında günlük olarak kullandığımız üretkenlik araçlarına entegre edilecek. AI özellikleri kelime işlemcilere, e-posta istemcilerine, sanatsal yazılımlara, sunum yazılımlarına, arama motorlarına ve daha fazlasına dahil edilecek.
Biraz ileriye bakın ve bu modeller işletim sistemlerine yerleştirilecek, yalnızca birkaç API çağrısıyla kullanıma hazır olacak ve henüz düşünmediğimiz yeni nesil uygulamaları hızlandıracak.
Üretken yapay zekanın her gün kullandığımız araçlarla entegrasyonu, onun hem zararsız hem de kötü amaçlı içerik oluşturmak için kullanılacağı anlamına gelir. Bu nedenle, bir içeriğin yapay zeka tarafından oluşturulup oluşturulmadığını tespit etmek, kötü amaçlı olup olmadığını belirlemek için yeterli olmayacaktır.
Düşmanlar da bu teknolojileri bizim kadar kullanacak. Ve onlar da bizim gibi daha üretken olacaklar. Üretken yapay zekayı kullanmalarının bir yolu, bizi sosyal olarak tasarlamak için tasarlanmış içerik oluşturmaktır. Yapay zeka sosyal mühendislik içeriği oluşturmayı reddedecek gibi değil. Çoğu zaten normal iş ve kişiler arası iletişim gibi görünecek şekilde tasarlanmıştır.
Sosyal mühendislik içeriği, neredeyse tanımı gereği, zararsız görünmek için tasarlanmıştır. ChatGPT’den bir iş arkadaşınıza, üzerinde çalıştığınız bir sunumla ilgili geri bildirimlerini almak için aceleniz olduğunu ve memnuniyetle uyacağını söyleyen bir e-posta yazmasını isteyin.
Bu istekte kötü niyetli bir şey yok. Aynı şey, şirket otoparkında arabasına çarptığınızı bildiren bir e-posta için de geçerlidir. Aynı şey, bir ortaktan veya bir yetkiliden bazı gizli belgeleri GDPR kurallarına yanıt olarak oluşturulan yeni bir havuza yeniden yüklemesini talep ettiğinden de.
Bu yılın başlarında yayınladığım bir çalışmada, kimlik avından sahte haberlere ve çevrimiçi tacize kadar çeşitli istenmeyen içerik türleri oluşturmak için geniş bir dil modeli kullandım. Her isteğime uydu ve ondan istediğim içeriği yazarken harika bir iş çıkardı.
Ben bu araştırmayı yürütürken GPT-3’e erişim ucuz değildi. Bu yüzden, suçluların bunu bir yatırım getirisi hesaplamasına dayalı olarak benimseyeceklerini tahmin ettim – içerik oluşturmak için ödeme yapmak, kendilerinin yazmaktan veya zaten kullanmakta oldukları kopyala-yapıştır metodolojisine bağlı kalmaktan daha mı ucuz olur?
Ve sonra daha ucuzladı. Örneğin, gpt3-turbo piyasaya sürüldüğünde on kat daha ucuzdu. Ve sonra bir dizüstü bilgisayarda çalıştırabileceğiniz bir model olan alpaka gibi şeyler çıktı.
Bu noktada, içerik oluşturmak için bir dil modeli kullanmanın pratikte basit olduğunu hayal etmiştim. Öyleyse, bir düşman neden kimlik avı oluşturmak ve hedef odaklı kimlik avı içeriği oluşturmak için bir dil modeli kullansın?
Kimlik avı için durum oldukça açıktır. Bir komut istemi yazarsınız. Modele defalarca tedarik ediyorsunuz. Ve her seferinde biraz farklı bir içerik üretiliyor. Bu, şu anda yapıyor olabileceğiniz aynı e-postayı kopyalayıp yapıştırmak yerine düzinelerce veya yüzlerce farklı spam e-posta göndermenizi sağlar.
Ayrıca, bu modeller iyi derecede İngilizce yazar. Kimlik avı mesajları, yazım hataları, dilbilgisi hataları ve kötü İngilizce ile bilinir.
Ne kadar kötü yazılmış olduğu için insanlar bir kimlik avı e-postasını neredeyse fark edebilir. Ancak GPT-3 bu tür hatalar yapmaz. Oh, ve diğer dillerde de yazabilir. GPT-3 kullanan bir suç operasyonunun artık iyi İngilizce yazabilen birine ihtiyacı yok.
Ayrıca başka dillerde yazabilen insanlara da ihtiyaçları yok. Ve Google Translate’in yeterince iyi bir iş çıkaracağı konusunda endişelenmelerine gerek yok. Hedef odaklı kimlik avı için, bir dil modeli kullanmanın nedeni biraz daha belirsiz görünebilir.
Yalnızca bir veya birkaç kez kullanabileceğiniz bir içerik oluşturmak için neden bir bilgi istemi yazasınız? Bir nedenden daha önce bahsetmiştim – akıcı olmayabileceğiniz bir dilde yüksek kaliteli yazılar üretmek.
Daha az belirgin olan diğeri ise stil aktarımı yapmaktır. Yazılı bir üsluba sahip bir dil modeli sunup ondan o üslupta yazmasını istemek mümkündür. Bu, eğitimli bir yazarın bile zor bulabileceği bir şeydir.
Belirli bir yazılı stilde içerik üreten bir modele sahip olma yeteneği, bir saldırganın birinin kimliğine daha iyi bürünmesine olanak tanır. Ve bu, saldırının başarılı olması için daha iyi bir şans verir.
Ve stil aktarımıyla yapabileceğiniz başka alçakça şeyler de var. Bir hack-and-leak operasyonundan sonra halka açıklamak üzere olduğunuz belgeler hazinesine sahte bir belge enjekte edin. Sahte belgenin sahipleri onun gerçekliğini nasıl reddedebilir?
Hedef odaklı kimlik avcıları, büyük bir dil modelini bir tür sohbet robotu olarak da kullanabilir. Bazı yüksek düzeyde hedeflenmiş kimlik avı taktikleri, saldırganın zaman içinde kurbanları arasında güven oluşturduğu bir süreci içerir. Bu bağlantı, birden fazla ileri geri mesaj üzerine kuruludur.
Bu güven oluşturma sürecini otomatikleştirmek için büyük bir dil modeli kullanılabilir ve böylece saldırganların operasyonlarını ölçeklendirmesine izin verilir. İster insanlar tarafından ister yapay zeka arkadaşları tarafından olsun, sosyal olarak tasarlanıp tasarlanmadığımızı bize kesin olarak söyleyebilecek belirgin bir teknolojik çözüm yok.
Yani, şimdilik, teyakkuza güvenmek zorunda kalacağız. Ve bu, medya okuryazarlığı ve kimlik avı farkındalığı eğitimi gibi şeyler tarafından oluşturulur. Kimlik avı farkındalığına yönelik, adını pek duymadığım bir yaklaşım, kullanıcılara sosyal mühendislik saldırılarında kullanılan psikolojiyi öğretmektir.
Çalışanlara doğrulama önyargısı, otorite önyargısı ve kıtlık gibi kavramları öğretiyor olabiliriz. Sosyal kanıt ilkesi, tehditleri tespit eden ve bildiren, hatta bunlara kanan çalışanları hikayelerini paylaşmaya teşvik ederek bu tür eğitimlerde daha fazla yardımcı olabilir, böylece diğerleri gelecekte nasıl daha dikkatli olunacağını öğrenecektir.
Çalışanların tehditleri belirlemek için birbirlerine yardım ettiği bir ortam oluşturmak, bunu potansiyel olarak kötü amaçlı içeriği birbirlerine iletmeden yapmaları halinde yararlı olabilir. Ve son olarak, bir şirket güvenlik protokollerini takip eden ve tehditleri bildiren çalışanlarını ödüllendirmeyi düşünebilir.
Sosyal mühendislik saldırılarına karşı sihirli değnek yoktur. Ancak uyanıklık ve farkındalık, teknolojik çözümlere olan aşırı güveni yenecek. En azından şimdilik Henüz keşfedilmemiş bir başka seçenek de, bir bireyin sosyal mühendisliğini yapmak için kullanılabilecek taktikler önermek için bir dil modeli kullanmaktır.
Böyle bir modeli, sosyal medya gönderilerinden bazılarıyla veya belki de varlıklarını İnternetten kazıyarak elde edilen gerçeklerin derlenmiş bir listesiyle sunun ve ona doğru soruları sorun. Hatta kurbanın kişilerinden birini seçebilen ve onların yazma stilini taklit etmek için gereken içeriği toplayabilen görev tabanlı bir mimari tasavvur edilebilir.