GPT-4 ve Claude gibi ilerlemelerle desteklenen doğal dil işlemedeki patlayıcı büyüme, insan benzeri metin oluşturmayı ve insanüstü dil becerilerini güçlendirir.
Yalnızca bir yıl içinde, mevcut senaryonun gösterdiği gibi, model boyutu ve performansı önemli ölçüde arttı:-
- LLM’ler 100 milyar parametreyi aşıyor
- GPT-4, 1,8 trilyon parametreyi aşıyor (Doğrulanmadı, söylentiler var)
Aralarında Fredrik Heiding’in de bulunduğu güvenlik araştırmacıları yakın zamanda Black Hat USA 2023’te büyük dil modellerinin manuel tasarımlardan biraz daha az ikna edici olan işlevsel kimlik avı e-postaları oluşturabileceğini gösterdi.
ChatGPT Tarafından Oluşturulan Kimlik Avı E-postaları
Aralarında güvenlik uzmanı Bruce Schneier, Avant Research Group’tan Arun Vishwanath ve MIT’den Jeremy Bernstein’ın da bulunduğu ekip, Harvard öğrencileri üzerinde kimlik avı deneyleri gerçekleştirmek için ticari olan 4 LLM’yi test etti.
Araştırmacılar tarafından kullanılan 4 ticari LLM şunlardır: –
- OpenAI’nin ChatGPT’si
- Google’ın Bard’ı
- Antropik Claude
- ChatLlama
Testte 112 öğrenci, Starbucks hediye kartı teklifleri içeren kimlik avı e-postaları aldı. Güçlü koruma önlemlerine rağmen, LLM’ler, potansiyel olarak saldırılar için yeniden tasarlanmış pazarlama içeriği oluşturmaya devam edebilir.
Araştırmacılar, ChatGPT’yi Harvard öğrencileri için 25 dolarlık bir Starbucks hediye kartı sunan 150 kelimelik bir e-posta hazırlaması için görevlendirdi. Bunu, kimlik avı e-postalarını ikna etmede uzmanlaşmış ve Vishwanath tarafından geliştirilen yapay zeka olmayan bir model olan V-Triad ile karşılaştırırken.
Araştırmacılar tarafından Deney
Deney 3 aşama içeriyordu ve aşağıda tüm aşamalardan bahsetmiştik:-
- Aşama 1, öğrenci ve üniversite bilgilerini topladı.
- Aşama 2, ChatGPT, V-Triad, ChatGPT/V-Triad kombo kontrol grubu altında e-postalar tasarladı.
- 3. Aşama, 10:30 – 14:30 saatleri arasında 10 toplu döngü halinde e-posta gönderdi
Aşağıda her modelin ilgili sonuçlarından bahsetmiştik: –
- V-Triad e-posta, %70 tıklama oranıyla en iyi performansı gösterdi.
- %50 tıklama oranıyla V-Triad/ChatGPT kombinasyonu.
- ChatGPT e-postası %30 gibi daha düşük bir orana sahipti.
- Kontrol grubu, %20 tıklama oranıyla son sırada yer aldı.
ChatGPT, ilk testte Harvard’dan bahsetmedi ve bu da daha düşük bir orana yol açtı. ChatGPT, farklı bir test sürümünde tıklamaları %50’ye yükseltirken, V-Triad/ChatGPT kombinasyonu %80’lik bir puan elde etti.
Bir sonraki aşamada ChatGPT, Bard, Claude ve ChatLlama, Starbucks’ın amacını ve yasal pazarlama e-postalarını değerlendirdi. LLM’ler insan veya yapay zeka bileşimini değerlendirdi, şüpheli unsurları tespit etti ve yanıt tavsiyesi verdi.
Araştırmacılar, LLM’lerin şüpheli e-postaları tespit etmedeki etkinliğinin altını çizerek, güvenlik verileri eğitimi olmadan geniş kullanım potansiyellerini vurguladılar. Bu nedenle siber güvenlik analistleri, LLM’lerin güçlü araçlar olduğunu onayladı.
Bizi GoogleNews, Linkedin üzerinden takip ederek en son Siber Güvenlik Haberlerinden haberdar olun, twitterve Facebook.