Yapay zeka (AI) daha yaygın hale geldiğinde herkesin öngördüğü ilk şeylerden biri, siber suçluların kimlik avı kampanyalarını daha etkili hale getirmelerine yardımcı olacağıydı.
Artık araştırmacılar, yapay zeka destekli hedef odaklı kimlik avının etkililiğine ilişkin bilimsel bir çalışma yürüttüler ve sonuçlar herkesin beklentileriyle örtüşüyor: Yapay zeka, suç işlemeyi kolaylaştırıyor.
Büyük Dil Modellerinin Tam Otomatik Hedefli Kimlik Avı Kampanyaları Başlatma Yeteneğinin Değerlendirilmesi: İnsan Denekler Üzerinde Doğrulandı başlıklı çalışma, büyük dil modellerinin (LLM’ler) kişiselleştirilmiş kimlik avı saldırıları gerçekleştirme yeteneğini değerlendiriyor ve performanslarını son dönemdeki insan uzmanlar ve yapay zeka modelleriyle karşılaştırıyor. yıl.
Bu amaçla araştırmacılar, hedef odaklı kimlik avı kampanyalarını otomatikleştirmek için yapay zeka destekli bir araç geliştirdi ve test etti. Bir hedefle ilgili mevcut bilgileri internette aramak ve bunu son derece kişiselleştirilmiş kimlik avı mesajları için kullanmak için GPT-4o ve Claude 3.5 Sonnet’i temel alan yapay zeka aracılarını kullandılar.
Bu araçlarla araştırmacılar, pazarlama departmanlarının ancak hayal edebileceği %54’lük bir tıklama oranına (TO) ulaştı. Kontrol grubu rastgele kimlik avı e-postaları aldı ve %12’lik bir TO elde etti (yaklaşık 8 kişiden 1’i bağlantıya tıkladı).
Başka bir grup, insan uzmanlar tarafından oluşturulan ve tamamen yapay zekayla otomatikleştirilmiş e-postalar kadar etkili olduğu kanıtlanan ve %54 TO elde eden bir e-postayla test edildi. Ancak insan uzmanlar bunu yapay zeka otomatik araçlarının maliyetinin 30 katı maliyetle gerçekleştirdi.
İnsan destekli yapay zeka araçları, otomatik yapay zeka araçlarının maliyetinin 4 katı maliyetle %56 puan alarak bu grupların TO’sunu geride bıraktı. Bu, bazı (uzman) insan girdilerinin TO’yu artırabileceği anlamına gelir, ancak bu, zamana yatırım yapmak için yeterli midir? Siber suçlular meşhur bir şekilde tembeldir; bu da operasyonlarında genellikle verimliliği ve minimum çabayı tercih ettikleri anlamına gelir; bu nedenle, ekstra %2’nin yatırıma değer olduğunu düşünmelerini beklemiyoruz.
Araştırma aynı zamanda yapay zeka modellerinin yanıltıcı yeteneklerinde geçen yıla kıyasla önemli bir gelişme olduğunu gösterdi; burada yapılan araştırmalar, yapay zeka modellerinin insan uzmanlarla aynı seviyede performans gösterebilmesi için insan yardımına ihtiyaç duyduğunu ortaya çıkardı.
Kimlik avı e-postasının başarısının anahtarı, yapay zeka destekli yöntemle elde edilebilecek kişiselleştirme düzeyidir ve bu kişiselleştirmenin temeli, halka açık bilgileri tarayan bir yapay zeka web tarama aracısı tarafından sağlanabilir.
Hedefle ilgili çevrimiçi olarak bulunan bilgilere dayanarak, ilgi alanlarına uygun bir projeye katılmaya davet edilirler ve daha fazla ayrıntı bulabilecekleri bir sitenin bağlantısı sunulur.
Yapay zeka tarafından toplanan bilgiler vakaların %88’inde doğru ve kullanışlıydı ve katılımcıların yalnızca %4’ü için hatalı profiller üretti.
Diğer kötü haber ise araştırmacıların, yapay zeka modellerinin siber suçlulara yardım etmesini engellemesi beklenen korkulukların, test edilen modellerden herhangi biriyle kimlik avı e-postaları oluşturmaya yönelik kayda değer bir engel olmadığını keşfetmesi.
İyi haber şu ki, Yüksek Lisans’lar kimlik avı e-postalarını tanıma konusunda da giderek daha iyi hale geliyor. Claude 3.5 Sonnet, yalnızca birkaç yanlış alarmla %90’ın oldukça üzerinde puan aldı ve insan tespitini geçen çok sayıda e-posta tespit etti. Çoğu insan için açıkça şüpheli olan bazı kimlik avı e-postalarıyla mücadele etmesine rağmen.
Yapay zeka destekli kimlik avı e-postalarını nasıl tanıyacağınız konusunda rehberlik arıyorsanız şu makaleyi okumanızı isteriz: Yapay zeka tarafından oluşturulan kimlik avı postaları nasıl tanınır? Ancak en iyi yol, istenmeyen e-postalardaki herhangi bir bağlantıya tıklamamaya ilişkin genel tavsiyeyi her zaman hatırlamaktır.
Yalnızca tehditleri rapor etmiyoruz; onları kaldırıyoruz
Siber güvenlik riskleri asla bir manşetin ötesine yayılmamalıdır. Malwarebytes’i bugün indirerek tehditleri cihazlarınızdan uzak tutun.