Siber güvenlik araştırmacıları Hendek Bu, üretken bir yapay zeka (Genai) modelini, kötü niyetli talimatları bir web sayfasındaki sahte bir captcha kontrolüne yerleştirerek amaçlanan eylemleri gerçekleştirmeye kandırır.
Guardio Labs tarafından “AI dönemi ClickFix aldatmacasını ele geçirme” olarak tanımlanan saldırı tekniği, şaşkınlığın kuyruklu yıldızı gibi AI güdümlü tarayıcıların, kullanıcılar adına çevrimiçi alışveriş veya e-postalar için e-postalar gibi sıradan görevleri otomatikleştirme vaat eden, insan bilgisiz veya hileli görünümlü kullanıcı bilgiyle etkileşime girebileceğini vaat ediyor.
Guardio, “Prevkix ile yaklaşım farklı: modeli itaat etmeye çalışmıyoruz.” Dedi. “Bunun yerine, insan sosyal mühendislik oyun kitabından ödünç alınan teknikleri kullanarak yanılttık – doğrudan temel tasarım hedefine hitap ediyoruz: insanına hızlı, tamamen ve tereddüt etmeden yardım etmek.”
Bu, şirketin aradığı yeni bir gerçeğe yol açar Dolandırıcılık“aldatmaca” ve “karmaşıklık” terimlerinin bir portmanteau, ajanik yapay zeka – otonom olarak hedef alabilen, kararlar alabilen ve minimum insan denetimi ile harekete geçebilen sistemler – dolandırıcıları yepyeni bir seviyeye taşıyor.
Vibescamming gibi tekniklere karşı duyarlı olduğu kanıtlanmış AI destekli kodlama asistanları ile bir saldırgan, AI modelini hassas bilgileri teslim etmeye veya Walmart gibi maskelenen benzer web sitelerinde satın alma işlemlerini etkili bir şekilde kandırabilir.
Tüm bunlar, sosyal medya reklamları, spam mesajları veya arama motoru optimizasyonu (SEO) zehirlenmesi gibi çeşitli yöntemlerden biri aracılığıyla söz konusu sahte web sitesindeki insan topraklarından sonra “Bana Apple Watch Al” gibi basit bir talimat vererek gerçekleştirilebilir.
Scamlexity, “AI kolaylığının yeni, görünmez bir aldatmaca yüzeyi ile çarpıştığı ve insanların teminat hasarı haline geldiği karmaşık yeni bir dolandırıcılık dönemidir” dedi.
Siber güvenlik şirketi, Testi Kuyruklu Yıldızda birkaç kez çalıştırdığını, tarayıcı sadece ara sıra durduğunu ve insan kullanıcısından ödeme işlemini manuel olarak tamamlamasını istediğini söyledi. Ancak çeşitli durumlarda, tarayıcı her şeye girdi, ürünü sepete ekledi ve sahte bir alışveriş sitesinde onaylarını istemeden kullanıcının kaydedilen adresini ve kredi kartı ayrıntılarını otomatik olarak doldurdu.
Benzer bir şekilde, Comets’in herhangi bir eylem öğesi için e -posta mesajlarını kontrol etmesini istemenin, bankalarından olduğu iddia edilen spam e -postalarını ayrıştırmak, mesajdaki gömülü bir bağlantıyı otomatik olarak tıklamak ve Fony giriş sayfasındaki giriş kimlik bilgilerini girmek için yeterli olduğu bulunmuştur.
Guardio, “Sonuç: Mükemmel bir güven zinciri haydut gitti. Tüm etkileşimi e -postadan web sitesine yönlendirerek kuyruklu yıldız kimlik avı sayfası için etkili bir şekilde kefil oldu.” Dedi. “İnsan şüpheli gönderen adresini hiç görmedi, bağlantının üzerinde hiç dolaşmadı ve hiçbir zaman alanı sorgulama şansı olmadı.”
Hepsi bu değil. Hızlı enjeksiyonlar AI sistemlerini doğrudan ve dolaylı olarak rahatsız etmeye devam ettikçe, AI tarayıcılar da insan kullanıcısı için görünmez bir web sayfasında gizlenmiş gizli istemlerle uğraşmak zorunda kalacak, ancak istenmeyen eylemleri tetiklemek için AI modeli tarafından ayrıştırılabilir.
https://www.youtube.com/watch?v=opblvgtbzec
Bu Sözde Hemen Saldırısı, AI modelini bir web sayfasındaki görünmez düğmelere, Captcha kontrollerini atlamak ve insan kullanıcısının herhangi bir katılım olmadan kötü niyetli yükleri indirmeye ikna etmek için tasarlanmıştır.
Hacker News’e, “PrompFix sadece Comet (gerçekten bir AI ajanı olarak işlev gören) ve bu nedenle Chatgpt’in ajan modunda çalışıyor, burada düğmeyi tıklamasını veya talimat verildiği gibi eylemleri gerçekleştirmesini sağladığımız.” “Fark şu ki, Chatgpt’in durumunda, indirilen dosyanın doğrudan bilgisayarınıza değil, sanal ortamının içine girmesi, çünkü her şey hala kum havuzu kurulumunda çalışıyor.”
https://www.youtube.com/watch?v=cpgyv4flqbo
Bulgular, AI sistemlerinin kimlik avı tespiti, URL itibar kontrolleri, etki alanı sahtekarlığı ve kötü niyetli dosyalar için sağlam korkuluklar oluşturarak bu saldırıları tahmin etmek, tespit etmek ve nötralize etmek için reaktif savunmaların ötesine geçmesi gerektiğini göstermektedir.
Geliştirme, rakiplerin web sitesi oluşturucuları ve gerçekçi kimlik avı içeriği oluşturmak, klon güvenilir markaları oluşturmak ve Palo Alto Networks birimi 42’ye göre düşük kodlu site üreticileri gibi hizmetleri kullanarak büyük ölçekli konuşlandırmayı otomatik hale getirmek için giderek daha fazla eğilimli olarak eğiliyor.
Dahası, AI kodlama asistanları yanlışlıkla tescilli kodu veya hassas fikri mülkiyeti ortaya çıkarabilir ve hedeflenen saldırılar için potansiyel giriş noktaları oluşturabilir.
Enterprise güvenlik firması Proofpoint, “Tycoon gibi çok faktörlü kimlik doğrulama (MFA) kimlik avı kitlerini, kripto para birimi cüzdan süzücüleri veya kötü amaçlı yazılım yükleyicileri gibi kötü amaçlı yazılımlar ve kredi kartı ve kişisel bilgileri hedefleyen kimlik avı kitlerini dağıtmak için sevimli hizmetlerden yararlanan çok sayıda kampanya” gözlemlediğini söyledi.
Sevimli kullanılarak oluşturulan sahte web siteleri Captcha’ya, çözüldüğünde Microsoft markalı bir kimlik bilgisi avlama sayfasına yönlendirmeyi kontrol eder. Diğer web sitelerinin, UPS gibi nakliye ve lojistik hizmetlerini kurbanlara kişisel ve finansal bilgilerine girmeleri için taklit ettikleri veya bunları ZGRAT gibi uzaktan erişim truva atlarını indiren sayfalara götürdükleri bulunmuştur.
Sevimli URL’ler de yatırım dolandırıcılığı ve bankacılık kimlik bilgisi avı için istismar edildi ve siber suçlara giriş engelini önemli ölçüde düşürdü. Lovable, o zamandan beri siteleri indirdi ve kötü niyetli web sitelerinin oluşturulmasını önlemek için AI odaklı güvenlik korumaları uyguladı.
Diğer kampanyalar, kullanıcıları hileli yatırım sitelerine yönlendirmek için YouTube ve sosyal medya platformlarında dağıtılan aldatıcı derin ince içerikten yararlandı. Bu AI ticaret dolandırıcılığı, yanlış bir meşruiyet duygusu yaratmak için genellikle Medium, Blogger ve Pinterest gibi platformlarda barındırılan sahte bloglara ve inceleme sitelerine güvenmektedir.
“Genai, tehdit aktörlerinin operasyonlarını mevcut saldırı metodolojilerini değiştirmek yerine geliştirir,” dedi Crowdstrik, 2025 için tehdit avcılık raporunda. “Tüm motivasyon ve beceri seviyelerindeki tehdit aktörleri, özellikle bu araçlar daha fazla kullanılabilir, kullanıcı dostu ve karmaşık hale geldikçe, yakınlar arası orta vadede Sosyal Mühendislik için Genai Araçlarını kullanımlarını neredeyse kesinlikle artıracak.”