PrevhFix adlı yeni bir saldırı vektörü, görünüşte masum web içeriğine kötü niyetli talimatları yerleştirerek AI-güçlü tarayıcılardan yararlanır.
Saldırı, özellikle insan kullanıcılarından ziyade ajanik AI sistemlerini manipüle etmek için tasarlanmış geleneksel ClickFix dolandırıcılığının bir evrimini temsil ediyor.
Güvenlik uzmanları tarafından yürütülen araştırma, Perplexity’nin Kuyruklu Yıldızı AI tarayıcısını test ediyor, saldırganların sofistike hızlı enjeksiyon teknikleri aracılığıyla AI ajanlarını nasıl ele geçirebileceğini gösteriyor.
Key Takeaways
1. Hidden prompts in fake captchas trick AI browsers into malicious actions.
2. Social engineering bypasses AI security through helpful AI behavior.
3. Single attack replicates across millions of AI users simultaneously.
İnsan yargısının aldatılmasına dayanan geleneksel kimlik avıdan farklı olarak, PrompFix, AI’nın karar verme süreçlerini doğrudan hedefliyor ve araştırmacıların “dolandırıcılık” olarak adlandırdığı şey-AI destekli dolandırıcılık karmaşıklığının yeni bir dönemi.
Sahte captchas’ın arkasında gizli talimatlar
Guardio, hızlı saldırı saldırısının aldatıcı bir şekilde basit bir mekanizma kullandığını bildirir: sahte captcha arayüzlerine gömülü gizli metin öğeleri.
İnsanlar sadece standart bir onay kutusu doğrulaması görürken, temel HTML, AI tarayıcılarının yanlışlıkla meşru talimatlar olarak işlediği görünmez hızlı enjeksiyonlar içerir.
Saldırı, AI modellerinin gerçek kullanıcı komutlarını ve aynı işleme bağlamında kötü niyetli bir şekilde enjekte edilen içeriği ayırt edememesini kullanıyor.
Style = ”Ekran: Yok” veya Renk gibi CSS stil tekniklerini kullanarak: Şeffaf, Saldırganlar aşağıdakileri gizleyebilir:
AI tarayıcısı sayfanın HTML’sini işlediğinde, bu gizli talimatlar AI’nın yönerge setinin bir parçası haline gelir ve sürücü by indirme veya veri açığa çıkma gibi yetkisiz eylemleri potansiyel olarak tetikler.
Saldırının etkinliği, AI tarayıcılarının çekirdek programlamasını manipüle etmekten kaynaklanmaktadır: kullanıcılara tereddüt etmeden hızlı ve tamamen yardımcı olmak.
Modeli geleneksel hızlı enjeksiyon yoluyla “aksaklık” yapmaya çalışmak yerine, AITFIX, AI tüketimi için uyarlanmış sosyal mühendislik tekniklerini kullanır.
Saldırı, AI’nın hizmet odaklı tasarımına hitap eden zorlayıcı anlatılar yaratıyor. Örneğin, gizli istem, captcha’nın “AI çözülebilir” olduğunu ve tıklamanın kullanıcının görevini hızlandıracağını iddia edebilir.
Bu yaklaşım, geleneksel güvenlik önlemlerini tetiklemeden anında yardımcı olmak için AI’nın yerleşik sürücüsünden yararlanmaktadır.
Güvenlik uzmanları, bir AI modeline karşı başarılı saldırıların milyonlarca kullanıcı arasında aynı anda çoğaltılabileceği ve reaktif tespit yaklaşımlarından ziyade proaktif savunma önlemleri gerektiren benzeri görülmemiş bir tehdit manzarası oluşturabileceği konusunda uyarıyor.
Safely detonate suspicious files to uncover threats, enrich your investigations, and cut incident response time. Start with an ANYRUN sandbox trial →