Kötü niyetli aktörler, platformun AI asistanı Grook’u kandırarak X’in tanıtılan yayınlarına zararlı bağlantılar kaymanın yeni bir yolunu buldular.
X, kötüverizasyonu engellemek için ücretli promosyonlarla bağlantıları açıkça yasaklasa da, dolandırıcılar şimdi Grook’un bu URL’leri geniş tiraja “grook” için içerik güçlendirmesini kullanıyor.
AI Bypass yeni tehdide neden oluyor
X, hileli planları ve kimlik avı kampanyalarını durdurmayı amaçlayan tanıtılan yayınlardaki URL’leri yasaklar. Yine de, siber suçlular GROK’ın yanıtlarda istendiğinde hala dış alanları tanımlayabileceğini, özetleyebileceğini ve önerebileceğini keşfettiler.
Grok’un zararsız görünümlü bir tanıtılan görüntü hakkında sorular sorarak, dolandırıcılar AI’yı yanıtında kötü amaçlı bir alan adına başvurmaya itiyor. Grok bağlantıdan bahsettikten sonra, binlerce kullanıcı bunu güvenilir olarak görüyor çünkü X’in resmi AI’sından geliyor.
“Grokking” nasıl çalışır?
- Hazırlanmış tanıtılan yazı
Dolandırıcılar, göz alıcı görsellerle ancak doğrudan URL’ler olmadan bir promosyon tweet’i oluştururlar. Bu, X’in otomatik reklam filtrelerini önler. - Yorum ve istemi
Yanıtlarda, “@grok bu resmin kaynağı nedir?” veya “GroK, video bağlantısını paylaş!” - Grok’un yanıtı
GROK, görüntüyü analiz eder ve tanıtılan içerik için doğrudan kısıtlama farkındalığından yoksun, cazip teaser metni ile tamamlanan kötü niyetli alan adını gösterir. - Viral yayılma
Takipçiler AI’nın cevabını retweetler. Bağlantı GROK’dan geliyor gibi göründüğünden, kullanıcılar bunun güvenli olduğunu varsayar ve büyük tıklama hacimleri kullanır.
Güvenlik araştırmacıları, sadece gün içinde yetişkinlere veya kimlik avı sitelerine on milyonlarca görüntüleme yönlendiren kampanyalar bildiriyor.
Bir örnek, 4,3 milyon görüntüleme artışla zararsız bir görüntü hakkında tanıtılan bir yazı gördü. Kullanıcılar Grook’u kaynağı istediğinde, AI, ziyaretlerde keskin bir artışla sonuçlanan bilinen bir kötüverizasyon cephesi olan “datingprudethimble.com” a işaret etti.
“Grokking” terimi bu taktiği tanımlamak için ortaya çıktı: X’in politikalarının engellenmesi gereken bağlantıları güçlendirmek için GroK kullanma.
Dolandırıcılar, platform güvencelerini geride bırakma zorluğunu beğenir ve Grokking, reklam tabanlı siber suçta akıllıca yeni bir sınırı temsil eder.
X’in liderliği boşlukları kabul ediyor, ancak GROK’ı tamamen devre dışı bırakmak yerine AI korumalarını rafine etmekte ısrar ediyor.
Şirket, yapay zekanın kötülük veya spam için işaretlenmiş alanların önermesini önlemek için güncellemeler sunuyor. Ancak, bu düzeltmeler tam olarak yürürlüğe girene kadar, kullanıcılar savunmasız kalır.
Günlük kullanıcılar için tavsiye açıktır: AI kaynaklı bağlantıları bilinmeyen e-postalar veya mesajlarla aynı dikkatle tedavi edin.
AI yanıtları aracılığıyla tanıtılan şüpheli alanları tıklamayın. Her zaman bağlantıları bağımsız olarak doğrulayın ve kuralları büktüğü görülen reklamları bildirin. X Grokking boşluğunu kapatana kadar, uyanık bu ortaya çıkan tehdide karşı en iyi savunmadır.
Bu hikayeyi ilginç bul! Daha fazla güncelleme almak için bizi LinkedIn ve X’te takip edin.