Tehdit Oyuncuları X’in Grook AI’sını Kötü niyetli Bağlantıları Yaymak İçin Kötüye Kullanıyor


X

Tehdit aktörleri, Platform’un kötü niyetli reklamları azaltmak için tanıttığı bağlantı gönderme kısıtlamalarını atlamak için X’in yerleşik AI asistanı GroK’ı kullanıyor.

Guardio Labs’ın araştırmacısı Nati Tal tarafından keşfedildiği gibi, Mavertisers genellikle yetişkin içerik yemleri içeren kabataslak video reklamları çalıştırır ve X tarafından engellenmesini önlemek için ana gövdeye bir bağlantı eklemekten kaçının.

Bunun yerine, görünüşe göre sosyal medya platformu tarafından kötü niyetli bağlantılar için taranmayan video kartının altındaki küçük “from:” meta veri alanında saklıyorlar.

Göz ardı edilen bir alanda kötü niyetli bağlantıyı gizleme
Göz ardı edilen bir alanda kötü niyetli bağlantıyı gizleme
Kaynak: @Bananahacks

Ardından, (muhtemelen) aynı aktörler Grok’a reklama bir cevap vererek “Bu video nereden” veya “Bu videonun bağlantısı nedir” gibi bir şey soruyor.

GROK, gizli “from” ı ayrıştırır ve tıklanabilir formatta tam kötü amaçlı bağlantıyla cevap verir, kullanıcıların tıklamasına ve doğrudan kötü amaçlı siteye gitmesine izin verir.

GROK, X platformunda otomatik olarak güvenilir bir sistem hesabı olduğundan, postası bağlantının güvenilirliğini, erişimini, SEO’sunu ve itibarını artırır ve çok sayıda kullanıcıya yayınlanma olasılığını artırır.

Araştırmacı, bu bağlantıların çoğunun gölgeli reklam ağları aracılığıyla huni, sahte captcha testleri, bilgi çalan kötü amaçlı yazılımlar ve diğer kötü amaçlı yükler gibi dolandırıcılıklara yol açtığını buldu.

X tarafından engellenmek yerine, GROK’dan daha fazla destek alan kötü amaçlı reklamlar aracılığıyla platformdaki kullanıcılara tanıtılırlar.

Tal, bu boşluktan “Grokking” in sömürülme tekniğini çağırıyor ve bazı durumlarda, aşağıda gösterildiği gibi milyonlarca izlenime ulaşmak için kötü niyetli reklamları güçlendiriyor.

Potansiyel çözümler arasında tüm alanların taranması, gizli bağlantıların engellenmesi ve GROK’a bağlam sanitizasyonu eklenmesi yer alır, böylece AI asistanı kullanıcılar tarafından sorulduğunda bağlantıları körü körüne yankılanmaz, bunun yerine filtreler ve bunları blok listelerine karşı kontrol eder.

Tal bize sorunu bildirmek için X’le temasa geçtiğini ve GROK mühendislerinin raporu aldığını gayri resmi bir onay aldığını doğruladı.

BleepingComputer, bu istismarın farkında olup olmadıklarını ve bu konuda bir şey yapmayı planlayıp planlamadıklarını sormak için X ile temasa geçti, ancak yayın süresine göre hiçbir yanıt almadık.

Picus Blue Report 2025

Ortamların% 46’sı şifreleri çatladı, geçen yıl neredeyse% 25’ten iki katına çıktı.

Önleme, algılama ve veri açığa çıkma eğilimleri hakkında daha fazla bulgua kapsamlı bir bakış için Picus Blue Report 2025’i şimdi alın.



Source link