AI, kötü amaçlı yazılım için yeni bir vektör özetler

Dijital risk yönetimi firması CloudSek, tehdit aktörlerinin CSS tabanlı gizleme tekniklerini kullanarak kötü niyetli yükleri görünüşte iyi huylu web içeriğine yerleştirebileceğini söyledi. Gizli talimatlar insan okuyucular için görünmezdir, ancak e -posta istemcileri, tarayıcı uzantıları ve verimlilik platformlarına entegre edilmiş AI özetleme sistemleri tarafından işlenir.

Saldırı, araştırmacıların “aşırı doz istemi” dediği şeyi kullanıyor, kötü niyetli talimatların sıfır opaklık, beyaz üzerine beyaz metin, mikroskopik yazı tipi boyutları ve ekran dışı konumlandırma gibi özelliklerle birlikte görünmez HTML içinde düzinelerce kez tekrarlandığı bir teknik. Yapay zeka özetleyicileri bu içeriği işlediğinde, tekrarlanan gizli metin modelin dikkat mekanizmalarına hakim olur ve meşru görünür içeriği bir kenara iter.

“Bir özetleyici tarafından işlendiğinde, tekrarlanan talimatlar tipik olarak modelin bağlamına hükmetir ve bunların oluşturulan özette belirgin bir şekilde ve genellikle sadece görünmelerine neden olur.”

Yöntem, tehdit aktörlerinin kullanıcılara sahte hata mesajları veya kötü amaçlı yazılımları indirmek için kandırmak için sorunları giderme adımları sundukları bir sosyal mühendislik taktiği olan ClickFix’in bir evrimidir. Siber suçlular, tekniği insanlar yerine büyük dil modellerini kandırmaya adapte etmek için hızlıdır (bkz:: Agentic AI tarayıcısı çevrimiçi dolandırıcılar için kolay bir işaret).

Saldırının etkinliği, kullanıcının hızlı içerik triyajı için yapay zeka tarafından üretilen özetlere güvenmekten kaynaklanmaktadır ve genellikle orijinal malzemelerin manuel incelemesini değiştirir. Testler, tekniğin sider.ai ve özel yapım tarayıcı uzantıları gibi ticari hizmetler de dahil olmak üzere AI platformlarında çalıştığını gösterdi.

Araştırmacılar ayrıca saldırının potansiyel etkisini artıran faktörler belirlediler. Yaygın olarak kullanılan uygulamalara entegre olan özetleyiciler, sosyal mühendislik yemlerinin milyonlarca kullanıcı arasında kitle dağıtılmasını sağlayabilir. Teknik, teknik olmayan kurbanlara meşru sorun giderme tavsiyesi olarak gizlenmiş ayrıntılı yürütme talimatları sağlayarak fidye yazılımı dağıtımının teknik engellerini düşürebilir.

Yöntem ayrıca, tek kötü amaçlı yayınları çok vektör kampanyalarına dönüştürmek için arama motoru optimizasyonu ve sosyal medya sendikasyonu gibi içerik dağıtım mekanizmalarını da kullanır. CloudSek, “Yayınlandıktan veya dağıtıldıktan sonra, bu hazırlanmış içerik arama motorları tarafından dizine eklenebilir, forumlarda yayınlanabilir veya doğrudan hedeflere gönderilebilir.” Dedi.

CloudSek’in testi tutarlı sonuçlar gösterdi, ancak araştırmacılar model davranışında bazı değişkenlik olduğunu söylediler. Çoğu durumda, özetleyiciler ClickFix yükünü içeren yalnızca temiz öğretim çıktıları üretti. Sistemler, zaman zaman, hedeflenen talimatlar belirgin bir şekilde öne çıkmasına rağmen, kötü niyetli komutların yanında görünür içeriğin yoğunlaştırılmış sürümlerini içeren karışık çıkışlar oluşturdu.

Araştırma, “Belirli durumlarda, özetleyici, görünür sayfa metninin ClickFix yükü ile birlikte yoğunlaştırılmış bir versiyonunu ekledi.” Dedi.

Kuruluşlar, içeriği özetleme sistemlerine beslemeden önce sıfır opaklık ve mikroskobik yazı tipleri gibi şüpheli CSS özniteliklerini soymak ve gömülü meta enstrümanları tespit eden hızlı dezenfektanları uygulamak için bu saldırılara karşı HTML içeriğinin ön işleme gibi savunma önlemleri uygulayabilir.

Raporda, güvenlik ekipleri, Base64 kodlu ikili dosyalar ve bilinen fidye yazılımı dağıtım komutları dahil olmak üzere ortak kötü niyetli komut yapılarını tanımlamak için yük desen tanıma sistemleri oluşturmalıdır.