Siber suçlular, fidye yazılımı talimatlarını gizlice dağıtmak için yapay zeka ile çalışan özetleme araçlarını silahlandıran ClickFix sosyal mühendislik tekniğinin yeni bir varyasyonunu tanıttılar.
Görünmez istemi enjeksiyon ve “istemi aşırı doz” stratejisinden yararlanarak, saldırganlar, araştırmacılar tarafından yapılan bir rapora göre, e -posta istemcileri, tarayıcı uzantıları ve verimlilik platformlarında AI özetleyicilerinin e -posta istemcileri, tarayıcı uzantıları ve verimlilik platformlarında sadakatle çoğaltıldığı gizli HTML öğelerine kötü amaçlı yönergeleri yerleştirdiler.
Saldırının merkezinde, CSS ve HTML hileleri aracılığıyla yüklerin gizlenmesi-sıfır genişlikli karakterler, beyaz-beyaz metin, küçük yazı tipi boyutları ve ekran dışı konumlandırma-onları insan okuyucular için görünmez ancak büyük dil modellerine tamamen okunabilir hale getirir.
Bu gizli istemler, görünmez kaplarda düzinelerce kez tekrarladı, modelin bağlam penceresini bunaltır ve oluşturulan özeti meşru içerik yerine saldırganın talimatlarına doğru yönlendirir.
Bir kullanıcı, bir e-posta önizlemesi, bir forum gönderisi veya kurumsal bir belge olsun, zehirli içerik üzerinde otomatik bir özetleyici çağırdığında, araç farkında olmadan adım adım fidye yazılımı dağıtım komutlarını tekrarlar.
Kavram kanıtı gösterilerinde, AI özetleyicileri Windows Run iletişim kutusu aracılığıyla Base64 kodlu PowerShell komutları çıktısına yönlendirildi.
İyi huylu içerik mevcut olsa bile, gizli istemlerin hacmi özete hakim oldu. Direktif ifadelerinde ve konteyner yapısındaki iyileştirmeler, temiz, sadece öğretim çıktıları olasılığını daha da artırdı.
ClickFix’in bu uyarlaması, AI özetleyicilerini pasif asistanlardan kötü amaçlı yazılım cazibesi için aktif teslimat kanallarına dönüştürür. Kullanıcıların “güvenilir yapay zeka” daki güvenden yararlanarak, kötü niyetli adımları yetkili rehberlik olarak sunarak fidye yazılımı kampanyalarının başarı oranını artırır.
Geleneksel kimlik avı’ndan farklı olarak, kurbanların şüpheli bağlantıları görüntülemesine veya tıklamasına gerek yoktur – özetlenmiş talimatlar AI’nın kendisinden geliyor gibi görünmektedir.
Çıkarımlar derindir. Milyonlarca tarafından kullanılan e -posta istemcileri, arama snippet’leri ve tarayıcı uzantıları gizli yükler için kütle dağıtım vektörleri olabilir.
SEO ile güçlendirilmiş blog yayınları veya sendikalı forum iplikleri, toplayıcılar tarafından endekslenen ve birden fazla platformda yeniden ortaya çıkan kalıcı kötü niyetli içerik rezervuarları olarak hizmet edebilir.
Dahili yapay zeka copilots ve belge triyaj sistemlerine dayanan işletmeler, iç özetlerin saldırı talimatları için yanlışlıkla kanallar olma riskiyle karşı karşıyadır.
Bu tehdide karşı koymak için güvenlik ekipleri ve yapay zeka geliştiricileri güçlü dezenfekte ve algılama önlemleri uygulamalıdır.
İstemci tarafı filtreleri, görünmezle ilişkili CSS özniteliklerini soymalı veya normalleştirmeli, içeriği opaklık: 0, yazı tipi boyutu: 0 veya sıfır genişlikli karakterlerle işaretlemelidir. Hızlı nötralizasyon katmanları meta-eklemeleri ve aşırı doz ataklarının aşırı tekrarlama özelliğini tespit edebilir.
Desen tanıma motorları, bilinen fidye yazılımı dağıtım kalıpları için gizlenmiş komut çizgisi dizelerini çözmeli ve analiz etmelidir.
Özetleme sırasında token seviyesi dengeleme, görünür malzemenin bütünlüğünü koruyarak tekrarlanan içeriği ağırlıklandırabilir.
Kullanıcı deneyimi, görünür ve gizli metni farklılaştıran içerik orijin göstergeleri gibi-alıcıları potansiyel manipülasyona karşı uyarır.
Güvenli e -posta ağ geçitlerine ve içerik yönetim sistemlerine entegre olan kurumsal AI politika uygulaması, özetleme motorlarına ulaşmadan önce şüpheli belgeleri engelleyebilir veya karantina edebilir.
Saldırganlar görünmez hızlı enjeksiyon ve aşırı doz tekniklerini geliştirdikçe, savunucular acil bir uyumluluk ihtiyacına karşı karşıyadır.
Bu yöntemlerin kamuya açıklanması, düşmanlar ve güvenlik satıcıları arasında bir silah yarışını hızlandırabilir.
Gelecekteki araştırmalar, platformlar arası değerlendirmelere, savunma hızlı mühendisliğine ve AI güdümlü iş akışlarının esnekliğini arttırmak için düşmanca özetleme kriterlerinin geliştirilmesine odaklanmalıdır.
Bu haberi ilginç bul! Anında güncellemeler almak için bizi Google News, LinkedIn ve X’te takip edin!