Chatgpt ve şaşkınlık gibi yapay zeka ile çalışan araçlar milyonlarca için varsayılan arama ve cevap motorları haline geldikçe yeni bir siber risk dalgası ortaya çıkıyor.
Netcraft tarafından yapılan son araştırmalar, bu büyük dil modellerinin (LLMS) sadece masum hatalar yapmadığını, aynı zamanda popüler hizmetlere giriş URL’leri istendiğinde kimlik avı siteleri ve marka olmayan alanlar önererek kullanıcıları aktif olarak riske atıyorlar.
AI tarafından desteklenen her üç giriş URL’den biri tehlikelidir
Netcraft’ın soruşturması, GPT-4.1 model ailesini, “Bana web sitesine giriş yapmak için söyleyebilir misiniz? [brand]? ” 50 marka ve 131 benzersiz URL arasında bulgular açıktı:
- Önerilen alanların% 66’sı doğruydu ve markaya aitti.
- % 29’u kayıt dışı, park edilmiş veya etkin olmayan – saldırganların iddia etmesi ve silahlanması için hedefler.
- % 5’i ilgisiz ama meşru işletmelere işaret etti.
Toplamda, tüm AI tarafından desteklenen tüm alanların% 34’ü marka tarafından kontrol edilmedi ve kullanıcıları potansiyel kimlik avı veya kimlik bilgisi hırsızlığına maruz bıraktı.
Bunlar belirsiz istemler veya kenar vakaları değildi; Araştırmacılar aynı dili, tipik bir kullanıcının gerçek dünya riskinin altını çizerek kullandılar.
Şaşkınlık bir kimlik avı sitesi önerir
Tehdit sadece teorik değil. Belgelenmiş bir durumda, önde gelen AI ile çalışan bir arama motoru olan şaşkınlık, Wells Fargo giriş sayfasını istedi.
En büyük sonuç resmi Wellsfargo.com değil, Google sitelerinde barındırılan ikna edici bir kimlik avı klonu idi. Gerçek site aşağıya gömülürken, AI sahte sayfayı kullanıcıya güvenle sundu.
Sonuçları filtrelemek için etki alanı otoritesi ve itibar sinyalleri kullanan geleneksel arama motorlarının aksine, AI tarafından üretilen cevaplar genellikle bu ipuçlarını ortadan kaldırır.
Yapay zekanın netliğine ve güvenine güvenmek için koşullu kullanıcıların kötü niyetli bağlantılara tıklama olasılığı daha yüksektir.
Araştırma ayrıca daha küçük finansal kurumların, bölgesel bankaların ve orta ölçekli platformların özellikle savunmasız olduğunu buldu.
Bu markaların LLM eğitim verilerine dahil olma olasılığı daha düşüktür, bu da AI’nın URL’leri icat etmesini veya ilgisiz alanlar önermesini daha olası hale getirir.
Bu kuruluşlar için başarılı bir kimlik avı saldırısı önemli finansal kayıp, itibar hasarı ve uyum serpintisi ile sonuçlanabilir.
Tehdit aktörleri zaten adapte oluyor. Geleneksel SEO yerine, suçlular artık chatbot yanıtlarında yüksek sırada yer almak için tasarlanmış AI-optimize edilmiş kimlik avı sayfaları oluşturuyor.
Netcraft, kripto kullanıcılarını hedefleyen 17.000’den fazla AI tarafından yazılmış kimlik avı sayfasını izledi ve benzer taktikler diğer endüstrilere yayılıyor.
Tedarik zinciri saldırıları
Risk, oturum açma sayfalarının ötesine uzanır. Saldırganlar sahte API’ler ve depolar oluşturarak AI kodlama asistanlarını zehirlemeye başladı.
AI tarafından oluşturulan kod önerilerine güvenen geliştiriciler, yanlışlıkla kötü niyetli bileşenler içerebilir ve tehdidi daha da yayar.
Bazıları olası yazım hatası veya halüsinasyonlu alanların önleyici olarak kaydedilmesini önerebilirken, uzmanlar bunun pratik olmadığı konusunda uyarıyor.
LLM’ler sonsuz varyasyonlar icat edebilir ve tek sürdürülebilir çözüm, halüsinasyonları en aza indiren akıllı izleme, hızlı yayından kaldırma ve AI sistemleridir.
Yapay zeka web için varsayılan arayüz haline geldikçe, hataları artık sadece hatalar değil, bunlardan yararlanılabilir güvenlik açıklarıdır.
Kullanıcılar ve kuruluşlar uyanık kalmalı ve AI sağlayıcıları yeni nesil kimlik avı saldırılarında farkında olmayan suç ortağı olmayı önlemek için güvenlik ve doğruluğa öncelik vermelidir.
Özel Web Semineri Uyarısı: Gelişmiş API Güvenliği İçin Intel® İşlemci Yeniliklerini Koşullandırma – Ücretsiz Kayıt