Perplexity’nin Kuyruklu Yıldızı AI tarayıcısı, çevrimiçi sahte ürünler satın almak için kandırıldı

Ajanik AI tarayıcılarına bakan bir çalışma, bu ortaya çıkan araçların kötü niyetli sayfalar ve istemlerle etkileşime girmesini sağlayabilecek hem yeni hem de eski şemalara karşı savunmasız olduğunu bulmuştur.

Ajan AI tarayıcıları, çeşitli çevrimiçi görevlere özerk bir şekilde göz atabilir, alışveriş yapabilir ve yönetebilir (e -posta, bilet rezervasyonu, dosya formları veya hesapları kontrol etme gibi).

Şaşkınlık Kuyruklu Yıldızı şu anda Ajanik AI tarayıcılarının birincil örneğidir. Microsoft Edge ayrıca bir copilot entegrasyonu aracılığıyla aracı tarama özelliklerini yerleştiriyor ve Openai şu anda ‘Aura’ kod adlı kendi platformunu geliştiriyor.

Bu araçlar şu anda teknoloji meraklılarına ve erken benimseyenlere yönelik olsa da, kuyruklu yıldız ana akım tüketici pazarına hızla nüfuz ediyor.

Öncelikle Kuyruklu Yıldız’a odaklanan bir incelemeye göre, bu araçlar, özellikle bunları hedeflemek için hazırlanmış bilinen ve yeni saldırılara karşı yetersiz güvenlik güvenceleri ile serbest bırakıldı.

Çevrimiçi tehditlere (kimlik hırsızlığı, kimlik avı, kötü amaçlı yazılım) karşı koruyan tarayıcı uzantıları geliştiricisi olan Guardio’dan testler, ajan AI tarayıcılarının kimlik avı, hızlı enjeksiyon ve sahte mağazalardan satın almaya karşı savunmasız olduğunu ortaya koydu.

Bir testte Guardio, Comet’den bir Apple Watch almasını istedi, sahte bir Walmart sitesinde araştırmacıların sevimli hizmeti kullanarak oluşturduğu.

Deneyde kuyruklu yıldız sahte dükkana yönlendirilmiş olsa da, gerçek hayat senaryosunda bir AI ajanı SEO zehirlenmesi ve kötü niyetle aynı duruma girebilir.

Model, siteyi meşruiyetini onaylamadan taradı, kasaya gitti ve kredi kartı ve adresi için verileri otomatikleştirdi ve insan onayını istemeden satın alma işlemini tamamladı.

İkinci testte Guardio, bir Protonmail adresinden gerçek, canlı bir kimlik avı sayfasına bağlanan sahte bir Wells Fargo e -postası hazırladı.

Comet, gelen iletişimi bankadan gerçek bir talimat olarak ele aldı, kimlik avı bağlantısını tıkladı, sahte Wells Fargo giriş sayfasını yükledi ve kullanıcıyı kimlik bilgilerini girmesini istedi.

Son olarak, Guardio, kaynak koduna gömülü AI ajanı için sahte bir Captcha sayfası saklama talimatları kullandıkları hızlı bir enjeksiyon senaryosunu test etti.

Comet, gizli talimatları geçerli komutlar olarak yorumladı ve kötü amaçlı bir dosya indirmesini tetikleyerek ‘captcha’ düğmesini tıkladı.

Guardio, yeni tehditlerin standart insan merkezli saldırı modellerinin yerini alması beklendiğinden, testlerinin ajanik AI tarayıcılarının ortaya çıkmasından kaynaklanan güvenlik karmaşıklıklarının yüzeyini zar zor çizdiğini vurgulamaktadır.

Guardio, “AI-VS-AI döneminde, dolandırıcıların milyonlarca farklı insanı kandırmaları gerekmiyor; sadece bir AI modelini kırmaları gerekiyor” diyor.

“Başarılı olduklarında, aynı istismar sonsuz bir şekilde ölçeklendirilebilir. Ve aynı modellere erişebildikleri için, aldatmaca kusursuz çalışana kadar kurbanın yapay zekasına karşı kötü niyetli yapay zekalarını“ eğitebilir ”.”

Ajan AI tarayıcılarının güvenlik yönü belirli bir vade seviyesine ulaşana kadar, bankacılık, alışveriş veya e -posta hesaplarına erişim gibi hassas görevlerin kendilerine atanmaması tavsiye edilir.

Ayrıca, kullanıcılar AI aracılarına kimlik bilgileri, finansal detaylar veya kişisel bilgiler vermekten kaçınmalı ve bunun yerine bu verileri gerektiğinde manuel olarak girmelidir, bu da nihai bir onay adımı olarak hareket edebilir.