Güvenlik araştırmacıları, kullanıcıların adına özerk hareket edebilen Ajan yapay zeka (AI) web tarayıcılarının kullanımı son derece saf ve güvenli olmayan, daha yeni saldırılara düştüğünü gösteriyor.
Tüketici odaklı güvenlik satıcısı Guardio, AI tarayıcılarının sahte e -ticaret ve kimlik avı sitelerini nasıl ele aldığını test etmek için üç senaryo oluşturdu ve sahte captcha içinde bir düz hızlı enjeksiyon saldırısı yaptı.
Guardio, ana test konusu olarak Pusplexity.ai’nin Kuyruklu Yıldız Tarayıcısını kullandı ve araştırmasını “Scamlexity” olarak adlandırdı.
Diğer özelliklerinin yanı sıra, Comets’in Ajan AI’sı alışveriş karşılaştırmaları gibi çok adımlı çevrimiçi görevleri otomatikleştirebilir ve e-ticaret sitelerinde çevrimiçi arabalara öğe ekleyebilir.
Bununla birlikte, kuyruklu yıldızın alışveriş otomasyonunu gizlilik ve güvenlik nedeniyle sınırladığı ve kullanıcıların kişisel ve/veya ödeme bilgilerini doldurmayı reddettiği söylenir; Tarayıcı da işlemleri otomatik olarak sonlandırmayacaktır.
Itnews Kuyruklu yıldızla çevrimiçi satın alımları test etti ve AI tarayıcısı kullanıcı tarafından belirtildiği gibi mallarla bir alışveriş sepeti hazırlayabilse de, ödeme detayları ve kişisel bilgilerle kontrol etmez.
Buna rağmen, AI tarafından oluşturulan sahte bir Walmart sitesi içeren bir senaryo ile test edilen Guardio araştırmacıları, Cometr’in bir Apple Watch satın almak için bir işlem tamamlayacağını iddia etti.
https://www.youtube.com/watch?v=opblvgtbzec
Guardio, scammy Walmart sitesinin her seferinde Comet Comct’ı kandıramadığını söyledi.
Kuyruklu yıldız ayrıca, mesaj bir Protonmail hesabından gelse de, Wells Fargo Bank’tan yapılacaklar bir ürün olarak işaretleyerek bir kimlik avı e-postası için düştü.
Guardio, AI tarayıcısının sahte Wells Fargo giriş sayfasıyla sitenin bağlantısını tıkladığını ve kullanıcı kimlik bilgilerini otomatik olarak doldurduğunu söyledi.
Guardio ayrıca, Kuyruklu Yıldız AI’sını, insanlar tarafından görülemeyen, ancak asistanın okuyacağı ve takip edeceği öğretici metin kullanarak bir CAPTCHA test sayfasında hızlı bir enjeksiyon saldırısı ile “sosyal mühendis” yapabildiğini söyledi.
“Prompfix” olarak adlandırılan Guardio, Comet AI ajanını Captcha sayfasındaki bir “AI Bypass düğmesine” tıklayarak kandırarak bir dosya indirdi.
Guardio araştırmacıları Nati Tal ve Shaked Chen, çalışmalarının AI tarayıcılarıyla birlikte birden fazla soruna işaret ettiğini ve şimdi birden fazla yazılım satıcısından görünmeye başlayan:
Guardio, “Sorun sadece bu tarayıcıların birinci olması değil. Ayrıca AI’nın yerleşik güvenlik açıklarını miras alıyorlar-tam bağlamsız hareket etme, çok kolay güvenme ve şüphecilik insanlar doğal olarak uygulanmadan talimatlar yürütme eğilimi.” Dedi.
“AI, insanlarını neredeyse her maliyetle mutlu etmek için tasarlanmıştır.
Guardio, kimlik avı tespiti, URL itibar kontrolleri, alan adı sahtekarlık uyarıları, alan adı sahtekarlığı uyarıları, kötü niyetli dosya taraması ve davranışsal anomali tespitinin de AI karar döngüsü içinde çalışması gerektiğini söyledi.
Şaşkınlıkla temasa geçildi Itnews yorum için.
Şirketin Comet Web tarayıcısı, Guardio tarafından bildirilen güvenlik sorunlarının çok gerçek olduğunu ve ciddiye alınması gerektiğini, AI ajanının aşırı şişmiş olmadıkları, ancak takdir edilmedikleri konusunda ısrar ettiğini öne sürdü.