Metin tabanlı istemleri kullanarak tam yığın web uygulamaları oluşturulmasına izin veren üretken bir yapay zeka (AI) ile çalışan platform olan sevimli, jailbreak saldırılarına en duyarlı olduğu bulundu, acemi ve hevesli sibercrooks’un benzeri kimlik bilgisi hasat sayfaları kurmasına izin verildi.
Guardio Labs ‘Nati Tal, Hacker News ile paylaşılan bir raporda, “Web uygulamaları oluşturmak ve dağıtmak için amaca yönelik bir araç olarak, yetenekleri her dolandırıcının istek listesiyle mükemmel bir şekilde sıralanıyor,” dedi. “Piksel mükemmel aldatmaca sayfalarından canlı barındırma, kaçış teknikleri ve hatta çalınan verileri izlemek için yönetici gösterge tablolarına kadar-Lovable sadece katılmadı, performans gösterdi. Hiç kasa yok, tereddüt yok.”
Tekniğe kodlandı Vibescamming -Vibe kodlama teriminde, kodlama için ayarlanmış büyük bir dil modeline (LLM) bir istemi olarak problem ifadesini tanımlayarak yazılım üretmek için AI bağımlı bir programlama tekniğini ifade eden bir oyun.
LLM’lerin ve AI chatbotların kötü niyetli amaçlar için kötüye kullanılması yeni bir fenomen değildir. Son haftalarda araştırmalar, tehdit aktörlerinin kötü amaçlı yazılım geliştirme, araştırma ve içerik oluşturma konusunda yardımcı olmak için Openai Chatgpt ve Google Gemini gibi popüler araçları nasıl kötüye kullandıklarını göstermiştir.
Dahası, Deepseek gibi LLM’ler de, modellerin güvenlik ve etik korkulukları atlamasına ve diğer yasaklanmış içerik üretmesine izin veren kötü Likert Yargıç, Crescendo ve aldatıcı zevk gibi hızlı saldırılara ve jailbreakik tekniklere duyarlı bulundu. Bu, ek isteme ve hata ayıklama olsa da, kimlik avı e -postaları, keylogger ve fidye yazılımı örnekleri oluşturmayı içerir.
Geçen ay yayınlanan bir raporda, Broadcom’a ait Symantec, kullanıcı adına web tabanlı eylemler gerçekleştirebilecek bir AI temsilcisi olan Openai’nin operatörünün, belirli kişilerin e-posta adreslerini bulma, sistem bilgilerini toplayabilen, Google Drive’da bunları tetikleyebilen ve bireylere gönderen PowerShell senaryolarını otomatikleştirmek için nasıl silahlandırılabileceğini ve bireylere gönderilebileceğini ve bireylere gönderme ve bunları göndermeyi nasıl ortaya çıkardığını açıkladı.
AI araçlarının artan popülaritesi aynı zamanda saldırganların girişindeki engelleri önemli ölçüde azaltabilecekleri ve kendilerine ait çok az teknik uzmanlık ile fonksiyonel kötü amaçlı yazılımları oluşturmalarını kodlama yeteneklerini kullanmalarını sağlayabilecekleri anlamına geliyor.
Örnek bir durum, bir Google Chrome tarayıcısında depolanan kimlik bilgilerini ve diğer hassas verileri hasat edebilen bir bilgi çalma oluşturmayı mümkün kılan, sürükleyici dünya olarak adlandırılan yeni bir jailbreak yaklaşımıdır. Ayrıntılı bir kurgusal dünya oluşturarak ve kısıtlı operasyonların üstesinden gelmek için belirli kurallarla roller atayarak “LLM güvenlik kontrollerini atlamak için anlatı mühendisliği kullanıyor” tekniği.
Guardio Labs’ın en son analizi bir adım daha ileri gider, sevimli ve antropik Claude gibi platformların daha az bir ölçüde, SMS metin mesajı şablonları, sahte bağlantıların twilio tabanlı SMS teslimi, içerik omsuscation, savunma evazisi ve telgraf entegrasyonu ile tamamlanabileceğini ortaya çıkarır.
Vibescamming, AI aracından saldırı döngüsünün her adımını otomatikleştirmesini, ilk tepkisini değerlendirmesini ve daha sonra amaçlanan kötü niyetli yanıtı oluşturmak için LLM modelini hafifçe yönlendirmek için çok yönlü bir yaklaşım benimsemesini isteyen doğrudan bir bilgi istemi ile başlar. “Seviye Up” olarak adlandırılan bu aşama, kimlik avı sayfasının geliştirilmesini, teslimat yöntemlerini geliştirmeyi ve aldatmacanın meşruiyetini artırmayı içerir.
Sevimli, Guardio, sadece gerçek Microsoft oturum açma sayfasını taklit eden ikna edici görünümlü bir oturum açma sayfası ürettiği, aynı zamanda kendi alt alanında barındırılan bir URL üzerindeki sayfayı otomatik olarak değiştirdiği ve ofise yönlendirdiği bulundu.[.]com Kimlik hırsızlığı sonrası.
Bunun üzerine, hem Claude hem de sevimli, aldatmaca sayfalarının güvenlik çözümleri tarafından işaretlenmesini önlemek için yardım arayan istemlere uyuyor ve çalınan kimlik bilgilerini Firebase, Requestbin ve Jsonbin veya özel telgraf kanalı gibi harici hizmetlere yayıyor.
Tal, “Daha endişe verici olan sadece grafik benzerlik değil, aynı zamanda kullanıcı deneyimi” dedi. “Gerçek olanı o kadar iyi taklit ediyor ki, gerçek Microsoft giriş akışından tartışmalı bir şekilde daha pürüzsüz. Bu, görev odaklı AI ajanlarının ham gücünü ve sıkı sertleşme olmadan nasıl bilmeden istismar için araçlar haline gelebileceklerini gösteriyor.”
“Scampage’ı tam kimlik bilgisi depolamasıyla oluşturmakla kalmadı, aynı zamanda yakalanan tüm verileri – kimlik bilgileri, IP adresleri, zaman damgası ve tam düz metin şifreleri – incelemek için tamamen işlevsel bir yönetici gösterge tablosunu sağladı.”
Bulgularla birlikte Guardio, üretken AI modellerini sıkıcıya koymak ve kimlik avı iş akışlarındaki potansiyel istismarlara karşı esnekliklerini test etmek için Vibescamming ölçütü olarak adlandırılan ilk versiyonunu da yayınladı. Chagpt 10 üzerinden 8 puan alırken, Claude 4.3 puan aldı ve Lovable 1.8 puan aldı ve yüksek sömürülebilirlik gösterdi.
Tal, “Chatgpt, tartışmasız en gelişmiş genel amaçlı model olsa da, en temkinli olanı da ortaya çıktı.” Dedi. “Claude, aksine, sağlam bir geri dönüşle başladı, ancak kolayca ikna edilebilir olduğunu kanıtladı. Bir kez ‘etik’ veya ‘güvenlik araştırması’ çerçevelemesi ile istendiğinde, şaşırtıcı derecede sağlam bir rehberlik sundu.”