Krishnan, sistemin yaratıcısının, chatbot’un çalıştığını ve dolandırıcı bir e-posta oluşturduğunu gösteren bir video yayınladığını söylüyor. Ayrıca sisteme erişimi ayda 200$’a veya yıllık 1.700$’a satmaya çalışıyorlardı. Krishnan, FraudGPT’nin arkasındaki geliştiriciyle yapılan görüşmelerde birkaç yüz aboneye sahip olduklarını iddia edip satış için bastırdıklarını, WormGPT yaratıcısının ise paylaştıkları bir kripto para cüzdan adresine ödemeler almış göründüğünü söylüyor. Krishnan, “Bütün bu projeler emekleme aşamasında,” diyor. İnsanların sistemleri satın alıp almadıkları veya sistemleri kullanıp kullanmadıkları konusunda “çok fazla geri bildirim alamadık” diye ekliyor.
Chatbot’ları lanse edenler var olduklarını iddia etseler de, sistemlerin yapısını ve meşruiyetini doğrulamak zordur. Siber suçlu dolandırıcıların diğer dolandırıcıları dolandırdıkları bilinmektedir ve daha önceki araştırmalar onların sık sık birbirlerini dolandırmaya çalıştıklarını, sattıklarını iddia ettikleri şeyleri sağlamadıklarını ve kötü müşteri hizmetleri sunduklarını göstermektedir. Güvenlik firması Check Point’te tehdit istihbarat grubu yöneticisi olan Sergey Shykevich, insanların WormGTP kullandığına dair bazı ipuçları olduğunu söylüyor. Shykevich, “Gerçek bir araç varmış gibi görünüyor” diyor. Aracın arkasındaki satıcının “nispeten güvenilir” olduğunu ve siber suç forumlarında geçmişi olduğunu söylüyor.
Shykevich, WormGPT ile ilgili bir gönderiye 100’den fazla yanıt olduğunu söylüyor, ancak bunlardan bazıları satıcının sorularına pek yanıt vermediğini ve diğerlerinin sistem hakkında “pek heyecanlanmadığını” söylüyor. Shykevich, FraudGPT’nin gerçekliğinden o kadar emin değil; satıcı ayrıca DarkBard ve DarkBert adlı sistemlere sahip olduğunu iddia etti. Shykevich, satıcının bazı gönderilerinin forumlardan kaldırıldığını söylüyor. Her iki durumda da Check Point araştırmacısı, herhangi bir sistemin ChatGPT, Bard veya diğer ticari LLM’lerden daha yetenekli olduğuna dair hiçbir işaret olmadığını söylüyor.
Kelly, şu ana kadar oluşturulan kötü niyetli LLM’ler hakkındaki iddiaların “biraz abartılı” olduğuna inandığını söylüyor. Ancak, “bu, meşru işletmelerin gerçek dünyada yaptıklarından ille de farklı değil” diye ekliyor.
Sistemlerle ilgili sorulara rağmen, siber suçluların LLM patlamasına katılmak istemeleri şaşırtıcı değil. FBI, siber suçluların işlerinde üretken yapay zekayı kullanmayı düşündükleri konusunda uyardı ve Avrupa yasa uygulama kurumu Europol de benzer bir uyarı yayınladı. Kolluk kuvvetleri, LLM’lerin siber suçlulara dolandırıcılık, kimliğe bürünme ve diğer sosyal mühendislik konularında eskisinden daha hızlı yardımcı olabileceğini ve ayrıca yazılı İngilizcelerini geliştirebileceğini söylüyor.
Herhangi bir yeni ürün, hizmet veya etkinlik kamuoyunun dikkatini çektiğinde – Barbie filmden Covid-19 salgınına kadar – dolandırıcılar onu bilgisayar korsanlığı topçularına dahil etmek için acele ediyorlar. Şimdiye kadar dolandırıcılar, Facebook’taki ChatGPT, Bard, Midjourney ve diğer üretken AI sistemleri için sahte reklamlar aracılığıyla insanları şifre çalan kötü amaçlı yazılımları indirmeleri için kandırdı.
Güvenlik firması Sophos’taki araştırmacılar, domuz kesme ve aşk dolandırıcılığı operatörlerinin mesajlarına yanlışlıkla oluşturulmuş metin eklediklerini fark ettiler: “‘Ben’in bir dil modeli olarak, insanlar gibi hislere veya duygulara sahip değilim,” dedi. Ayrıca bilgisayar korsanları, OpenAI’nin API’sine erişim ve geniş ölçekte sohbet botuna erişim sağlamak için belirteçleri çalıyorlar.
Kelly, WormGPT raporunda, siber suçluların genellikle insanların popüler LLM’lerin yapımcıları tarafından konulan güvenlik kısıtlamalarını atlamasına olanak tanıyan jailbreak’leri paylaştığını belirtiyor. Ancak bu modellerin sınırlandırılmamış versiyonları bile neyse ki mevcut halleriyle siber suçlular için o kadar yararlı olmayabilir.
Check Point araştırmacısı Shykevich, siber suçluların halka açık modelleri kullanmaya çalıştıklarını gördüğünde bile etkili olamadıklarını söylüyor. “Fidye yazılımı türleri, bilgi hırsızları oluşturabilirler, ancak ortalama bir geliştiriciden bile daha iyi olamazlar” diyor. Bununla birlikte, siber suç forumlarındakiler hala kendi klonlarını yapmaktan bahsediyorlar, diyor Shykevich ve sadece sistemleri kullanmakta daha iyi olacaklar. Bu yüzden neye tıkladığınıza dikkat edin.