Üretken yapay zekanın ChatGPT’deki hızlı büyümesi, bilgisayar korsanları onu birkaç yasa dışı amaç için kullandığından, mevcut tehdit ortamını aktif olarak yeniden şekillendiriyor.
ChatGPT’nin başlangıçları kesintiye uğratmasından kısa bir süre sonra bilgisayar korsanları, OpenAI’nin ChatGPT’sine dayalı metin oluşturma teknolojilerinin kendi sürümlerini hızla geliştirdiler.
Tüm bu gelişmiş AI sistemleri, hedeflerini kandırarak giriş bilgilerini çalmak için karmaşık kötü amaçlı yazılımlar ve kimlik avı e-postaları oluşturmalarına olanak tanıyan tehdit aktörleri tarafından kullanılabilir.
Bilgisayar Korsanları ChatGPT Klonları Oluşturuyor
Temmuz ayından bu yana, güvenlik araştırmacıları tarafından tehdit aktörlerinin kendi yaptıkları büyük dil modellerini (LLM’ler) teşvik eden ve aşağıdakileri taklit eden birkaç karanlık web gönderisi gözlemlendi:-
Ancak bilgisayar korsanları tarafından geliştirilen tüm bu sohbet robotları, yasal muadillerinden farklı olarak yasa dışı amaçlarla metin yanıtları üretiyor.
Chatbot’un orijinalliği, siber suçluların güvenilirlik eksikliği nedeniyle sorgulanıyor ve sadece bu değil; onlar bile ciddi endişelere yol açan yapay zeka yutturmacasını dolandırma veya istismar etme potansiyelidir.
Ayrıca, güvenlik araştırmacıları aktif olarak birkaç chatbot’u dark web verileriyle eğitiyor ve bununla birlikte siber suçlara karşı savaşmak ve güçlü savunma mekanizmaları oluşturmak için büyük dil modelleri kullanıyorlar.
Henüz Keşfedilmemiş Kötü Amaçlı Yapay Zeka Sohbet Robotları
Aşağıda, siber güvenlik araştırmacıları tarafından henüz keşfedilmemiş tüm kötü niyetli yapay zeka sohbet botlarından bahsettik: –
Araştırmacı tarafından tespit edilen WormGPT daniel keley, korumalardan ve etik sınırlardan yoksundur. Tüm bu modeller, sınırsız karakter ve kod biçimlendirme sunarak acemi siber suçlular için engelleri azalttığı için kimlik avı için geliştirilir.
Kelley tarafından test edildiğinde, sistem bir iş e-postası dolandırıcılığı için ikna edici ve stratejik olarak net bir e-posta oluşturarak endişe verici etkili sonuçlar üretti.
FraudGPT’nin yaratıcısı temel özelliklerin altını çizdi ve aşağıda bunlardan bahsettik:-
- Algılanamayan kötü amaçlı yazılım oluşturma
- kaçak bulma
- güvenlik açıkları
- Dolandırıcı metin işçiliği
Bunun yanı sıra, içerik oluşturucu, birden çok karanlık web forumunda ve Telegram kanalında FraudGPT’nin reklamını yaptı. Sistemin yaratıcısı, sistem erişimini ayda 200 ABD Doları veya yılda 1.700 ABD Doları karşılığında satmaya çalışan bir sohbet robotunun dolandırıcılık e-postası oluşturduğunu gösteren bir video paylaştı.
Dolandırıcıların birbirlerini dolandırması nedeniyle chatbot iddiaları sorgulanabilir olduğundan, bu sohbet robotlarının gerçekliğini doğrulamak zordur.
Bazı ipuçları, WormGPT’nin satıcısının nispeten güvenilir göründüğünü öne sürse de, satıcıdan kaldırılan gönderiler nedeniyle FraudGPT’nin güvenilirliği daha az kesin.
Bunun dışında, Check Point şüphe sistemlerindeki siber güvenlik araştırmacıları, ChatGPT veya Bard gibi ticari LLM’leri geride bırakıyor.
Tehdit aktörlerinin LLM’lere olan ilgisi dramatik bir şekilde artıyor gibi görünüyor, bu nedenle beklenmedik değil.
Bu ilerlemeler aynı zamanda FBI ve Europol’ü üretken yapay zekanın siber suçlarda daha hızlı dolandırıcılık, kimliğe bürünme ve toplum mühendisliği potansiyeli konusunda uyardı.
Bizi GoogleNews, Linkedin üzerinden takip ederek en son Siber Güvenlik Haberlerinden haberdar olun, twitterve Facebook.