Tehdit aktörleri, çok sayıda kötü amaçlı etkinlik için, ikna edici kimlik avı mesajları oluşturma, karmaşık sosyal mühendislik saldırıları oluşturma ve yanıltıcı içerik üretimini otomatikleştirme gibi konuşma yetenekleri nedeniyle ChatGPT’den yararlanabilir.
Bilgisayar korsanları, kullanıcıları kandırmak ve dolandırıcılık planlarını otomatikleştirmek için insan benzeri metinleri anlamak ve oluşturmak için modelin kapasitesinden yararlanabilir ve bu da onu onlar için çekici bir araç haline getirir.
Kaspersky’nin Dijital Ayak İzi İstihbaratı hizmeti yakın zamanda Dark Web gönderilerinde ChatGPT’nin yasa dışı amaçlarla kullanıldığı 3000’den fazla tartışma keşfetti.
Trustifi’nin Gelişmiş tehdit koruması, en geniş yelpazedeki karmaşık saldırıları, kullanıcının posta kutusuna ulaşmadan önce önler. Gelişmiş Yapay Zeka Destekli E-posta Koruması ile Trustifi Ücretsiz Tehdit Taramasını deneyin.
Ücretsiz Tehdit Taraması Çalıştırın
ChatGPT’nin Yasadışı Kullanımına İlişkin Tartışmalarda Ani Artış
Araştırmacılar, ChatGPT’nin kötüye kullanılmasıyla ilgili Dark Web tartışmalarında önemli bir artış olduğunu kaydetti. Ocak-Aralık 2023 arasında tehdit aktörleri, tespit edilmekten kaçınmak için çok biçimli kötü amaçlı yazılım oluşturmak gibi yasa dışı faaliyetler için ChatGPT’yi kullanmayı tartıştı.
Önerilerden biri, güvenlik tehdidi oluşturan meşru bir alan adı üzerinden kötü amaçlı kod oluşturmak için OpenAI API’nin kullanılmasıydı. Ancak güvenlik analistleri tarafından henüz böyle bir kötü amaçlı yazılım tespit edilmedi ancak daha sonra ortaya çıkabilir.
Tehdit aktörleri, kullanıcı veri dökümlerinin işlenmesi gibi zorlukların üstesinden gelmek için yapay zekayı kullanarak ChatGPT’yi genellikle kötü amaçlarla kullanıyor.
Uzmanlık gerektiren görevler bile, ChatGPT’nin suç alanları da dahil olmak üzere çeşitli alanlara giriş engellerini azaltan oluşturduğu yanıtlarla basitleştirilmiştir. Yeni başlayanlar bile bir zamanlar deneyimli ekipler gerektiren eylemleri gerçekleştirebildiğinden, bu eğilim potansiyel saldırıları artırabilir.
Bunun bir örneği, tarama yapmak ve yasa dışı faaliyetlerde bulunmak için bir ekip arayan bir kullanıcının, özellikle kötü amaçlı yazılım günlük dosyalarını ayrıştırmak için kod yazmada yapay zekanın aktif kullanımından bahsetmesini içerir. Bu kullanım kolaylığı birçok alanda risk oluşturmaktadır.
Siber suç forumları tarafından standart görevler için çeşitli ChatGPT benzeri araçlar entegre edildi. Tehdit aktörleri, ek işlevlerin kilidini açmak için jailbreak olarak bilinen özel istemleri kullanır.
2023 yılında, bu istem setlerini satmaya yönelik 249 teklif bulundu ve bazı kullanıcılar istem setlerini topladı, ancak bunların tümü yasa dışı eylemlere yönelik değil. Yapay zeka geliştiricileri zararlı içeriği sınırlamayı hedefler ancak istemeden hassas bilgiler sağlayabilir.
GitHub, siber güvenlik uzmanları ve saldırganlar tarafından kullanılan PowerShell kodunu gizlemeye yönelik açık kaynaklı araçlara ev sahipliği yapıyor. Kaspersky, yardımcı programın kötü amaçlarla paylaşıldığı bir siber suç forum gönderisi buldu.
Meşru yardımcı programlar araştırma amacıyla paylaşılmaktadır, ancak erişim kolaylığı siber suçluların ilgisini çekebilmektedir. WormGPT, XXXGPT ve FraudGPT gibi projeler, sınırlama olmaksızın ChatGPT analogları olup ciddi endişelere yol açmaktadır.
WormGPT, topluluğun tepkisiyle karşılaştı ve kapatıldı, ancak erişim sunan sahte reklamlar devam ediyor. Bu kimlik avı sayfaları, yanlışlıkla deneme sürümlerini talep ederek çeşitli yöntemlerle ödeme talep ediyor. Ancak projenin kapatılmasına rağmen geliştiriciler dolandırıcılıklara karşı uyardı.
WormGPT, xxxGPT, WolfGPT, FraudGPT ve DarkBERT gibi projeler arasında lider konumdadır. Bir xxxGPT demosu, tuş kaydediciler gibi tehditler için kod üreten özel istemlere olanak tanır.
Basitliğine rağmen, kötü amaçlı kod üretmenin kolaylığı alarmlara neden olur. Bunun yanı sıra, kötü amaçlı yazılım günlük dosyalarından veya saldırıya uğramış premium hesaplardan elde edilen çalıntı ChatGPT hesapları da piyasaya akın ediyor.
Satıcılar, kalıcı ve fark edilmeyen kullanım için hiçbir ayrıntıyı değiştirmemelerini tavsiye eder. API sınırlarına sahip otomatik hesaplar, kötü amaçlı faaliyetler nedeniyle yasaklandıktan sonra hızlı geçiş yapılmasını kolaylaştıran paketler halinde satılmaktadır.