Medya ve sık sık yapılan yenilikçi yayınlar, üretken AI (Yapay Zeka) ChatGPT’nin sektördeki hızlı yükselişini agresif bir şekilde körüklüyor.
Ancak, yenilikçi kısmının yanı sıra siber suçlular, bu üretken yapay zeka modellerini daha ortaya çıkmadan önce bile çeşitli yasa dışı amaçlar için aktif olarak istismar ediyor.
Trend Micro, Europol ve UNICRI’deki siber güvenlik analistleri, suç niteliğindeki yapay zeka istismarını ortaklaşa incelediler ve GPT-3’ün 2020’deki ilk çıkışından bir hafta sonra “Yapay Zekanın Kötü Amaçlı Kullanımları ve Suistimalleri” raporunu yayınladılar.
GPT-3 ve ChatGPT gibi yapay zeka modellerinin piyasaya sürülmesi, teknoloji endüstrisini kasıp kavurdu; bir dizi yüksek lisans ve araç dalgası yarattı, OpenAI ile rekabet etti veya onu tamamladı, geliştirme ve saldırı stratejilerine odaklandı.
Hackerlar ChatGPT’yi Kötüye Kullanıyor
Siber güvenlik analistleri yakın zamanda hem geliştiriciler hem de tehdit aktörleri için ChatGPT’nin aktif talebini ve geniş bir yetenek yelpazesini gösteren çok sayıda dedikoduya dikkat çekti.
Tehdit aktörleri, modelden belirli işlevler oluşturmasını talep ederek ChatGPT ile kodlamalarını hızlandırır ve ardından yapay zeka tarafından oluşturulan kodu kötü amaçlı yazılıma entegre ederler.
ChatGPT, aldatıcı e-postalar oluşturmak için özel ChatGPT arayüzleri sunan siber suçlular tarafından spam ve kimlik avı amacıyla kullanılan ikna edici metinler oluşturma konusunda mükemmeldir.
Araştırmacılar, siber suçlular tarafından spam göndermek için kullanılan bir araç olan GoMailPro’nun, yazarı tarafından 17 Nisan 2023’te duyurulduğu üzere, spam e-posta taslakları oluşturmak için ChatGPT’yi entegre ettiği bildirildi.
Sansür sınırlamaları nedeniyle ChatGPT, yararlılığını sınırlayan yasa dışı ve tartışmalı konulardan kaçınır. Bu nedenle, tehdit aktörleri bu sorunu çözmek için yasa dışı amaçlarla sansürden kaçan istemler hazırlıyor ve paylaşıyor.
Hack Forumlarının ‘Karanlık Yapay Zeka’ bölümünde kullanıcılar, aşağıdaki tehdit altında etik sınırlamaları aşmak için ‘FFEN’ (Artık Her Şeyden Özgürlük) gibi ChatGPT jailbreak istemlerini tartışıyor ve paylaşıyor: –
Haziran 2023’ten itibaren, çeşitli yer altı forumu tehdit aktörleri aşağıdaki gibi yeteneklere sahip suç odaklı dil modelleri sunuyor:-
- Anonimlikle mücadele
- Sansürden kaçınma
- Kötü amaçlı kod üretimi
Meşruiyet farklılık gösterse de, dolandırıcılık için potansiyel olarak kullanılan ChatGPT tabanlı sarmalayıcılara karşı gerçek LLM’leri belirlemek zorlayıcıdır.
Kötü Amaçlı Yapay Zeka Modelleri
yanında Evil-GPT, SolucanGPT, DolandırıcılıkGPT, XXXGPTVe Kurt GPTyakın zamanda güvenlik analistleri 27 Temmuz 2023’teki ilgili fiyatlarıyla aşağıdaki modelleri de buldu:-
- DolandırıcılıkGPT: 90$/ay
- – DarkBARD: 100$/ay
- – DarkBERT: 110$/ay
- DarkGPT: 200$/ömür boyu abonelik
Tehdit aktörleri aynı zamanda derin sahtekarlıklar, gasp, sahte haberler veya daha iyi sosyal mühendislik amacıyla kandırmak amacıyla videolarda yüzleri değiştirmek için de yapay zekayı kullanıyor.
Yapay zekanın tehdit aktörleri tarafından yasa dışı amaçlarla kullanılması henüz başlangıç aşamasındadır; kısacası diğer sektörlerdeki gibi çığır açıcı değil.
Bu modeller, dolandırıcılıkların orijinal araçlarla bir araya gelmesiyle siber suç girişini hızlandırır ve ChatGPT gibi öne çıkan modeller, tehdit aktörlerinin yasal AI hizmetlerini ayırt etmelerine bile yardımcı olabilir.
Bizi Google Haberler, Linkedin’den takip ederek en son Siber Güvenlik Haberlerinden haberdar olun, heyecanve Facebook.