Kaspersky’deki siber güvenlik araştırmacıları, tehdit aktörlerinin OpenAI’nin yapay zeka destekli sohbet robotu ChatGPT’yi kötüye kullanmaya veya kötü niyetli olarak istismar etmeye çalıştığı karanlık ağda 3.000’den fazla gönderiyi ortaya çıkardı.
Kaspersky Dijital Ayak İzi İstihbarat servisinin raporuna göre, internetin göbeği Dark Web, çalınan veriler ve yasa dışı işlemler için bir merkez olmaktan çıkıp, yapay zeka destekli siber suç araçlarının geliştirildiği bir üreme alanına dönüştü.
Bulgular, Kaspersky’nin 2023 yılı boyunca Dark Web forumu tartışmalarına ilişkin gözlemlerine dayanıyor. AI (Yapay zeka) teknolojilerinden yasa dışı faaliyetler için yararlanılıyor; tehdit aktörleri karanlık web kanalları aracılığıyla jailbreak’leri paylaşıyor ve meşru araçlardan kötü amaçlarla yararlanıyor.
Eylül 2023’te Hackread, SlashNext araştırmacılarının yapay zeka sohbet robotlarında başarılı jailbreak’leri teşvik eden ve kimlik avı e-postaları yazan tehdit aktörlerini keşfettiğini bildirdi. Bu aktörler popüler yapay zeka araçlarının jailbreakli versiyonlarını satıyor.
Siber suçluların, görevleri basitleştiren ve bilgi erişilebilirliğini artıran, ancak siber suçluların bunları kötü amaçlarla kullanabileceği için yeni güvenlik riskleri oluşturan ChatGPT ve Büyük Dil Modeli’ni (LLM) tercih etmesi özellikle dikkat çekicidir.
Kaspersky dijital ayak izi analisti Alisa Kulishenko, tehdit aktörlerinin kötü amaçlı yazılım geliştirme ve dil modellerinin yasa dışı kullanımı da dahil olmak üzere ChatGPT ve yapay zekayı uygulamaya yönelik planlar araştırdığını açıkladı.
FraudGPT ve kötü amaçlı sohbet robotları gibi siber güvenlik tehditleri, Dark Web forum tartışmalarında yinelenen konulardı; yıl boyunca yaklaşık 3.000 gönderi gözlemlendi ve Mart 2023’te zirveye ulaştı. Çalınan ChatGPT hesapları da 3.000 reklamı aşan reklamlarla popüler bir konu.
Kaspersky’nin raporuna göre Ocak ve Aralık 2023 arasında siber suç forumlarında ChatGPT’nin yasa dışı faaliyetlerde kullanılmasına ilişkin tartışmalara düzenli olarak yer verildi. Gönderilerden biri, tespit edilmesi ve analiz edilmesi normal kötü amaçlı yazılımlara göre daha zor olan polimorfik kötü amaçlı yazılım oluşturmak için GPT’nin nasıl kullanılacağıyla ilgiliydi.
Başka bir gönderide, güvenlik kontrollerini atlarken belirli işlevlere sahip kod oluşturmak için OpenAI API’nin kullanılması önerildi. Bu yöntem kullanılarak herhangi bir kötü amaçlı yazılım tespit edilmemiş olsa da bu mümkündür.
ChatGPT tarafından oluşturulan yanıtlar, belirli dize formatlarını işlemek için tek bir komut istemi sağlayarak, suçla ilgili olanlar da dahil olmak üzere çeşitli alanlara giriş eşiklerini düşürerek, daha önce uzmanlık gerektiren görevleri çözebilir. Yapay zeka, kendi kendini optimize etmek için kötü amaçlı yazılımlara dahil edilir ve virüsler, saldırıları uyarlamak için kullanıcı davranışından öğrenir.
Yapay zeka destekli botlar, kişiselleştirilmiş kimlik avı e-postaları oluşturarak kullanıcıları hassas bilgileri açığa çıkaracak şekilde yönlendiriyor. Siber suçlular aynı zamanda yapay zekanın hiper-gerçekçi simülasyonlar oluşturmak, ünlüleri/kişilikleri taklit etmek veya finansal işlemleri manipüle etmek için kullanıldığı ve şüphelenmeyen kullanıcıları kolayca kandırdığı deepfake’leri de kullanıyor.
Ayrıca araştırmacılar, siber suç forumlarının standart görevler için ChatGPT benzeri araçları entegre ettiğini ve tehdit aktörlerinin ek işlevlerin kilidini açmak için jailbreak’leri kullandığını belirtti. 2023 yılında bu bilgi istemi setlerinin satışına yönelik 249 teklif keşfedildi.
PowerShell kodunu gizlemeye yönelik açık kaynaklı araçlar araştırma için paylaşılır, ancak bunların kolay erişilebilirliği siber suçluların ilgisini çekebilir. WormGPT ve FraudGPT gibi projeler endişeleri artırıyor ve geliştiriciler bu araçlara erişim sağlayan dolandırıcılıklara ve kimlik avı sayfalarına karşı uyarıda bulunuyor.
Geleneksel algılama yöntemleri yapay zeka destekli tehditlere karşı işe yaramaz hale geldiğinden, bu durum siber güvenlik uzmanları ve kolluk kuvvetleri için önemli bir zorluk teşkil ediyor. Bu tehditle mücadele için yeni stratejiler ve araçlar geliştirilmelidir.
Yapay zeka destekli güvenlik çözümlerine yatırım yapmak, şüpheli e-postaları, bağlantıları ve ekleri açarken dikkatli olmak ve siber suçlar ile yapay zekadaki en son trendler hakkında bilgi sahibi olmak zorunludur.
İLGİLİ KONULAR
- McAfee’nin Mockingbird AI Aracı Deepfake Sesi Algılıyor
- Rus Hackerlar ChatGPT’yi Kötüye Kullanma Kısıtlamalarını Atlamak İstiyor
- Araştırmacı ChatGPT ile polimorfik Blackmamba kötü amaçlı yazılımı oluşturuyor
- Çin, ChatGPT’yi Fidye Yazılımı Saldırıları İçin Silahlandıran 4 Kişiyi Tutukladı
- OpenAI, ChatGPT Hata Ödül Programını Başlatıyor – 200 ila 20 Bin Dolar Kazanın