Openai’nin en son “AI’nın kötü niyetli kullanımlarını bozan” raporu, bilgisayar korsanları ve etki operatörlerinin yapay zekanın daha organize bir kullanımına doğru ilerlediğini gösteriyor (AI). Bulgular, rakiplerin operasyonlarını birden çok AI sistemine yaydığını, örneğin, Chatgpt Keşif ve planlama için, yürütme ve otomasyon için diğer modellere güvenirken.
Şirket, saldırganların yöntemlerini değiştirmediklerini ancak kötü amaçlı yazılım yazıyor, kimlik avı yemini rafine eden veya çevrimiçi dolandırıcılıkları yönetiyor olsun, mevcut taktiklerini daha hızlı ve daha verimli hale getirmek için AI eklediklerini belirtti.
Kötü niyetli yapay zeka araçları gibi Wormgpt ve Fraudgpt zaten biliniyor, yenileri şimdi ortaya çıkıyor. SPAMGPT, siber suçluların hedefli spam ile e -posta güvenlik filtrelerini atlamasına yardımcı olurken, MatrixPDF sıradan PDF dosyalarını kötü amaçlı yazılımlara dönüştürür.
Bu son raporun Openai’nin dört ay sonra geldiğini belirtmek gerekir. Daha önceki yayınBu, şirketin Çin, Rusya, İran ve Kuzey Kore ile bağlantılı on kötü niyetli AI operasyonunu kapattığını ortaya koydu, burada rakiplerin Chatgpt’i kötü niyetli amaçlar için ağır bir şekilde kötüye kullandı.
Hedeflenen saldırılar için AI kullanan Rus, Koreli ve Çinli operatörler
Bir örnekte, Rusça konuşan aktörler, uzaktan erişim araçları için kod yazmak ve geliştirmek için chatgpt kullandı ve kimlik bilgisi stealers. Model doğrudan kötü niyetli istemleri reddetti, ancak kullanıcılar daha sonra araçlarını başka bir yerde monte etmek için fonksiyonel snippet’leri çıkardılar. Openai, bu etkileşimlerin bilgisayar korsanlarına açık kaynaklı kod aracılığıyla zaten bulamadıkları yetenekleri verdiğine dair hiçbir belirti bulamadı.
Koreli dil operatörleri, kod hata ayıklama, kimlik bilgisi hırsızlık rutinleri ve kimlik avı mesajlarına yardımcı olmak için chatgpt kullandı kripto para birimi ile ilgili. Her hesap, tarayıcı uzantısı dönüştürme veya VPN yapılandırması gibi belirli teknik görevleri, kurumsal geliştirme ekiplerine benzer yapılandırılmış iş akışlarını gösterdi.
Çince dil operatörleri daha da ileri gitti ve modelden birden fazla dilde kimlik avı içeriği üretmesini ve kötü amaçlı yazılım hata ayıklamasına yardımcı olmasını istedi. Etkinlikleri, bildirilen kampanyalarla çakıştı. Volekslik Ve Kanıt noktası Bu akademiyi, düşünce kuruluşlarını ve yarı iletken sektörünü hedef aldı. Openai’ye göre, bu kullanıcılar yeni saldırı yöntemleri geliştirmek yerine verimliliği artırmayı amaçladılar.
Organize suç ve aldatmaca operasyonları
. rapor Ayrıca AI’nın yerleşik aldatmaca ağlarında nasıl kullanıldığını gösterir. Kamboçya, Myanmar ve Nijerya’ya kadar izlenen operasyonlar, mesajları çevirmek, sahte yatırım sahaları yazmak ve günlük lojistiği “büyük ölçekli dolandırıcılık merkezleri” içinde yönetmek için ChatGPT kullandı.
Bir örnekte, dolandırıcılar WhatsApp’ta sahte ticaret grupları işleten finansal danışmanlar olarak poz verdi. Konuşmaların otantik ve ikna edici görünmesi için tüm sohbet içeriğini AI ile oluşturdular. Başka bir ağ, fabrikasyon çalışan biyografileri ile tamamlanan sahte çevrimiçi yatırım şirketi profilleri tasarlamak için chatgpt kullandı.
İlginç bir şekilde, Openai, Chatgpt’in aldatmacaları, insanlar şüpheli mesajları doğrulamak için modele döndüğünden, bunları oluşturmak için yaklaşık üç kat daha sık tespit etmek için kullanıldığını buldu.
AI’nın devlet bağlantılı istismarları
Openai ayrıca, büyük ölçekli sosyal medya izleme sistemleri için teklifler hazırlamak için ChatGPT kullanan Çin hükümet kuruluşlarına bağlı hesaplar bildirdi. Bir kullanıcı, bireyleri seyahat ve polis verileri yoluyla izlemeyi amaçlayan “yüksek riskli Uyghur ile ilgili giriş uyarı modelinin” özetlenmesini istedi.
Diğer kullanıcılar profil oluşturma ve bilgi toplama üzerine odaklandı, chatgpt’den aktivistlerin yayınlarını özetlemesini veya dilekçe organizatörlerini tanımlamasını istedi. Şirket, modellerinin yalnızca kamuya açık verileri iade ettiğini, ancak bu taleplerin arkasındaki niyet, gözetim ile ilgili kullanımla ilgili endişeleri artırdığını söyledi.
Rusya ve Çin’deki operasyonları etkilemek
Daha önce Openai ve diğer teknoloji firmaları tarafından kesintiye uğrayan Rusya-Origin “Haberleri Durdur” operasyonu, video komut dosyaları ve tanıtım metni yazmak için AI kullanılarak yeniden ortaya çıktı. Bunlar tercüme edildi ve Rusya’yı öven ve Batı ülkelerini eleştiren YouTube ve Tiktok’ta paylaşılan kısa videolara dönüştü. Kampanya istikrarlı bir içerik akışı üretse de, katılım düşük kaldı.
Çin’e bağlı ayrı bir operasyon olan “Nine Emdash Line” ortaya çıktı ve bölgesel anlaşmazlıklara odaklandı. Güney Çin Denizi. Grup, Filipinler, Vietnam ve Hong Kong demokrasi aktivistlerini eleştiren İngilizce ve Kanton sosyal medya görevleri üretti. Ayrıca Tiktok zorlukları ve hashtag’leri yoluyla katılımı artırma konusunda tavsiyelerde bulundular. Mesajlarının çoğu hesaplar askıya alınmadan önce çok az dikkat çekti.
Uzman perspektifi
“Ortalama bir okuyucu için, bu özellikle şaşırtıcı bir trend gibi gelebilir. AI, havalı biber tarifleri üretimden üniversite makalelerine kadar her şeyde kullanılıyor, bu yüzden neden siber saldırılar için gereken kodu ve diğer istismarları yazmıyor?” söz konusu Evan PowellDeepTempo CEO’su.
“En çok fark etmeyebileceği şey, siber güvenlik savunmalarının yapay zeka ile çalışan saldırılara benzersiz bir şekilde savunmasız olmasıdır. Bugünün savunmaları neredeyse tamamen statik kurallara dayanmaktadır: C iken A ve B’yi görürseniz, bu bir saldırı ve harekete geçer. Bugünün yapay zeka saldırganları, bu sabit kalıp tespitlerini önlemek için sistemlerini eğitir, bu da artan bir oranda açıklanmıştır” dedi.
Saldırganların şimdi sadece araç oluşturmak için değil, aynı zamanda kampanyalar planlamak için de AI kullandıklarını da sözlerine ekledi. “Ayrıntılı araştırmaları, özelleştirilmiş saldırıları ve tekrar tekrar erişim girişimlerini birleştiren bu tür kampanyalar, uzmanlık, sabır ve büyük bir ekip gerektiriyor. Bugün, AI saldırganların verimliliğini artırıyor ve bir kişinin bile iyi finanse edilen bir kuruluş veya ulus-devlet gerektiren operasyonları gerçekleştirmesini sağlıyor.”
İlgili Konular
- ShadowLeak, chatgpt ajanı aracılığıyla açık gmail verilerini istismar
- DNS Yatırım Accam’da Sahte Chatgpt Kullanarak Bilgili Seahorse
- Sızan chatgpt sohbetler: Kullanıcılar AI’yı terapist, avukat, sırdaş olarak ele alıyor
- LegalPwn, Genai Araçlarını Kötü Yazılımları Güvenli Kod Olarak Yanlış Sınıflandırmaya Alır
- Kötü niyetli AI modelleri yeni bir siber suç dalgasının arkasında, Cisco Talos