Dalış Özeti:
- OpenAI bunu söyledi Devlete bağlı beş tehdit grubunun hesapları sonlandırıldı Kötü niyetli bilgisayar korsanlığı kampanyalarına zemin hazırlamak için şirketin geniş dil modellerini kullananlar. Kesinti, Microsoft tehdit araştırmacılarıyla işbirliği içinde gerçekleştirildi.
- OpenAI’ye göre, Rusya, İran, Kuzey Kore ve Çin Halk Cumhuriyeti ile bağlantılı tehdit grupları, OpenAI’yi açık kaynak sorguları, çeviri, koddaki hataları arama ve temel kodlama görevlerini yürütme dahil olmak üzere çeşitli öncü görevler için kullanıyordu. ChatGPT’nin arkasındaki şirket.
- Siber güvenlik ve yapay zeka analistleri, OpenAI ve Microsoft tarafından ortaya çıkarılan tehdit faaliyetlerinin devlet bağlantılı ve suç gruplarının saldırılarının yalnızca bir öncüsü olduğu konusunda uyarıyor. Ölçeklendirmek için üretken yapay zekayı hızla benimseyin saldırı yetenekleri.
Dalış Bilgisi:
OpenAI ve Microsoft tarafından açıklanan tehdit faaliyeti, üretken yapay zekanın kötü niyetli tehdit grupları tarafından potansiyel olarak kötüye kullanılmasına ilişkin yaygın endişeleri doğruluyor gibi görünüyor.
Endişeler Ağ savunucularının potansiyel bilgisayar korsanlarını yakalama ve hafifletme önlemleri alma yeteneklerinin ötesinde saldırıları hızlı bir şekilde ölçeklendirme ve hızlandırma becerisine odaklanın.
Gartner’ın seçkin analist başkan yardımcısı Avivah Litan, “Bu çok önemli” dedi. “GenAI temel olarak saldırganlara steroid veriyor. Saldırıları ölçeklendirebiliyorlar, saldırılarını çok daha hızlı yayabiliyorlar.”
OpenAI uyardı önceki kırmızı takım değerlendirmeleri GPT-4’ün kötü niyetli saldırganlara, halka açık yapay zeka olmayan araçları kullanarak elde edebileceklerine kıyasla yalnızca sınırlı, artan iyileştirmelere izin verdiğini gösterdi.
Aktörler arasında Rusya bağlantılı Forest Blizzard, Kuzey Kore bağlantılı Emerald Sleet, İran bağlantılı Crimson Sandstorm ve Çin bağlantılı Charcoal Typhoon ve Salmon Typhoon yer alıyor.
Microsoft henüz görmediğini söyledi Herhangi bir benzersiz yeni yöntem veya büyük dil modelleri kullanan önemli saldırılar söz konusu değil ancak şirket, etkinliği takip ediyor ve teknolojinin gözlemlenen herhangi bir kötüye kullanımına ilişkin derhal uyarı yayınlama sözü verdi.
Siber güvenlik ve yeni ortaya çıkanlar direktörü Brandon Pugh, “Devlete bağlı grupların gerçekleştirdiği bu tür eylemler, siber savunucuların, siber güvenlikle ilgili olarak yapay zekanın mevcut faydalarından yararlanma ve rakiplerimizin önünde kalmamızı sağlamak için alanda daha fazla yenilik yapma ihtiyacını vurguluyor” dedi. R Street Enstitüsü’ndeki tehditler e-posta yoluyla bildirildi.