İstem enjeksiyonu, kullanıcıların ChatGPT gibi bir dil modeli tarafından oluşturulan yanıtları etkilemek için belirli istemleri veya talimatları girdiği bir tekniği ifade eder.
Ancak tehdit aktörleri bu tekniği çoğunlukla ChatGPT örneklerini çeşitli kötü amaçlı amaçlarla değiştirmek için kullanıyor. Aşağıdakiler gibi çeşitli olumsuz etkileri vardır: –
- Yanlış bilgi
- İçerik önyargısı
- Rahatsız edici içerik
- Manipülasyon
Bağımsız güvenlik araştırmacısı Utku Şen, yakın zamanda kullanıcıların ChatGPT bulut sunucularına yapılan anlık enjeksiyon saldırılarını test etmelerini sağlayacak “promptmap” adlı yeni bir araç geliştirdi ve kullanıma sundu.
Komut haritası
ChatGPT örneklerinde “istem haritası”, ChatGPT’de yapılandırılan kurallarınızın bağlamını ve amacını anlayarak istem enjeksiyonlarını otomatik olarak test eder.
Bu anlayışı, hedef için özel saldırı istemleri oluşturmak ve bunları sistem istemlerinizle birlikte çalıştırmak için kullanır. Bu araç, ChatGPT örneğinin yanıtını analiz ederek hızlı enjeksiyon başarısını kontrol eder.
Saldırı türleri
Aşağıda, mevcut tüm saldırı türlerinden ayrıntılarıyla birlikte bahsettik: –
- Temel Enjeksiyon: Bu saldırılar, anlık geliştirmeler yapılmadan gönderildiğinden ve alakasız yanıtlar veya eylemler hedeflendiğinden basittir.
- Çeviri Enjeksiyonu: Bu saldırılar, ChatGPT’nin başka bir dilde yanıt verip vermediğini ölçmek için dil kısıtlaması olmaksızın İngilizce komutlar vererek çalışır.
- Matematik Enjeksiyonu: ChatGPT’nin bir matematik denklemini çözmesini sağlamak, onun karmaşık görevlere yönelik yeteneğini gösterir. Ancak matematik enjeksiyon istemleri gibi saldırılar belirli hedefler için özelleştirilebilir.
- Bağlam anahtarı: Bağlam değiştirme, ChatGPT’nin esas olarak belirli hedeflere göre uyarlanmış hassas sorguları yanıtlama istekliliğini ölçmek için ilgisiz sorular sormayı içerir.
- Harici Tarama: Harici göz atma istemleri, ChatGPT’nin belirli URL’lere göz atmasına olanak tanır ve bunlar, hedefin ihtiyaçlarına göre gelişir.
- Harici İstemi Enjeksiyonu: Harici İstem Ekleme, ChatGPT’ye ek istemler için belirli URL’lere erişmesinin mümkün olup olmadığını sorar.
Kurulum
Aşağıda kurulum prosedüründen bahsettik: –
git klonu https://github.com/utkusen/promptmap.git
CD istem haritası
- Gerekli kitaplıkları yükleyin
pip3 kurulumu -r gereksinimleri.txt
- Promptmap.py dosyasını açın ve OpenAI API anahtarınızı aşağıdaki satıra ekleyin: openai.api_key = “YOUR KEY HERE”
Ayrıca target_model ve Attack_model değişkenleri olarak tanımlanan model adlarını da değiştirebilirsiniz.
Ayrıca, “python3 Promptmap.py komutu” yardımıyla, Promptmap çalıştırılabilir ve varsayılan olarak kategori başına 5 saldırı istemi bulunur ve bu, ‘-n’ parametresi ile ayarlanabilir.
Bizi Google Haberler, Linkedin’den takip ederek en son Siber Güvenlik Haberlerinden haberdar olun, heyecanve Facebook.