Yapay Zeka Etkileşim Hack’leri: Etkili İstemler Hazırlamak için İpuçları ve Püf Noktaları


İstem Nedir?

Bilgi istemi, ihtiyacınız olan bilgiyi almak veya LLM’nin yapmasını istediğiniz görevi gerçekleştirmesini sağlamak için bir LLM’ye verdiğiniz talimattır. LLM’lerle yapabileceğimiz pek çok şey var. Ve sadece bir soru sorarak bile alabileceğimiz pek çok bilgi var. Ancak bunun her şeye çözüm olmadığını aklımızda tutmalıyız (örneğin matematikte kötü). Ancak aslında beklediğimiz cevabı aldığımızdan nasıl emin olabiliriz? Zorluk budur!

Etkili Uyarıları Nasıl Yazabiliriz?

1. Açık ve spesifik olun

İsteminizde ne kadar spesifik ve net olursanız, ne yapılması gerektiği konusunda model için o kadar iyi talimat olacaktır. Belirsiz olmayın. Doğrudan ve kısa olun. Örneğin, iyi bir ipucu “Aşağıdaki makalenin temel bulgularını 150 veya daha az kelimeyle özetleyin” olabilir. Daha az etkili olanı şöyle diyebilir: “Bu çok uzun bir makale ve sadece önemli şeyleri bilmek istiyorum. Bunları işaret edebilir misiniz ama çok uzun yapmamaya dikkat edin?”

2. Bağlam sağlayın

Diğerlerinin yanı sıra (sohbet)GPT, Claude, Titan gibi LLM’ler, genellikle kamuya açık bilgiler olan çok büyük veri kümeleri üzerinde eğitilir. Bu, HackerOne Değerlendirmelerinin yalnızca HackerOne içinde Hizmet Olarak Sızma Testi anlamına gelmesi gibi, özel veya dahili alan adları hakkında belirli bilgi veya bağlamdan yoksun oldukları anlamına gelir. Bağlamlı veya bağlamsız bir bilgi istemi yazmanın birkaç yolu vardır:

  • Sıfır Atış İstemi: doğrudan olma eğilimindedir ve herhangi bir bağlam sağlamaz. Örneğin: “Aşağıdaki güvenlik açığını açıklayan uygun bir başlık oluşturun.”
  • Tek Seferlik İstem: Bu örnekte yapay zekadan bize çözüm önerisi vermesini istiyoruz ve raporun neyle ilgili olduğuna ilişkin bağlam sağlıyoruz. Örneğin: “Aşağıdaki rapor, xyz.com varlığında bir XSS’nin bulunduğu bir güvenlik açığını açıklıyor. Lütfen bu rapor için düzeltme kılavuzunu sağlayın.”
  • Birkaç Atış İstemi: Tek Seferlik İsteme benzer, ancak yapay zekaya birkaç örnek daha veriyoruz:

“Aşağıdaki rapor, bir bilgisayar korsanının bulduğu bir güvenlik açığını açıklamaktadır. Rapordan aşağıdaki ayrıntıları çıkarın:

  • Güvenlik açığının CWE kimliği (örnek: CWE-79)
  • Güvenlik açığının CVE kimliği (örnek: CVE-2021–44228)
  • Savunmasız ana makine (örnek: xyz.com)
  • Savunmasız uç nokta (örnek: /uç nokta)
  • Etkilenen yazılımın kullandığı teknolojiler”

Genel olarak ne kadar çok örnek verirseniz, sonuçlar o kadar iyi olur. Bu, modelin alanınıza daha fazla bağlam kazandırdığı ve dolayısıyla niyetinizi daha iyi anlayabileceği anlamına gelir. Ayrıca belirsizliği azaltacak ve sistemi daha doğru ve alakalı yanıtlar üretmeye yönlendirecektir. Başka bir deyişle, mükemmel çekimi yakalamak için kameranın ayarlarını yapmak ve yapay zekanın özel ihtiyaçlarınıza odaklanmasını sağlamak gibidir.

Etkili istemlerin hazırlanması test gerektirir ve genellikle yinelemeli bir şekilde yapılır. Benim önerim, yapay zekanın tepkilerini ölçmek için çeşitli yönlendirmeleri deneyerek başlamak olacaktır. İyi bir ipucu, bundan ne çıkarmak istediğinize bağlı olarak, ilgilendiğiniz konuya uygun, doğru, ilgili ve tutarlı yanıtlar verme eğilimindedir. Aldığınız yanıtın konu dışı veya yanlış olduğunu düşünüyorsanız bu, isteminizi ayarlamanız gerektiğinin oldukça iyi bir göstergesidir. İstediğiniz sonuçları elde edene kadar konuyu yeniden ifade edin, daha spesifik hale getirin, daha net hale getirin veya ek bağlam sağlayın. Beklentilerinizi karşılayana kadar istemlerinizi hassaslaştırmaya devam edin!



Source link