Büyük Dil Modelleri (LLM) alanındaki hızlı gelişmelerde, çıktının kalitesi girdinin kalitesiyle doğru orantılıdır. Bir modeli örnek vermeden bir görevi yapmaya çağırmak olan sıfır örnekli (zero-shot) istemleme pratik olsa da, genellikle karmaşık ve alana özgü uygulamalar için gereken hassasiyeti karşılamaz. İşte burada few-shot (az örnekli) istemleme devreye girer. İsteminize birkaç tane açıklayıcı örnek ekleyerek, modelin davranışını önemli ölçüde yönlendirebilir, tutarlılığı artırabilir ve halüsinasyonları (yanlış bilgi üretimi) azaltabilirsiniz.
Few-Shot İstemleme Nedir?
Few-shot istemleme, yeni bir problemi çözmeden önce LLM'ye birkaç girdi-çıktı çifti sağladığınız bir tekniktir. Bu yöntem, modelin bağlam içi öğrenme (in-context learning) yeteneklerinden yararlanır. Temel olarak, modelden sadece doğal dilde tarif etmek yerine, izlemesini beklediğiniz deseni, tonu ve formatı örneklerle göstermiş olursunuz.
Bir şefe "sandviç yap" (sıfır örnekli) demeniz ile en sevdiğiniz belirli bir sandviçin fotoğrafını göstermeniz (few-shot) arasındaki farkı düşünün. İkinci yaklaşım, malzemeler, katmanlama ve stil konusunda, kelimelerle tam olarak ifade edilmesi zor olan örtük kısıtlamalar sağlar.
Neden Sıfır Örnekli Yerine Few-Shot Seçmelisiniz?
Sıfır örnekli istemler tamamen modelin önceden eğitilmiş bilgisine dayanır, ancak öngörülemez olabilir. Few-shot istemleme birkaç belirgin avantaj sunar:
- Biçim Uyumluğu: Çıktının, programatik entegrasyon için kritik olan sıkı bir şemaya (örn. JSON, XML) uygun olmasını sağlar.
- Ton Ayarlaması: Yapay zekanın sesini, profesyonel, mizahi veya empatik olmasını isteyip istemediğinizi tanımlamanıza olanak tanır.
- Karmaşık Mantık: Çok adımlı akıl yürütme gerektiren görevler için örnekler, modelin izlemesi gereken ara adımları gösterir.
İsteminizi Yapılandırma
Yapılandırılmış bir few-shot istemi üç ana bölümden oluşur: görev açıklaması, örnekler ve test girdisi. Anahtar nokta, örneklerinizdeki netlik ve tutarlılıktır. Her örnek, girdiyi istenen çıktından açıkça ayırmalıdır.
Aşağıda, OpenAI API'sini kullanarak duygu analizi için bir few-shot istemi oluşturma şeklini gösteren bir Python örneği bulunmaktadır. Pozitif, negatif ve nötr duyguları kapsayan üç farklı örnek sağladığımıza dikkat edin.
import openai
def analyze_sentiment(text):
prompt = f"""
Aşağıdaki metnin duygu durumunu 'Pozitif', 'Negatif' veya 'Nötr' olarak sınıflandırın.
Metin: "Bu yeni yazılım güncellemesini gerçekten seviyorum! Çok hızlı."
Duygu Durumu: Pozitif
Metin: "Müşteri hizmetleri berbattı ve ürün hemen bozuldu."
Duygu Durumu: Negatif
Metin: "Paket salı günü geldi."
Duygu Durumu: Nötr
Metin: "{text}"
Duygu Durumu:
"""
# API çağrısı buraya gelecek
# response = openai.ChatCompletion.create(
# model="gpt-3.5-turbo",
# messages=[{"role": "user", "content": prompt}]
# )
return prompt
# Örnek kullanım
print(analyze_sentiment("Toplantı zaman israfıydı."))Bu örnekte, modele "Pozitif" duygunun nasıl göründüğünü söylemenize gerek yoktur; model bunu ilk örnekten çıkarır. Bu, modeldeki bilişsel yükü azaltır ve belirsizliği minimize eder.
Uygulama İçin En İyi Pratikler
- İlgili Tutun: İşleme yapacağınız gerçek veriyi yakından benzeyen örnekler seçin. Örneklerdeki çeşitlilik, modelin daha iyi genelleme yapmasına yardımcı olur.
- Örnek Sayısını Sınırlayın: Daha fazla örnek bazen yardımcı olsa da, token bağlamını tüketir ve gecikmeyi artırır. 3-5 örnekle başlayın ve değerlendirin.
- Açık Ayrım: Girdileri ve çıktıları ayırmak için tireler, yeni satırlar veya XML etiketleri gibi açık sınırlayıcılar kullanın. Bu, modelin yapıyı doğru bir şekilde ayrıştırmasına yardımcı olur.
Sonuç
Few-shot istemleme, istem mühendisliği silah zırhında güçlü bir araçtır. Genel talimat takip etme ile özelleştirilmiş görev yürütme arasındaki boşluğu doldurur. Yüksek kaliteli örnekler hazırlamak için harcadığınız zamanla geliştiriciler, LLM çıktıları üzerinde daha fazla kontrol sağlayabilir; bu da daha güvenilir ve sağlam yapay zeka uygulamalarına yol açar. İş akışlarınızı iyileştirdikçe, istem mühendisliğinin yinelemeli bir süreç olduğunu unutmayın; belirli kullanım durumunuz için mükemmel dengeyi bulmak amacıyla deneyin, ölçün ve örneklerinizi optimize edin.