Büyük Dil Modelleri (LLM) geliştirmenin hızla değişen manzarasında, çıktınızın kalitesi girdinizin kalitesiyle doğru orantılıdır. Sıfır örnekli istemleme—bir modele örnek vermeden bir görevi yerine getirmesini istemek—standart bir taban haline gelse de, genellikle karmaşık, alana özgü uygulamalar için gereken hassasiyetten yoksundur. Az örnekli istemleme devreye girer; bu teknik, istem içinde birkaç tane gösterici örnek sağlayarak temel talimat ile uzman düzeyinde yürütme arasındaki boşluğu dolduran bir yöntemdir.
Az Örnekli İstemlemenin Mekaniklerini Anlamak
Az örnekli öğrenme, geliştiricilerin LLM'nin davranışını sadece tarif etmek yerine istenen deseni göstererek yönlendirmesine olanak tanır. Sadece modelin önceden eğitilmiş ağırlıklarına güvenen sıfır örnekli yaklaşımların aksine, az örnekli istemleme bağlam içi öğrenmeden yararlanır. Bu, modelin görev için gereken temel mantığı, tonu, formatı veya akıl yürütme sürecini çıkarmak için sağlanan örnekleri (girdi-çıktı çiftleri) analiz ettiği anlamına gelir.
Bu teknik özellikle şu tür görevler için etkilidir:
- Biçim Uyumluluğu: Katı JSON, XML veya özel ayırıcı çıktılarının sağlanması.
- Stil Taklidi: Belirli bir marka sesinin veya yazım tarzının benimsenmesi.
- Karmaşık Akıl Yürütme: Çok adımlı mantıksal çıkarımların parçalara ayrılması (Düşünce Zinciri).
Az Örnekli İstemlerin Uygulanması: Pratik Bir Kod Örneği
Yapılandırılmamış metinden yapılandırılmış veri çıkarma gibi pratik bir senaryoya bakalım. Bir sıfır örnekli istem, tutarsız alan adlarına veya eksik değerlere neden olabilir. Üç örnek sağlayarak tutarlılığı önemli ölçüde artırabiliriz.
Aşağıda, bu tekniği göstermek için genel bir API yapısı kullanan bir Python uygulaması bulunmaktadır:
import openai
def extract_entity_with_few_shot(user_text):
prompt = f"""
Aşağıdaki metinden şirket adını ve merkezinin bulunduğu yeri çıkarın.
Metin: "Tesla, Martin Eberhard ve Marc Tarpenning tarafından 2003'te kuruldu ve merkezi Texas, Austin'dedir."
Çıktı: {{'company': 'Tesla', 'headquarters': 'Austin, Texas'}}
Metin: "Jeff Bezos tarafından kurulan Amazon, merkezini Seattle'dan Virginia, Arlington'a taşıdı."
Çıktı: {{'company': 'Amazon', 'headquarters': 'Arlington, Virginia'}}
Metin: "Steve Jobs tarafından kurulan Apple Inc., California, Cupertino'da yer almaktadır."
Çıktı: {{'company': 'Apple', 'headquarters': 'Cupertino, California'}}
Metin: "{user_text}"
Çıktı:
"""
response = openai.ChatCompletion.create(
model="gpt-3.5-turbo",
messages=[{"role": "user", "content": prompt}],
temperature=0
)
return response.choices[0].message.content
# Kullanım
result = extract_entity_with_few_shot("Bill Gates tarafından kurulan Microsoft, Washington, Redmond'da merkezlidir.")
print(result)
Bu örnekte, JSON yapısını ve çıkarma mantığını açıkça örnekler aracılığıyla tanımlıyoruz. Yapılandırılmış veri çıkarma görevleri için deterministik çıktıların kritik olduğunu unutmayın, bu nedenle temperature değerini 0 olarak ayarladık.
Etkili Az Örnekli İstemleme İçin En İyi Uygulamalar
Az örnekli istemlemenin etkinliğini en üst düzeye çıkarmak için aşağıdaki stratejileri göz önünde bulundurun:
1. İlgili Olmak Önemlidir
Örneklerinizin, istemin ilerleyen kısımlarında sağlayacağınız gerçek girdiyle anlamsal olarak benzer olduğundan emin olun. Örnekleriniz yemek tarifleri hakkında ise ancak gerçek göreviniz kod hata ayıklama ise, model doğru genelleme yapamayabilir.
2. Nicelikten Kalite Önceliklidir
Genellikle yalnızca 3 ila 5 yüksek kaliteli örneğe ihtiyacınız vardır. Çok fazla eklemek, bağlam penceresi maliyetlerini artırabilir ve gürültü yaratabilir. Model hala zorlanıyorsa, daha fazla örnek eklemek yerine örneklerin netliğini iyileştirmeye odaklanın.
3. Kenar Durumlarını Yönetin
Girdinin beklenen bilgiyi içermediği bir örnek ekleyin. Bu, modele null değerleri veya eksik verileri zarif bir şekilde nasıl ele alacağını öğretir ve halüsinasyonu azaltır.
Sonuç
Az örnekli istemleme, istem mühendisinin silah deposundaki güçlü bir araçtır. LLM'leri genel amaçlı sohbet botlarından, hassas ve tutarlı görevleri yerine getirebilen özel araçlara dönüştürür. Yüksek kaliteli örnekleri özenle seçmeye zaman ayırarak geliştiriciler, pahalı model ince ayarına ihtiyaç duymadan doğruluk ve güvenilirlikte önemli iyileştirmeler elde edebilir. LLM yetenekleri gelişmeye devam ettikçe, bağlam içi öğrenme sanatını ustalaşmak, sağlam AI destekli uygulamalar oluşturmak için kritik bir beceri olarak kalacaktır.