سال‌هاست که ساخت برنامه‌های مبتنی بر مدل‌های زبانی بزرگ (LLM) مانند ناوبری در یک چشم‌انداز مه‌آلود به نظر می‌رسد. توسعه‌دهندگان ساعت‌های بی‌شماری را صرف تنظیم دستی پرامپت‌ها، تغییر تنظیمات دما و آزمایش نمونه‌های چندتایی (few-shot) می‌کردند، به امید آن بهبود ۱ درصدی دست‌نیافتنی در دقت. این رویکرد دستی، که اغلب «مهندسی پرامپت» نامیده می‌شود، شکننده، غیرقطعی و دشوار برای مقیاس‌پذیری است.
ورود مهندسی هوش مصنوعی اعلانی و DSPy (پرتقاضا، ساده، پایتونی). DSPy که توسط گروه NLP دانشگاه استنفورد توسعه یافته است، نشان‌دهنده یک تغییر پارادایم بنیادین است. این ابزار استفاده از LLM را نه به عنوان یک رشته متنی ثابت، بلکه به عنوان یک جریان کاری برنامه‌نویسی در نظر می‌گیرد که می‌تواند به طور خودکار توسط کامپایلر بهینه شود. در این پست، بررسی می‌کنیم که چگونه DSPy به توسعه‌دهندگان اجازه می‌دهد تعریف کنند که یک سیستم هوش مصنوعی چه کاری باید انجام دهد، در حالی که چارچوب تعیین می‌کند که بهترین روش انجام آن چگونه است.
مشکل پرامپت‌نویسی دستوری
در یکپارچه‌سازی سنتی LLM، کد چیزی شبیه به این است:
response = llm.generate(
prompt="Answer the following question: " + question,
temperature=0.7
)
اگرچه ساده است، اما این رویکرد فاقد ساختار است. اگر بخواهید استدلال چندمرحله‌ای انجام دهید، باید این تماس‌ها را به صورت دستی زنجیر کنید، منطق اعتبارسنجی برای بررسی مراحل میانی بنویسید و پرامپت‌ها را بر اساس تحلیل خطا به صورت دستی تنظیم کنید. این یک رویکرد دستوری است: شما هر مرحله را دیکته می‌کنید. با افزایش پیچیدگی، بار نگهداری نیز افزایش می‌یابد.
برنامه‌نویسی اعلانی با DSPy
DSPy این مدل را برعکس می‌کند. به جای نوشتن پرامپت‌ها، شما امضاها (signatures) را می‌نویسید—دستورات اعلانی که ورودی و خروجی یک مرحله را تعریف می‌کنند. DSPy سپس این امضاها را به صورت پویا به پرامپت‌های بهینه شده کامپایل می‌کند.
یک وظیفه ساده پاسخ به سوال (QA) را در نظر بگیرید. در DSPy، شما یک امضای GenerateAnswer تعریف می‌کنید:
import dspy
class GenerateAnswer(dspy.Signature):
"""Answer questions with short factoid answers."""
context = dspy.InputField()
question = dspy.InputField()
answer = dspy.OutputField()
توجه کنید که کلمات خاصی در اینجا وجود ندارد که به LLM بگوید چگونه فرآیند تفکر خود را بیان کند. شما صرفاً انواع داده‌ها را اعلام می‌کنید. DSPy وظایف تکراری قالب‌بندی این فیلدها به یک پرامپت موثر برای مدل زیرین را انجام می‌دهد.
جادوی کامپایل: بهینه‌سازی برنامه‌نویسی
قدرت واقعی DSPy در بهینه‌ساز آن نهفته است. در مهندسی سنتی، ممکن است یک اسکریپت برای آزمایش variations مختلف پرامپت (آزمایش A/B) بنویسید. در DSPy، شما یک مربی (trainer) و یک معیار (metric) ارائه می‌دهید و چارچوب به طور خودکار بهترین استراتژی پرامپت را جستجو می‌کند.
بیایید یک مثال عملی با استفاده از بهینه‌ساز BootstrapFewShot را بررسی کنیم. ابتدا، ما ماژول خود را تعریف می‌کنیم:
class QA(dspy.Module):
def __init__(self):
super().__init__()
self.prog = dspy.ChainOfThought(GenerateAnswer)
def forward(self, context, question):
return self.prog(context=context, question=question)
سپس، معیاری برای ارزیابی موفقیت تعریف می‌کنیم:
def metric_gold(context, question, answer, gold, trace=None):
return answer.strip().lower() == gold.strip().lower()
در نهایت، ماژول خود را کامپایل می‌کنیم. DSPy یک مجموعه داده نمایشی کوچک را برمی‌دارد، آن را از طریق LLM اجرا می‌کند و به طور خودکار بهترین نمونه‌های چندتایی و ساختار پرامپت را برای حداکثر کردن معیار شما تولید می‌کند. این فرآیند به طور مؤثر «یاد می‌گیرد» که بهترین روش پرامپت دادن به مدل برای وظیفه خاص شما چیست.
optimizer = dspy.BootstrapFewShot(metric=metric_gold)
qa_optimized = optimizer.compile(QA(), trainset=train_data)
چرا این برای چارچوب‌های عامل (Agent) مهم است
همانطور که به سمت عامل‌های خودمختار پیچیده حرکت می‌کنیم، مهندسی پرامپت دستی غیرممکن می‌شود. عامل‌ها به برنامه‌ریزی قوی، استفاده از ابزار و خودبازتابی نیاز دارند. DSPy زیرساخت لازم برای ساخت این عامل‌ها به صورت اعلانی را فراهم می‌کند. با بهینه‌سازی برای استحکام و دقت به صورت برنامه‌نویسی، توسعه‌دهندگان می‌توانند سیستم‌هایی بسازند که نه تنها هوشمندتر، بلکه قابل نگهداری‌تر و قابل تکرارتر هستند.
نتیجه‌گیری
مهندسی هوش مصنوعی اعلانی با DSPy تنها یک ابزار نیست؛ بلکه روشی جدید برای تفکر درباره توسعه نرم‌افزار با LLMها است. با تغییر از نوشتن پرامپت‌ها به تعریف مشخصات و بهینه‌سازی معیارها، توسعه‌دهندگان می‌توانند قابلیت اطمینان و عملکرد بالاتری را آزاد کنند. برای توسعه‌دهندگان متوسط تا پیشرفته‌ای که آماده حرکت فراتر از تزریق پرامپت ساده هستند، DSPy یک مسیر پایتونیک و مستحکم را در چشم‌انداز در حال تحول سریع مهندسی هوش مصنوعی ارائه می‌دهد.