با بالغ‌شدن مدل‌های زبانی بزرگ (LLMs)، تمرکز در مهندسی تولید از رابط‌های چت ساده به سمت جریان‌های کاری عامل‌های خودمختار و پیچیده در حال تغییر است. برای قابل اعتماد بودن این عامل‌ها، آن‌ها باید فراتر از تولید متن احتمالی رفته و به ساختارهای داده قطعی و اقدامات خارجی دقیق روی آورند. API xAI قابلیت‌های قدرتمندی برای هر دو ارائه می‌دهد، اما پیاده‌سازی صحیح آن‌ها نیازمند درک عمیقی از اعتبارسنجی طرحواره (Schema) و ثبت ابزارها است.
چالش خروجی‌های غیرقطعی
در برنامه‌های سنتی مبتنی بر LLM، دریافت ساختار دقیق JSON مورد نظر به‌طور مشهور دشوار است. بدون محدودیت‌های سخت‌گیرانه، مدل‌ها ممکن است کلیدهای توهمی ایجاد کنند، فیلدهای ضروری را حذف کنند یا متن را در بلوک‌های مارک‌داون پیچیده برگردانند. این شکنندگی، خطوط پردازشی بعدی را مختل می‌کند. راه حل در اعمال خروجی‌های ساختاریافته در سطح API نهفته است، که تضمین می‌کند مدل داده‌هایی را برگرداند که به‌طور دقیق از یک طرحواره JSON از پیش تعریف‌شده پیروی می‌کنند.
اعمال خروجی‌های ساختاریافته
API xAI به توسعه‌دهندگان اجازه می‌دهد پارامتر response_format را ارسال کنند. وقتی با یک json_schema پیکربندی شود، مدل محدود می‌شود تا فقط JSON معتبری را که با آن طرحواره مطابقت دارد، خروجی دهد. این موضوع برای عامل‌هایی که نیاز به تجزیه پیکربندی، استخراج موجودیت‌ها یا تولید قطعات کد پویا دارند، حیاتی است.
سناریویی را در نظر بگیرید که یک عامل نیاز دارد اطلاعات تماس را از یک ایمیل استخراج کند. به جای تکیه بر پردازش پسین با عبارات منظم (regex)، می‌توانیم یک طرحواره را مستقیماً در درخواست تعریف کنیم.
import xai
client = xai.Client(api_key="your-api-key")
response = client.chat.completions.create(
model="grok-2",
messages=[
{
"role": "user",
"content": "Extract details from: 'Hi, I'm John Doe, CEO of TechCorp. Email: john@techcorp.com.'"
}
],
response_format={
"type": "json_schema",
"json_schema": {
"name": "contact_info",
"schema": {
"type": "object",
"properties": {
"name": {"type": "string"},
"role": {"type": "string"},
"company": {"type": "string"},
"email": {"type": "string", "format": "email"}
},
"required": ["name", "email"],
"additionalProperties": False
}
}
}
)
# Accessing the clean, parsed data
print(response.choices[0].message.content)
به استفاده از additionalProperties: False توجه کنید. این اطمینان حاصل می‌کند که مدل فیلدهای غیرمنتظره‌ای را شامل نمی‌شود و یکپارچگی پایگاه داده یا ساختارهای داده داخلی شما را حفظ می‌کند.
هماهنگی اقدامات با استفاده از ابزارها
در حالی که خروجی‌های ساختاریافته با داده‌ها سروکار دارند، استفاده از ابزار (یا فراخوانی تابع) با اقدام سروکار دارد. عامل‌ها نیاز دارند با دنیای خارج تعامل داشته باشند—پرس‌وجو از پایگاه‌های داده، انجام تماس‌های API یا انجام محاسبات. API xAI به شما اجازه می‌دهد ابزارهایی را تعریف کنید که مدل بتواند آن‌ها را به‌طور پویا فراخوانی کند.
هنگام ثبت ابزارها، دقت کلیدی است. توضیحات ابزار باید به وضوح تعریف کنند که ابزار چه کاری انجام می‌دهد و چه استدلال‌هایی را انتظار دارد. سپس مدل بر اساس قصد کاربر تصمیم می‌گیرد که آیا ابزار را فراخوانی کند و کدام پارامترها را ارسال نماید.
def get_weather(location: str) -> dict:
"""Get current weather for a location."""
return {"temperature": 72, "unit": "F", "location": location}
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Retrieve current weather data",
"parameters": {
"type": "object",
"properties": {
"location": {"type": "string", "description": "City name or zip code"}
},
"required": ["location"]
}
}
}
]
response = client.chat.completions.create(
model="grok-2",
messages=[{"role": "user", "content": "What's the weather in Seattle?"}],
tools=tools
)
پاسخ شامل یک شیء tool_calls خواهد بود. منطق برنامه شما باید تابع get_weather را با استدلال‌های ارائه‌شده اجرا کند، سپس نتیجه را دوباره به حلقه مکالمه بازگرداند تا مدل بتواند یک پاسخ به زبان طبیعی تدوین کند.
نتیجه‌گیری
ترکیب خروجی‌های ساختاریافته با استفاده قدرتمند از ابزارها، API xAI را از یک تولیدکننده متن به یک موتور عامل عملیاتی تبدیل می‌کند. با اعمال طرحواره‌های JSON سخت‌گیرانه، خطاهای تجزیه را حذف کرده و یکپارچگی داده‌ها را تضمین می‌کنید. با یکپارچه‌سازی تعاریف ابزار، به عامل‌های خود اجازه می‌دهید به جای بحث درباره جهان، بر آن عمل کنند. برای توسعه‌دهندگانی که نسل بعدی برنامه‌های مبتنی بر هوش مصنوعی را می‌سازند، تسلط بر این الگوها دیگر اختیاری نیست—بلکه ضروری است.