تولید تقویتشده با بازیابی (RAG) به معیار معماری برای اتصال مدلهای زبانی بزرگ (LLMs) به دادههای خارجی تبدیل شده است. با این حال، RAG مبتنی بر بردارهای سنتی اغلب در «پرشهای» استدلالی مشکل دارد. زمانی که یک سوال نیاز به اتصال قطعات پراکنده اطلاعات در چندین سند یا موجودیت دارد، جستجوهای ساده شباهت کسینوس ممکن است نتوانند زمینه مورد نیاز را بازیابی کنند. اینجاست که Graph RAG به عنوان یک تغییر پارادایم قدرتمند ظاهر میشود.
محدودیتهای RAG فقط برداری
در یک سیستم RAG برداری استاندارد، اسناد به تکهها تقسیم شده و در فضای ابعادی بالا جاسازی میشوند. کوئریها بر اساس شباهت معنایی تطبیق داده میشوند. اگرچه این روش برای حقایق مستقیم (مثلاً: «پایتخت فرانسه کجاست؟») به خوبی کار میکند، اما برای سوالات چندپرش (مثلاً: «مدیرعامل شرکتی که بنیانگذار آن استارتاپ فرانسوی را خریداری کرده است، کیست؟») ناکافی است. جستجوی برداری عمدتاً محلی است؛ تکههای مشابه را پیدا میکند اما ذاتاً روابط بین آنها را درک نمیکند.
Graph RAG با تبدیل متن ساختاریافتهنشده به یک گراف دانش (KG) ساختاریافته به این مشکل میپردازد. به جای ذخیره صرف بردارها، ما موجودیتها (گرهها) و روابط (لبهها) را از پیکره استخراج میکنیم. این کار به سیستم بازیابی امکان میدهد مسیرها را طی کند، نه فقط همسایهها را در فضای برداری پیدا کند.
Graph RAG چگونه کار میکند؟
خط لوله معمولاً شامل سه مرحله است:
- استخراج موجودیت: استفاده از یک LLM برای شناسایی گرهها (افراد، سازمانها، مفاهیم) و لبهها (روابط مانند «در... کار میکند»، «بنیانگذاری کرد»، «ذکر کرد») از تکههای سند.
- ساخت گراف: ذخیره این روابط در یک پایگاه داده گراف (مانند Neo4j، Amazon Neptune یا ArangoDB).
- بازیابی و طی مسیر: وقتی کوئری وارد میشود، سیستم موجودیتهای کلیدی را شناسایی میکند، گراف را برای یافتن زیرگرافهای مرتبط طی میکند و این زمینه ساختاریافته را به LLM ارسال میکند.
نمونه پیادهسازی عملی
در اینجا یک مثال سادهشده پایتون با استفاده از langchain و neo4j برای توضیح مفهوم ارائه شده است. توجه داشته باشید که در محیط تولید، از یک کتابخانه اختصاصی ساخت گراف مانند Property Graph Index از LlamaIndex استفاده خواهید کرد.
from langchain.vectorstores import Neo4jVector
from langchain.llms import OpenAI
from langchain.embeddings import OpenAIEmbeddings
# Initialize Neo4j Vector Store
vectorstore = Neo4jVector(
url="bolt://localhost:7687",
username="neo4j",
password="password",
database="neo4j",
embedding=OpenAIEmbeddings()
)
# Example: Creating a graph from text
# In a real scenario, you'd use a GraphIndex or custom Cypher queries
# to populate nodes and relationships
def retrieve_graph_context(query: str):
# 1. Extract entities from query (simplified using LLM)
# 2. Traverse Neo4j graph to find related nodes
# 3. Return the subgraph as text or JSON for the LLM
cypher_query = """
MATCH (n)
WHERE n.name CONTAINS $entity
OPTIONAL MATCH (n)-[r]-(m)
RETURN n, r, m
"""
results = vectorstore._run_cypher_query(cypher_query, parameters={"entity": query})
return format_graph_for_llm(results)
def format_graph_for_llm(graph_data):
# Convert graph nodes/edges to a readable text format
context = "Graph Context:\n"
for node in graph_data:
context += f"- Entity: {node['name']} | Type: {node['type']}\n"
return context
رویکردهای ترکیبی: بهترین از هر دو دنیای
Graph RAG خالص میتواند به دلیل هزینه طی مسیر و نگهداری شاخص، از نظر محاسباتی پرهزینه باشد. سیستمهای مقاومتر اغلب از یک استراتژی RAG ترکیبی استفاده میکنند:
- ابتدا جستجوی برداری: استفاده از شباهت برداری سریع برای بازیابی تکههای نامزد.
- گسترش گراف: گرفتن موجودیتهای یافت شده در آن تکهها و گسترش زمینه با کوئری زدن گراف برای موجودیتهای مرتبط.
- بازیابی چگال: ترکیب متن اصلی با حقایق مشتقشده از گراف قبل از ارسال به LLM.
چه زمانی از Graph RAG استفاده کنیم؟
- دادههای به شدت مرتبط: گزارشهای مالی، تشخیصهای پزشکی یا پروندههای حقوقی که در آنها موجودیتها وابستگیهای پیچیدهای دارند.
- استدلال چندپرش: سوالاتی که نیاز به زنجیرهبندی منطق در چندین واقعیت دارند.
- قابلیت توضیح: گرافها یک مسیر واضح از نحوه استخراج نتیجه را ارائه میدهند که برای ردیابیهای حسابرسی حیاتی است.
نتیجهگیری
Graph RAG جایگزینی برای RAG برداری نیست، بلکه یک تکامل حیاتی برای حوزههایی است که نیاز به درک عمیق زمینه دارند. با ساختاردهی دادههای ساختاریافتهنشده به موجودیتها و روابط، شما به LLMهای خود توانایی «استدلال» میدهید، نه فقط «بازیابی». با یکپارچهسازی بیشتر پایگاههای داده گراف با چارچوبهای هوش مصنوعی، انتظار میرود Graph RAG به یک مؤلفه استاندارد در پشتههای هوش مصنوعی سازمانی تبدیل شود و «کیلومتر آخر» دقت بازیابی را حل کند.