Technical Tutorials

Tüzel Veriye Dayalı Büyük Dil Modelleri (LLM'ler) için standart mimari haline gelen Çıkarıma Artırılmış Üretim (RAG), geleneksel vektör tabanlı RAG çoğu zaman çok adımlı çıkarım, küresel sorgu anlama ve dağılmış belge parçaları arasında bağlamı koruma konularında zorluklar yaşar. İşte GraphRAG; daha derin anlamsal anlama ve mantıksal çıkarım yeteneklerini açığa çıkarmak için Bilgi Grafiklerini (KG'ler) vektör gömme yöntemleriyle entegre eden bir paradigmadır.

Geleneksel Vektör Aramasının Nerede Yetersiz Kalıyor?

Standart RAG sistemleri, belgeleri küçük segmentlere ayırarak bunları yüksek boyutlu vektörler olarak saklamaya dayanır. Bu yaklaşım, anlamsal benzerlik (sorguya "benziyen" metni bulma) konusunda başarılı olsa da, yapısal farkındalıktan yoksundur. Örneğin, bir kullanıcı "CEO ve CFO bütçe onayları konusunda nasıl etkileşim kurar?" diye sorduğunda, bir vektör araması CEO'nun biyografisini ve CFO'nun özgeçmişini bulabilir, ancak aynı parçada tam olarak anahtar kelimeler bulunmadığı sürece farklı belgeler arasında açıklanan belirli prosedürel iş akışını kaçırır.

Bilgi Grafikleri, varlıkları ve aralarındaki ilişkileri açıkça haritalayarak bu sorunu çözer. Vektörlerin anlamsal esnekliğini grafiklerin yapısal titizliğiyle birleştirerek GraphRAG, sistemlerin dağınık kaynaklardan bilgiyi birleştirmeyi gerektiren karmaşık, çok adımlı soruları yanıtlamasını sağlar.

GraphRAG Mimarisinin Temel Bileşenleri

GraphRAG sistemi oluşturmak dört aşamayı içerir: Veri Yükleme, Grafik Oluşturma, Hibrit Arama ve Sentez.

1. Veri Yükleme ve Varlık Çıkarma

İlk adım, yapılandırılmamış metni yapılandırılmış grafik verisine dönüştürmektir. Bu genellikle bir LLM'nin varlıkları (kişiler, organizasyonlar, kavramlar) ve bunlar arasındaki ilişkileri tanımladığı bir çıkarma aşamasını içerir. Bu düğümler ve kenarlar daha sonra bir grafik veritabanında saklanır.

2. Hibrit Arama Stratejisi

Bir sorgu geldiğinde, GraphRAG sistemi çift yollu bir arama gerçekleştirir:

Vektör Araması: Bağlamsal temellendirme sağlamak için anlamsal olarak benzer metin parçalarını bulur.
Grafik Gezinme: Sorguyu kullanarak grafiği gezinir, bağlı varlıkları tanımlar ve ilgili bağlamı biriktirir. Bu işlem genellikle ilgili bilgi kümelerini belirlemek için topluluk algılama algoritmaları (Leiden gibi) kullanılarak yapılır.

Uygulama Örneği

LangChain ve Neo4j gibi bir grafik veritabanı kullanarak basitleştirilmiş bir Python uygulamasına bakalım. Bu örnek, vektör sonuçlarının yanı sıra ilgili grafik topluluklarını nasıl çekeceğinizi gösterir.

from langchain.graphs import Neo4jGraph
from langchain.vectorstores import Neo4jVector
from langchain_openai import OpenAIEmbeddings

# Bileşenleri başlat
graph = Neo4jGraph()
embeddings = OpenAIEmbeddings()

# Neo4j'de vektör dizini oluştur
vector_index = Neo4jVector.from_documents(
    documents,
    embedding=embeddings,
    index_name="vector_index",
    node_label="Chunk",
    text_node_properties=["text"]
)

def graph_rag_query(query):
    # 1. Vektör Araması: Anlamsal olarak benzer parçaları al
    vector_results = vector_index.similarity_search_with_score(query, k=5)
    
    # 2. Grafik Araması: Altgrafik üzerinden bağlı varlıkları bul
    # Not: Gerçek senaryoda, sorgudan varlıkları çıkarmanız
    # ve ilişkileri gezmek için bir Cypher sorgusu çalıştırmanız gerekir.
    cypher_query = """
    MATCH (start)-[:PART_OF|RELATED_TO*1..2]->(end)
    WHERE start.name = $entity_name
    RETURN start, end
    """
    graph_results = graph.query(cypher_query, params={"entity_name": "TargetEntity"})
    
    # 3. LLM için Bağlamı Birleştir
    combined_context = construct_prompt(vector_results, graph_results)
    
    return llm.generate(combined_context)

Pratik Kullanım Alanları ve Faydaları

GraphRAG, hukuki belge analizi, biyomedikal araştırma ve kurumsal bilgi yönetimi gibi derin bağlam gerektiren alanlarda özellikle etkilidir. Organizasyonların şunları yapmasına olanak tanır:

"Neden" ve "Nasıl" sorularını yanıtlamak: İlişkileri gezinerek sistem nedenselliği açıklayabilir.
Yanılma (Hallucination) Oranlarını İyileştirmek: Yapılandırılmış grafik, oluşturulan metin için doğrulanabilir bir omurga sağlar.
Küresel İçgörüler Geliştirmek: Topluluk algılama algoritmaları, bir kümenin tamamını özetleyebilir ve parça tabanlı RAG'ın ulaşamayacağı yüksek seviye genel bakışlar sağlayabilir.

Sonuç

GraphRAG uygulamak, standart RAG'ın bir yerine geçmekten ziyade onun bir evrimidir. Yapılandırılmamış anlamsal arama ile yapılandırılmış mantıksal çıkarım arasındaki boşluğu kapatarak geliştiriciler, yalnızca bilgi sahibi olmakla kalmayan aynı zamanda karmaşık çıkarım yapmaya da yetenekli AI uygulamaları oluşturabilirler. Organizasyonlar, LLM'lerin neler başarabileceğinin sınırlarını zorlamaya devam ettikçe, bilgi grafiklerinin entegrasyonu modern AI mühendisinin araç setinde kritik bir bileşen haline gelecektir.