Technical Tutorials

Arama Destekli Üretim (RAG), Büyük Dil Modellerini (LLM) harici verilerle ilişkilendirmek için standart mimari haline gelmiştir. Ancak geleneksel vektör tabanlı RAG, akıl yürütme "atlama"larında (hops) genellikle zorlanmaktadır. Bir soru, birden fazla belge veya varlık arasında farklı bilgi parçalarını birleştirmeyi gerektirdiğinde, basit kosinüs benzerliği aramaları gerekli bağlamı getirmekte başarısız olabilir. İşte bu noktada Grafik RAG, güçlü bir paradigma değişikliği olarak ortaya çıkar.

Sadece Vektör Tabanlı RAG'ın Sınırlılıkları

Standart bir vektör RAG sisteminde, belgeler parçalanır ve yüksek boyutlu bir uzaya gömülür. Sorgular, anlamsal benzerliğe göre eşleştirilir. Bu yöntem doğrudan olgular için (ör. "Fransa'nın başkenti neredir?") iyi çalışsa da, çoklu atlamalı sorular için (ör. "O Fransız girişiminin kurucusunu satın alan şirketin CEO'su kimdir?") yetersiz kalır. Vektör arama büyük ölçüde yereldir; benzer parçaları bulur ancak bunlar arasındaki ilişkileri içsel olarak anlamaz.

Grafik RAG, yapılandırılmamış metni yapılandırılmış bir Bilgi Grafiği'ne (KG) dönüştürerek bu sorunu ele alır. Sadece vektörleri saklamak yerine, kurulumdan varlıkları (düğümler) ve ilişkileri (kenarlar) çıkarırız. Bu, arama sisteminin sadece vektör uzayında komşuları bulmakla kalmayıp yolları da gezinmesine olanak tanır.

Grafik RAG Nasıl Çalışır?

İş akışı genellikle üç aşamadan oluşur:

Varlık Çıkarımı: Belge parçalarından düğümleri (kişiler, kuruluşlar, kavramlar) ve kenarları ("çalışıyor," "kurdu," "bahsetti" gibi ilişkiler) belirlemek için bir LLM kullanılır.
Grafik Oluşturma: Bu ilişkilerin bir grafik veritabanında (Neo4j, Amazon Neptune veya ArangoDB gibi) saklanması.
Arama ve Gezinme: Bir sorgu geldiğinde, sistem ana varlıkları belirler, ilgili alt grafikleri bulmak için grafiği gezer ve bu yapılandırılmış bağlamı LLM'e gönderir.

Pratik Uygulama Örneği

Kavramı açıklamak için langchain ve neo4j kullanan basitleştirilmiş bir Python örneği aşağıdadır. Üretim ortamında, LlamaIndex'in Property Graph Index gibi özel bir grafik oluşturma kütüphanesi kullanmanız gerektiğini unutmayın.

from langchain.vectorstores import Neo4jVector
from langchain.llms import OpenAI
from langchain.embeddings import OpenAIEmbeddings

# Neo4j Vektör Deposunu Başlat
vectorstore = Neo4jVector(
    url="bolt://localhost:7687",
    username="neo4j",
    password="password",
    database="neo4j",
    embedding=OpenAIEmbeddings()
)

# Örnek: Metinden grafik oluşturma
# Gerçek bir senaryoda, düğümleri ve ilişkileri doldurmak için
# bir GraphIndex veya özel Cypher sorguları kullanırdınız

def retrieve_graph_context(query: str):
    # 1. Sorgudan varlıkları çıkar (LLM kullanılarak basitleştirildi)
    # 2. İlgili düğümleri bulmak için Neo4j grafiğini gez
    # 3. Alt grafiği LLM için metin veya JSON olarak döndür
    
    cypher_query = """
    MATCH (n)
    WHERE n.name CONTAINS $entity
    OPTIONAL MATCH (n)-[r]-(m)
    RETURN n, r, m
    """
    results = vectorstore._run_cypher_query(cypher_query, parameters={"entity": query})
    return format_graph_for_llm(results)

def format_graph_for_llm(graph_data):
    # Grafik düğümlerini/kenarlarını okunabilir bir metin biçimine dönüştür
    context = "Graph Context:\n"
    for node in graph_data:
        context += f"- Entity: {node['name']} | Type: {node['type']}\n"
    return context

Hibrit Yaklaşımlar: İki Dünyanın En İyisi

Saf grafik RAG, gezinme ve indeks bakımı maliyetleri nedeniyle hesaplamalı olarak pahalı olabilir. En sağlam sistemler genellikle bir Hibrit RAG stratejisi benimser:

Önce Vektör Arama: Aday parçaları getirmek için hızlı vektör benzerliği kullanın.
Grafik Genişletme: Bu parçalarda bulunan varlıkları alın ve ilgili varlıklar için grafiği sorgulayarak bağlamı genişletin.
Yoğun Arama: LLM'e geçirmeden önce orijinal metni grafikten türetilen olgularla birleştirin.

Grafik RAG Ne Zaman Kullanılmalı?

Yüksek Derecede Bağlantılı Veriler: Varlıkların karmaşık bağımlılıklara sahip olduğu finansal raporlama, tıbbi teşhis veya hukuki davalar.
Çoklu Atlamalı Akıl Yürütme: Birden fazla olgu arasında mantık zinciri gerektiren sorular.
Açıklanabilirlik: Grafikler, bir sonucun nasıl türetildiğinin net bir yolunu sağlar; bu da denetim izleri için kritiktir.

Sonuç

Grafik RAG, vektör RAG'ın yerini alan değil, derin bağlamsal anlama gerektiren alanlar için kritik bir evrimdir. Yapılandırılmamış verileri varlıklara ve ilişkilere dönüştürerek, LLM'lerinizi sadece "getirmek" yerine "akıl yürütmeye" yetkin hale getirirsiniz. Grafik veritabanları yapay zeka çerçeveleriyle daha entegre hale geldikçe, Grafik RAG'ın kurumsal yapay zeka yığınlarında standart bir bileşen haline gelmesini ve aramanın "son mili" doğruluğunu çözeceğini bekleyin.