Technical Tutorials

La Génération Augmentée par Récupération (RAG) est devenue l'architecture standard pour ancrer les grands modèles de langage (LLM) dans des données externes. Cependant, le RAG vectoriel traditionnel peine souvent avec les « sauts » de raisonnement. Lorsqu'une question nécessite de relier des informations dispersées à travers plusieurs documents ou entités, les simples recherches de similarité cosinus peuvent échouer à récupérer le contexte nécessaire. C'est là que le Graph RAG émerge comme un changement de paradigme puissant.

Les limites du RAG uniquement vectoriel

Dans un système RAG vectoriel standard, les documents sont découpés et intégrés dans un espace de haute dimension. Les requêtes sont appariées sur la base de la similarité sémantique. Bien que cela fonctionne bien pour les faits directs (par exemple, « Quelle est la capitale de la France ? »), cela est insuffisant pour les questions à plusieurs sauts (par exemple, « Qui est le PDG de l'entreprise qui a acquis le fondateur de cette startup française ? »). La recherche vectorielle est largement locale ; elle trouve des fragments similaires mais ne comprend pas intrinsèquement les relations entre eux.

Le Graph RAG résout ce problème en convertissant le texte non structuré en un Grphe de Connaissances (KG) structuré. Au lieu de simplement stocker des vecteurs, nous extrayons des entités (nœuds) et des relations (arêtes) du corpus. Cela permet au système de récupération de parcourir des chemins, et non seulement de trouver des voisins dans l'espace vectoriel.

Fonctionnement du Graph RAG

Le pipeline implique généralement trois étapes :

Extraction d'entités : Utilisation d'un LLM pour identifier les nœuds (personnes, organisations, concepts) et les arêtes (relations comme « travaille_chez », « a_fondé », « mentionne ») à partir des fragments de documents.
Construction du graphe : Stockage de ces relations dans une base de données graphique (comme Neo4j, Amazon Neptune ou ArangoDB).
Récupération et parcours : Lorsqu'une requête arrive, le système identifie les entités clés, parcourt le graphe pour trouver des sous-graphes pertinents et envoie ce contexte structuré au LLM.

Exemple d'implémentation pratique

Voici un exemple simplifié en Python utilisant langchain et neo4j pour illustrer le concept. Notez qu'en production, vous utiliseriez une bibliothèque dédiée à la construction de graphes comme l'Index de Graphe de Propriétés de LlamaIndex.

from langchain.vectorstores import Neo4jVector
from langchain.llms import OpenAI
from langchain.embeddings import OpenAIEmbeddings

# Initialisation du magasin vectoriel Neo4j
vectorstore = Neo4jVector(
    url="bolt://localhost:7687",
    username="neo4j",
    password="password",
    database="neo4j",
    embedding=OpenAIEmbeddings()
)

# Exemple : Création d'un graphe à partir de texte
# Dans un scénario réel, vous utiliseriez un GraphIndex ou des requêtes Cypher personnalisées
# pour peupler les nœuds et les relations

def retrieve_graph_context(query: str):
    # 1. Extraire les entités de la requête (simplifié en utilisant un LLM)
    # 2. Parcourir le graphe Neo4j pour trouver les nœuds liés
    # 3. Retourner le sous-graphe sous forme de texte ou de JSON pour le LLM
    
    cypher_query = """
    MATCH (n)
    WHERE n.name CONTAINS $entity
    OPTIONAL MATCH (n)-[r]-(m)
    RETURN n, r, m
    """
    results = vectorstore._run_cypher_query(cypher_query, parameters={"entity": query})
    return format_graph_for_llm(results)

def format_graph_for_llm(graph_data):
    # Convertir les nœuds/arêtes du graphe en un format de texte lisible
    context = "Contexte du graphe :\n"
    for node in graph_data:
        context += f"- Entité : {node['name']} | Type : {node['type']}\n"
    return context

Approches hybrides : le meilleur des deux mondes

Le Graph RAG pur peut être coûteux en calcul en raison du coût du parcours et de la maintenance de l'index. Les systèmes les plus robustes adoptent souvent une stratégie de RAG Hybride :

Recherche vectorielle d'abord : Utiliser la similarité vectorielle rapide pour récupérer des fragments candidats.
Expansion par graphe : Prendre les entités trouvées dans ces fragments et étendre le contexte en interrogeant le graphe pour les entités liées.
Récupération dense : Combiner le texte original avec les faits dérivés du graphe avant de les transmettre au LLM.

Quand utiliser le Graph RAG

Données fortement interconnectées : Rapports financiers, diagnostics médicaux ou affaires juridiques où les entités ont des dépendances complexes.
Raisonnement à plusieurs sauts : Questions qui nécessitent d'enchaîner la logique à travers plusieurs faits.
Explicabilité : Les graphes fournissent un chemin clair de la manière dont une conclusion a été dérivée, ce qui est crucial pour les pistes d'audit.

Conclusion

Le Graph RAG n'est pas un remplacement du RAG vectoriel, mais une évolution critique pour les domaines nécessitant une compréhension contextuelle profonde. En structurant les données non structurées en entités et relations, vous permettez à vos LLM de « raisonner » plutôt que de simplement « récupérer ». À mesure que les bases de données graphiques deviennent plus intégrées aux frameworks IA, attendez-vous à ce que le Graph RAG devienne un composant standard dans les piles IA d'entreprise, résolvant le « dernier kilomètre » de la précision de la récupération.