Technical Tutorials

Dans le paysage en évolution rapide du développement des grands modèles de langage (LLM), la qualité de votre sortie est directement proportionnelle à la qualité de votre entrée. Bien que le zero-shot prompting — demander à un modèle d'effectuer une tâche sans exemples — soit devenu une norme, il manque souvent de précision requise pour les applications complexes et spécifiques à un domaine. Voici donc le few-shot prompting, une technique qui comble l'écart entre l'instruction de base et l'exécution de niveau expert en fournissant une poignée d'exemples illustratifs directement dans l'invite.

Comprendre le mécanisme du few-shot prompting

L'apprentissage few-shot permet aux développeurs de guider le comportement du LLM en démontrant le modèle souhaité plutôt qu'en le décrivant simplement. Contrairement aux approches zero-shot, qui reposent uniquement sur les poids pré-entraînés du modèle, le few-shot prompting exploite l'apprentissage en contexte. Cela signifie que le modèle analyse les exemples fournis (paires entrée-sortie) pour inférer la logique sous-jacente, le ton, le format ou le processus de raisonnement requis pour la tâche.

Cette technique est particulièrement efficace pour les tâches impliquant :

Respect du format : Garantir des sorties strictes en JSON, XML ou avec des délimiteurs personnalisés.
Imitation du style : Adopter une voix de marque spécifique ou un style d'écriture.
Raisonnement complexe : Décomposer des déductions logiques en plusieurs étapes (Chaîne de Pensée).

Mise en œuvre de prompts few-shot : Un exemple de code pratique

Examinons un scénario pratique : l'extraction de données structurées à partir de texte non structuré. Un prompt zero-shot pourrait entraîner des noms de champs incohérents ou des valeurs manquantes. En fournissant trois exemples, nous pouvons considérablement améliorer la cohérence.

Voici une implémentation Python utilisant une structure d'API générique pour démontrer cette technique :

import openai

def extract_entity_with_few_shot(user_text):
    prompt = f"""
    Extrayez le nom de l'entreprise et le lieu du siège social à partir du texte suivant.

    Texte : "Tesla a été fondée en 2003 par Martin Eberhard et Marc Tarpenning et son siège social est à Austin, Texas."
    Sortie : {{'company': 'Tesla', 'headquarters': 'Austin, Texas'}}

    Texte : "Amazon, fondée par Jeff Bezos, a déplacé son siège social de Seattle à Arlington, Virginie."
    Sortie : {{'company': 'Amazon', 'headquarters': 'Arlington, Virginia'}}

    Texte : "Apple Inc., fondée par Steve Jobs, est basée à Cupertino, Californie."
    Sortie : {{'company': 'Apple', 'headquarters': 'Cupertino, California'}}

    Texte : "{user_text}"
    Sortie :
    """
    
    response = openai.ChatCompletion.create(
        model="gpt-3.5-turbo",
        messages=[{"role": "user", "content": prompt}],
        temperature=0
    )
    return response.choices[0].message.content

# Utilisation
result = extract_entity_with_few_shot("Microsoft, cofondée par Bill Gates, a son siège social à Redmond, Washington.")
print(result)

Dans cet exemple, nous définissons explicitement la structure JSON et la logique d'extraction grâce aux exemples. Notez que nous avons défini la temperature à 0, car des sorties déterministes sont cruciales pour les tâches d'extraction de données structurées.

Meilleures pratiques pour un few-shot prompting efficace

Pour maximiser l'efficacité du few-shot prompting, envisagez les stratégies suivantes :

1. La pertinence est clé

Assurez-vous que vos exemples sont sémantiquement similaires à l'entrée réelle que vous fournirez plus tard dans l'invite. Si vos exemples concernent des recettes de cuisine mais que votre tâche réelle est le débogage de code, le modèle pourrait ne pas généraliser correctement.

2. La qualité avant la quantité

Vous n'avez généralement besoin que de 3 à 5 exemples de haute qualité. En ajouter trop peut augmenter les coûts de la fenêtre de contexte et introduire du bruit. Si le modèle peine encore, concentrez-vous sur l'amélioration de la clarté des exemples plutôt que d'en ajouter davantage.

3. Gérez les cas limites

Incluez un exemple où l'entrée ne contient pas l'information attendue. Cela apprend au modèle comment gérer les valeurs nulles ou les données manquantes avec élégance, réduisant ainsi les hallucinations.

Conclusion

Le few-shot prompting est un outil puissant dans l'arsenal de l'ingénieur de prompt. Il transforme les LLM de chatbots à usage général en outils spécialisés capables d'exécuter des tâches précises et cohérentes. En investissant du temps dans la sélection d'exemples de haute qualité, les développeurs peuvent obtenir des améliorations significatives de la précision et de la fiabilité sans avoir besoin d'un ajustement fin coûteux du modèle. À mesure que les capacités des LLM continuent de maturer, la maîtrise de l'art de l'apprentissage en contexte restera une compétence critique pour construire des applications IA robustes.