Tests A/B des LLMs en production : Comparer les versions de modèles et les stratégies de prompt avec des données utilisateurs réelles
Passer des modèles de langage larges (LLMs) d'un notebook Jupyter à un environnement de production est une étape majeure. Cependant, le déploiement n'est pas la ligne d'arrivée ; c'est le point de départ d'une optimisation continue. Contrairement aux logiciels traditionnels où les entrées et sorties sont déterministes, les LLMs...