Phi-4 : Le virage vers le raisonnement dans les petits LLM
Le paysage des petits modèles de langage (SLM) connaît une transformation fondamentale. Pendant des années, le paradigme dominant reposait sur l'augmentation du volume de données synthétiques pour imiter la complexité des modèles plus grands. Cependant, la sortie de Phi-4 de Microsoft marque un tournant décisif. Elle suggère que le goulot d'étranglement n'est plus la quantité de données, mais la qualité des capacités de raisonnement intégrées à l'architecture et au processus d'entraînement.