« Faut-il fine-tuner un modèle sur nos données ? » est probablement la question qu'on nous pose le plus. Dans la majorité des cas, la réponse est non — mais pas pour la raison qu'on croit.
Deux problèmes différents
Le RAG donne au modèle un accès à de la connaissance : vos documents, vos procédures, vos données à jour. Le fine-tuning modifie le comportement du modèle : son format de sortie, son ton, sa maîtrise d'un vocabulaire spécialisé, sa capacité à suivre des conventions internes.
Le critère de décision tient en une phrase : si la bonne réponse change quand vos documents changent, c'est un problème de connaissance — RAG. Si la bonne réponse doit être formulée d'une manière que le modèle de base ne produit pas naturellement, c'est un problème de comportement — fine-tuning.
Pourquoi le fine-tuning n'est pas une base de connaissances
Un modèle fine-tuné sur vos documents ne les « connaît » pas comme une base de données. Il en a absorbé des régularités statistiques. Il peut restituer une politique interne correctement neuf fois, puis inventer la dixième — et rien ne distingue les deux réponses de l'extérieur.
Pire : vos documents évoluent. Chaque mise à jour significative demande un nouvel entraînement, une nouvelle évaluation, un nouveau déploiement. Un index RAG se met à jour en secondes.
Là où le fine-tuning gagne
Trois cas reviennent constamment : la sortie doit respecter un format strict qu'un prompt n'obtient pas de façon fiable ; le domaine a un vocabulaire si spécifique que le modèle de base le comprend mal ; ou la latence et le coût imposent un petit modèle, distillé pour votre tâche, qui bat alors le grand généraliste.
Ce troisième cas est le plus rentable, et le plus ignoré. Un modèle de 8 milliards de paramètres spécialisé sur votre classification bat souvent un modèle généraliste vingt fois plus grand — pour un centième du coût d'inférence.
La combinaison par défaut
En pratique, nos architectures finissent presque toujours au même endroit : RAG pour la connaissance, un modèle de base pour le raisonnement, et un fine-tuning léger uniquement si le format ou le coût l'exigent. Commencez par le RAG. Ajoutez le reste quand la mesure le justifie.
