Guides
Fine-tuning : adapter un modèle à votre métier
Par Ilyès Bekkouche · Mis à jour le · 2 min de lecture
Le fine-tuning consiste à poursuivre l’entraînement d’un modèle de langage sur des exemples propres à votre entreprise, pour qu’il adopte votre vocabulaire, vos formats et vos tâches courantes.
À retenir
- Le fine-tuning change la manière de répondre : vocabulaire, ton, format. Pas les connaissances factuelles.
- Les faits viennent de vos documents, retrouvés à chaque question (RAG).
- Un modèle adapté n’est mis en production que s’il passe l’évaluation définie avec vous.
Ce qu’il change, et ce qu’il ne change pas
Le fine-tuning agit sur la manière de répondre : vocabulaire, ton, format des réponses. Les faits, eux, viennent de vos documents, retrouvés à chaque question et cités comme sources. Les deux approches se complètent.
Consignes, RAG ou fine-tuning : que choisir ?
Trois leviers existent pour adapter un modèle. Les consignes, aussi appelées prompt, orientent une réponse précise. La recherche documentaire (RAG) apporte les faits de vos documents à chaque question. Le fine-tuning modifie durablement la manière de répondre.
On commence presque toujours par les deux premiers. Le fine-tuning vient quand le style ou le format doivent rester constants sur un grand nombre de réponses.
Consignes (prompt)
Ce qui changeUne réponse donnée
Quand l’utiliserTâche ponctuelle
Recherche documentaire (RAG)
Ce qui changeLes faits disponibles
Quand l’utiliserRéponses sur vos documents
Fine-tuning
Ce qui changeLa manière de répondre
Quand l’utiliserStyle ou format constant
À essayer
Quel levier pour votre besoin ?
Les réponses doivent s’appuyer sur vos documents internes ?
Ces documents changent souvent ?
Vous voulez un style, un vocabulaire ou un format de réponse toujours identique ?
La tâche est ponctuelle et simple à décrire ?
Notre recommandation
Répondez aux questions pour voir la recommandation.
Ce que vous fournissez
Nous préparons ces exemples avec vous : tri, mise au format, anonymisation si besoin.
- Des exemples de questions et de bonnes réponses
- Des documents de référence
- Des modèles de documents que vous produisez souvent
Comment il est évalué
Le modèle adapté est comparé au modèle de départ sur des cas définis avec vous, selon des critères écrits au cadrage. S’il ne passe pas l’évaluation, il n’est pas mis en production.
Le choix du modèle de départ
Aucun modèle n’est imposé. Le choix se fait par projet entre Mistral, LLaMA, Qwen et Gemma, selon la langue, le matériel disponible et la licence.
Questions fréquentes
Pour aller plus loin
- RAG : une IA qui répond à partir de vos documentsComment une IA retrouve les bons passages dans vos documents, répond et cite ses sources. Schéma, démo pas à pas et limites, sans jargon.
- LLM privé pour entreprise : le guideCe qu’est un LLM privé, son architecture, la mémoire GPU nécessaire (calculateur), ce qui reste chez vous et les limites actuelles.
En 30 minutes, nous regardons ensemble si un pilote a du sens pour vous.