Fine-tuning (réglage fin)
Dernière mise à jour:
Ce qu’est le fine-tuning
Les grands modèles de langage commencent par un pré-entraînement général sur d’immenses volumes de texte. Le fine-tuning est un second entraînement, bien plus petit, sur des exemples que vous choisissez, généralement des paires associant une entrée et la sortie attendue. On obtient une nouvelle version du modèle dont les paramètres internes, appelés poids, se sont déplacés vers ces exemples.
Le fine-tuning est efficace pour apprendre des schémas : un ton constant, un format de sortie fixe, une grille de classification ou un vocabulaire métier. Il convient moins aux faits qui changent, comme les prix, le stock ou les horaires, car chaque changement exigerait un nouvel entraînement.
Comment fonctionne le fine-tuning
Un projet de fine-tuning se déroule généralement en quatre étapes :
- Rassembler des exemples : des paires entrée-sortie de qualité qui illustrent le comportement voulu. La qualité et la cohérence comptent plus que le volume.
- Entraîner : le fournisseur du modèle ou votre propre infrastructure ajuste les poids du modèle sur ces exemples, souvent avec des méthodes comme LoRA qui ne modifient qu’une petite partie du modèle.
- Évaluer : comparer le modèle ajusté à l’original sur des questions de test inédites, pour vérifier qu’il progresse sans perdre ses capacités générales.
- Déployer et maintenir : le modèle ajusté remplace le modèle de base dans votre application et doit être réentraîné quand le modèle de base est retiré ou que le comportement attendu évolue.
Exemple
Un cabinet d’avocats souhaite que son assistant interne résume les appels clients selon un format strict en cinq parties. Avec de simples instructions, le format est le plus souvent respecté, mais pas toujours. Le cabinet applique un fine-tuning à un modèle à partir de quelques centaines de résumés rédigés par ses collaborateurs, et le modèle ajusté respecte le format plus régulièrement. Pour les informations factuelles, comme le barème d’honoraires en vigueur, le cabinet continue de s’appuyer sur la récupération de documents, car ces données changent en cours d’année.
Pourquoi c’est important pour les chatbots d’entreprise
Pour la plupart des chatbots de site web, l’essentiel est de répondre correctement à partir des contenus à jour de l’entreprise. La génération augmentée par récupération (RAG) s’en charge généralement mieux que le fine-tuning : les mises à jour s’appliquent dès que les contenus sont réindexés, les réponses peuvent être rattachées à des sources et aucun jeu de données d’entraînement n’est nécessaire. Le fine-tuning mérite d’être envisagé quand une entreprise a besoin d’un comportement précis que des instructions claires et des exemples ne suffisent pas à obtenir, et qu’elle dispose des données et du budget pour maintenir un modèle sur mesure.
| Fine-tuning | RAG | |
|---|---|---|
| Ce qui change | Les poids du modèle | Le texte fourni au modèle |
| Adapté à | Style, format, tâches ciblées | Faits, conditions, informations produits |
| Mise à jour des connaissances | Réentraîner le modèle | Modifier et réindexer les contenus |
| Traçabilité | Difficile de savoir d’où vient une réponse | Les réponses renvoient à des passages sources |
Le fine-tuning et intoCHAT
intoCHAT ne fait pas de fine-tuning. Quand vous « entraînez » un agent intoCHAT, vos pages web, fichiers, textes et paires questions-réponses sont transformés en segments interrogeables dotés d’embeddings. Le modèle sous-jacent, un modèle OpenAI choisi et géré par intoCHAT, reste inchangé. C’est pourquoi une modification s’applique dès que vous réentraînez la source concernée, sans attendre un cycle d’entraînement. Pour orienter le ton et le comportement, vous rédigez les instructions de l’agent et ajoutez des paires questions-réponses pour les réponses qui doivent être exactes.