Température (temperature)
Dernière mise à jour:
Ce qu’est la température
Quand un modèle de langage écrit, il calcule une probabilité pour chaque token suivant possible, puis en choisit un. La température ajuste ces probabilités avant ce choix. À basse température, le token le plus probable l’emporte presque à chaque fois. À température plus élevée, les probabilités sont aplanies et les tokens moins probables sont choisis plus souvent.
Beaucoup d’API acceptent des valeurs de 0 à 1 ou 2 selon le fournisseur. Une valeur de 0 revient presque à toujours prendre le premier choix, même si les réponses ne sont pas toujours parfaitement identiques pour autant.
Ce qu’elle change dans les réponses
En pratique, on distingue trois grandes plages :
La température n’ajoute aucune connaissance et ne rend pas un modèle plus fiable sur les faits. Un réglage bas lui fait répéter plus régulièrement sa réponse la plus probable, ce qui peut aussi signifier répéter la même erreur. Certains modèles de raisonnement récents n’exposent pas du tout la température et gèrent eux-mêmes l’échantillonnage. Un paramètre voisin, le top-p, limite plutôt le choix aux tokens les plus probables.
- Basse : formulations plus constantes, adaptée aux réponses factuelles, à l’extraction de données et à la classification.
- Moyenne : un peu de variété dans l’expression sans s’écarter du sujet, un réglage par défaut courant pour le chat.
- Haute : sorties plus variées et surprenantes, utiles pour le brainstorming ou l’écriture créative, mais plus sujettes aux digressions et aux erreurs.
Exemple
Demandez cinq fois à un modèle d’écrire un slogan pour une boulangerie. À basse température, vous obtenez presque la même phrase à chaque fois. À haute température, vous obtenez cinq idées très différentes, certaines utiles, d’autres étranges. Si vous demandez au même modèle les horaires de la boulangerie, c’est le comportement à basse température que vous voulez : une réponse constante fondée sur la page des horaires.
Pourquoi c’est important pour les chatbots d’entreprise
Les chatbots en contact avec les clients fonctionnent généralement mieux avec une température basse à modérée, car la constance compte plus que la créativité quand les questions portent sur des prix, des conditions ou des produits. La température reste toutefois un réglage secondaire, pas une solution. Des contenus manquants ou obsolètes, des instructions floues et une recherche peu efficace expliquent plus souvent les mauvaises réponses qu’une température mal choisie.
La température et intoCHAT
intoCHAT ne permet pas aux clients de régler la température ni de choisir un modèle. Chaque agent fonctionne avec un modèle OpenAI choisi et géré par intoCHAT, réglages compris. Pour modifier la façon dont votre agent répond, vous agissez sur ce qu’il sait et sur les consignes qu’il suit : vos sources, vos instructions, des paires questions-réponses pour les réponses qui doivent être exactes, ainsi que le message d’accueil et les questions suggérées.