Grand modèle de langage (LLM)
Dernière mise à jour:
Ce qu’est un grand modèle de langage
Un modèle de langage estime quel mot, ou plus précisément quel token, a le plus de chances de venir ensuite dans un texte. Un grand modèle de langage le fait avec un réseau de neurones de plusieurs milliards de paramètres, entraîné sur de vastes ensembles de textes publics, de livres et de code. C’est cette échelle qui lui permet de résumer, traduire, répondre à des questions et suivre des instructions sans être programmé pour chaque tâche.
Parmi les familles de LLM connues figurent les modèles GPT d’OpenAI, Claude d’Anthropic, Gemini de Google, Llama de Meta et les modèles de Mistral. Ils diffèrent par leur taille, leur coût, leur vitesse, les langues couvertes et leur fiabilité à suivre les instructions.
Comment fonctionne un LLM
La création et l’utilisation d’un LLM se déroulent en trois grandes étapes :
Un LLM n’a aucune connexion directe à Internet ou à vos systèmes, sauf si l’application qui l’utilise lui en fournit une. Ses connaissances s’arrêtent à sa date de fin d’entraînement, et tout ce qu’il lit pendant une conversation doit tenir dans sa fenêtre de contexte.
- Pré-entraînement : le modèle lit d’énormes quantités de texte et apprend à prédire le token suivant. Il assimile ainsi grammaire, faits, styles et schémas de raisonnement.
- Ajustement aux instructions et retours humains : un entraînement complémentaire sur des exemples de réponses utiles et des évaluations humaines lui apprend à suivre des consignes et à refuser les demandes nuisibles.
- Inférence : quand vous envoyez un prompt, le texte est découpé en tokens et le modèle génère sa réponse token par token, chaque choix s’appuyant sur tout ce qui précède.
Exemple
Demandez à un LLM généraliste « Quels sont les horaires de la boulangerie Martin, rue de la République ? » : il ne peut pas le savoir, car l’information ne figurait pas dans ses données d’entraînement ou a changé depuis. Il le dira peut-être, ou proposera une réponse plausible mais inventée. Fournissez au même modèle la page à jour des horaires dans le prompt, et il répondra correctement, dans la langue du visiteur.
Pourquoi les LLM comptent pour les chatbots d’entreprise
Le LLM est le moteur d’un chatbot IA, mais seul, il n’est pas une source fiable d’informations sur votre entreprise. Les chatbots d’entreprise combinent donc le LLM avec une recherche dans vos propres contenus, des instructions claires et des règles sur la conduite à tenir quand une information manque. Le modèle influe sur la qualité des réponses, la vitesse et le coût, et les fournisseurs le mettent régulièrement à jour : celui qui gère le chatbot doit donc tester et suivre ce choix.
Comment intoCHAT utilise les LLM
intoCHAT fait tourner chaque agent sur un modèle OpenAI choisi et géré par intoCHAT. Vous ne choisissez pas le modèle et ne réglez pas ses paramètres : vous orientez les réponses par vos contenus, vos instructions et vos paires questions-réponses. Pour chaque message, intoCHAT récupère les extraits pertinents de vos sources et les transmet au modèle avec des règles qui ancrent les réponses dans ce contenu.