Hallucination de l’IA
Dernière mise à jour:
Ce qu’est une hallucination de l’IA
Le terme désigne une réponse qui n’est étayée ni par les données fournies au modèle ni par la réalité : une date erronée, une fonction qui n’existe pas, une citation que personne n’a prononcée, un lien qui ne mène nulle part. Ce qui rend les hallucinations risquées, c’est leur ton. Le modèle rédige une réponse fausse avec la même aisance et la même assurance qu’une réponse juste.
Pourquoi les modèles de langage hallucinent
Plusieurs causes se combinent généralement :
- Prédiction du token suivant : un modèle est entraîné à produire un texte plausible, pas à vérifier des faits. Quand une information manque, il en sort souvent une supposition vraisemblable.
- Lacunes des données d’entraînement : le modèle ne connaît peut-être pas votre entreprise, ou a appris des informations aujourd’hui dépassées.
- Recherche manquée : dans un chatbot, si l’étape de recherche ne trouve pas le bon passage, le modèle peut combler le vide avec des connaissances générales.
- Questions orientées : une question qui présuppose quelque chose de faux, comme une remise inexistante, peut entraîner le modèle.
Exemple
Un visiteur demande au chatbot d’un hôtel : « Le petit-déjeuner est-il inclus dans le forfait week-end ? » La base de connaissances décrit le forfait mais ne parle pas du petit-déjeuner. Un chatbot mal configuré répond « Oui, un buffet petit-déjeuner est inclus », parce que beaucoup de forfaits week-end en comprennent un. Un chatbot ancré dans ses sources indique que la description du forfait ne mentionne pas le petit-déjeuner et suggère de poser la question à l’hôtel.
Pourquoi les hallucinations comptent pour les chatbots d’entreprise
Sur le site d’une entreprise, un prix, un délai de retour ou un horaire inventé n’est pas une erreur anodine. Les clients s’y fient. Dans une affaire de 2024, un tribunal canadien a jugé Air Canada responsable d’informations tarifaires erronées données à un client par le chatbot de son site. On ne peut pas supprimer totalement les hallucinations, mais on peut les réduire :
- Répondre à partir des contenus de l’entreprise récupérés plutôt que de la mémoire du modèle.
- Demander au modèle de signaler quand ses sources ne contiennent pas la réponse.
- Tenir les sources à jour et retirer les pages contradictoires ou obsolètes.
- Ajouter des paires questions-réponses quand la formulation exacte compte.
- Tester avec des questions auxquelles les contenus ne répondent pas, puis relire les conversations après le lancement.
Comment intoCHAT réduit les hallucinations
Pour chaque message, intoCHAT récupère par recherche hybride les extraits pertinents de vos contenus et les transmet au modèle avec des règles intégrées. Les informations métier comme les prix, les conditions et les coordonnées doivent provenir de votre configuration, de vos sources ou du résultat réussi d’une action. Quand les éléments manquent ou se contredisent, l’agent indique ce qu’il ne peut pas confirmer au lieu de deviner. Les réponses Q&A priment sur les autres sources, et vous pouvez tester l’agent dans le playground puis relire chaque conversation dans l’historique des chats.