Chatbot qui invente des réponses : réduire les hallucinations sans changer de modèle

Un client demande le délai de livraison à votre chatbot. Il répond « 24 heures » alors que c'est cinq jours. Personne n'a écrit cette réponse : le modèle l'a inventée. Réponse directe : dans la plupart des cas, inutile de « changer d'IA » — le même modèle, mieux cadré, arrête d'inventer. Les quatre leviers, par ordre d'impact : lui donner vos vraies données (RAG), l'autoriser à dire « je ne sais pas », interdire les sujets à risque, et tester sur vos vraies questions. Voici comment.

Pourquoi un modèle invente-t-il ?

Un modèle de langage ne « sait » rien de votre entreprise : il produit la suite de mots la plus plausible. Si vous lui demandez un délai sans le lui fournir, il comble le vide avec une réponse crédible — donc fausse. L'hallucination n'est pas un bug aléatoire : c'est ce qui arrive quand on demande une information que le modèle n'a pas et qu'on ne lui a pas dit de se taire.

Levier 1 : lui donner la vérité, pas sa mémoire

La correction la plus efficace : brancher l'assistant sur vos vraies données au moment de répondre (tarifs, délais, FAQ) plutôt que de compter sur ce qu'il « connaît ». C'est le RAG — à chaque question, on récupère les documents pertinents et on les injecte dans le contexte. Pas besoin d'usine à gaz : une base courte et à jour suffit souvent.

Levier 2 : l'autoriser à dire « je ne sais pas »

Un modèle non cadré croit devoir toujours répondre. Une consigne explicite dans le prompt système change tout :

Réponds UNIQUEMENT à partir des documents fournis ci-dessus.
Si l'information n'y figure pas, ne devine pas : réponds « Je ne peux pas
le confirmer » et propose de contacter un conseiller.
N'invente jamais un prix, un délai ferme ou un engagement.

Cette seule instruction supprime une grande partie des inventions : elle donne au modèle une porte de sortie honnête.

Levier 3 : interdire les sujets à risque

Certaines réponses ne doivent jamais être générées : engagements juridiques, prix négociés, promesses de délai ferme, conseils médicaux ou financiers. Listez ces zones et renvoyez systématiquement vers un humain. Mieux vaut un assistant qui escalade dix fois par jour qu'un assistant qui invente un prix une seule fois.

Levier 4 : tester sur vos vraies questions

L'erreur classique est de valider sur des questions d'école (« quels sont vos horaires ? ») alors que les clients posent des questions tordues, mal orthographiées, à moitié hors sujet. Constituez une liste de 20 à 30 questions réelles (tirées de vos échanges support) et vérifiez la réponse sur chacune. C'est là que les hallucinations apparaissent — et c'est là qu'on les corrige.

Checklist anti-hallucination

• [ ] Sources réelles injectées au moment de répondre (RAG)
• [ ] Consigne « réponds uniquement à partir des documents » dans le prompt
• [ ] Porte de sortie « je ne peux pas confirmer » autorisée
• [ ] Sujets à risque (prix, délais fermes, juridique) renvoyés vers un humain
• [ ] Jeu de 20-30 questions réelles testé
• [ ] Métriques suivies : résolution sans humain, escalade, réponses signalées fausses

Questions fréquentes

Faut-il changer de modèle pour arrêter les hallucinations ?

Rarement. La plupart des inventions viennent d'un cadrage insuffisant, pas du modèle. En branchant l'assistant sur vos données (RAG) et en l'autorisant à dire « je ne sais pas », le même modèle cesse d'inventer.

Le RAG supprime-t-il complètement les hallucinations ?

Il les réduit fortement, sans les annuler à 100 %. Le RAG donne au modèle la bonne information ; la consigne de ne répondre qu'à partir de cette information et d'escalader le reste fait le complément. Les deux ensemble rendent l'assistant fiable en production.

Comment savoir si mon chatbot hallucine vraiment ?

Testez-le sur de vraies questions clients, y compris tordues, et comparez ses réponses à la vérité de vos documents. Suivez le taux de réponses signalées comme fausses. Sans ce test, « il a l'air de bien marcher » n'est qu'une impression.

Vaut-il mieux qu'il escalade trop ou pas assez ?

Trop, au début. Un assistant qui passe la main quand il doute ne fait pas de mal ; un assistant qui répond à tout avec assurance en fait. On resserre l'escalade ensuite, à mesure que la couverture documentaire s'élargit.

Quand faire appel à HelpApp Pro

Recadrer un assistant qui hallucine demande de reprendre le prompt, les sources et le routage — rarement de tout reconstruire. HelpApp Pro intervient sur ces trois points, en gardant votre outil actuel, avec un humain qui valide chaque ajustement. Décrivez le comportement via le devis en ligne, ou consultez notre page recadrage de chatbot.