Hallucination d'IA : définition, causes, et comment l'éviter dans un SAV e-commerce

1. Qu'est-ce qu'une hallucination d'IA ?

Une hallucination d'IA est une réponse fausse ou inventée qu'un modèle d'intelligence artificielle présente avec assurance, comme s'il s'agissait d'un fait vérifié. Le terme désigne le cas où l'IA ne dit pas « je ne sais pas », mais produit une information plausible et incorrecte : un délai de livraison qui n'existe pas, une politique de retour imaginaire, une remise jamais accordée. Ce n'est pas un bug ponctuel ni un dysfonctionnement réparable une fois pour toutes : c'est une conséquence directe de la façon dont fonctionnent les grands modèles de langage (LLM).

2. Pourquoi une IA hallucine-t-elle ?

Un modèle de langage hallucine parce qu'il ne consulte pas une base de faits : il prédit, mot après mot, la suite de texte la plus probable d'après son entraînement. Quand la question porte sur une information qu'il ne connaît pas — le statut de votre commande n°4812, la politique de retour de votre boutique — le mécanisme de prédiction produit quand même une réponse, statistiquement plausible mais sans ancrage dans la réalité. Plus la question est spécifique à votre entreprise, plus le risque est élevé si le modèle est laissé seul avec sa mémoire générale. C'est pourquoi la réponse au problème n'est pas « un meilleur modèle », mais une architecture qui interdit au modèle de deviner.

3. Que risque concrètement une boutique en ligne ?

Le risque est juridique et commercial, et il est déjà documenté. En février 2024, le tribunal de résolution civile de Colombie-Britannique a condamné Air Canada à indemniser un client à qui le chatbot du site avait décrit une politique de remboursement pour deuil plus favorable que la politique réelle. L'argument de la compagnie — le chatbot serait une « entité distincte responsable de ses propres actes » — a été rejeté : l'entreprise est responsable de toutes les informations publiées sur son site, qu'elles viennent d'une page statique ou d'une IA (CBC News, affaire Moffatt v. Air Canada). Transposé à une boutique en ligne : une IA qui promet un remboursement hors délai, un tarif erroné ou une caractéristique produit inventée engage la boutique, pas l'outil. S'y ajoute le coût commercial, plus diffus : chaque réponse fausse détectée par un client érode la confiance dans la marque entière, pas seulement dans le canal automatisé.

4. Comment éviter les hallucinations dans un SAV automatisé ?

On évite les hallucinations en retirant au modèle ce qu'il devrait deviner. Quatre garde-fous, cumulatifs, font ce travail :

Brancher l'IA sur les données réelles plutôt que sur sa mémoire. C'est le principe du RAG (retrieval-augmented generation) : avant de répondre, l'agent consulte les sources de vérité de la boutique — la commande dans le back-office, la politique de retour officielle, la fiche produit — et compose sa réponse à partir de ces documents, pas de son entraînement général. La Direction générale des Entreprises décrit cette approche comme le moyen d'améliorer la traçabilité des réponses et de réduire le risque d'hallucination (DGE, « Guide de la génération augmentée par récupération », 2024). À la question « où est ma commande ? », l'agent ne prédit pas un délai : il lit le statut réel du transporteur.

Fermer le périmètre de réponse. Un agent de SAV fiable a une liste explicite de sujets qu'il traite et une consigne stricte pour tout le reste : ne pas improviser. Hors périmètre, la bonne réponse n'est jamais une réponse inventée — c'est un transfert.

Escalader vers un humain au moindre doute. Demande ambiguë, client mécontent, litige, cas absent des données : l'agent passe la main à l'équipe avec le contexte déjà rassemblé. Ce filet de sécurité transforme le cas limite, celui où l'hallucination se produirait, en simple ticket transféré.

Calibrer sur les tickets réels avant l'autonomie. Faire tourner l'agent sur un échantillon de tickets historiques de la boutique, comparer ses réponses à celles de l'équipe, corriger, et seulement ensuite lui confier des réponses en direct. La méthode complète est détaillée dans notre guide calibrer un agent IA sur vos tickets réels.

5. Peut-on éliminer totalement les hallucinations ?

Non — aucun fournisseur honnête ne peut garantir zéro hallucination, car le mécanisme de prédiction reste probabiliste. Ce qui change tout, c'est l'architecture : un agent qui lit les données réelles, refuse de sortir de son périmètre et escalade au moindre doute ramène le risque résiduel à un niveau très inférieur à celui d'une réponse humaine rédigée dans l'urgence un lundi de pic. Le bon critère d'achat n'est donc pas « cette IA hallucine-t-elle ? » mais « que fait-elle quand elle ne sait pas ? ». Un fournisseur qui répond « elle transfère à votre équipe » a compris le problème ; un fournisseur qui promet l'infaillibilité ne l'a pas compris — ou espère que vous ne le comprendrez pas.

6. Les questions à poser avant de signer

Trois questions suffisent à séparer un agent conçu contre les hallucinations d'un simple chatbot génératif habillé en agent. D'où viennent les réponses — du modèle seul, ou de mes données de commandes et de mes politiques ? Que se passe-t-il quand la question sort du périmètre — improvisation, ou transfert à mon équipe ? Puis-je tester l'agent sur mes propres tickets historiques avant la mise en production ? La distinction entre texte généré et action vérifiée sur une commande réelle est développée dans notre guide chatbot vs agent IA de service client, les garde-fous à exiger dans comment automatiser le SAV e-commerce, et la comparaison outil par outil dans notre comparatif des agents IA de SAV.