On parle d’hallucination quand une IA affirme quelque chose de faux avec le même aplomb que lorsqu’elle a raison : une statistique inventée, un article de loi qui n’existe pas, une citation jamais prononcée, une fonction de logiciel imaginaire. Le texte est bien écrit et convaincant, et c’est justement ce qui rend l’erreur difficile à repérer. Aux États-Unis, des avocats ont ainsi été sanctionnés pour avoir cité devant un tribunal des décisions de justice inventées par une IA.
Ce n’est ni une panne ni un mensonge. Un LLM produit le texte le plus vraisemblable, pas forcément le plus juste : quand il manque d’informations, il comble le vide avec quelque chose de plausible. Les hallucinations sont plus fréquentes sur les sujets pointus, les chiffres précis, l’actualité récente et tout ce qui concerne votre entreprise.
Pour s’en protéger :
- fournir les documents de référence plutôt que compter sur la mémoire de l’IA ;
- lui demander de citer ses sources, puis les ouvrir ;
- l’autoriser à répondre « je ne sais pas » ;
- vérifier tout chiffre, nom ou référence avant de l’utiliser.
Quand l’IA crée un outil, l’hallucination prend une autre forme : elle annonce qu’une fonction marche alors qu’elle n’a pas été testée, ou qu’une règle est respectée alors qu’elle ne l’est pas. D’où l’importance de vos propres tests, avec des cas concrets.
Exemple
À la paie, Yasmine demande à une IA le taux d’une cotisation : la réponse a l’air précise, mais la source citée n’existe pas, alors elle vérifie sur le site de l’Urssaf.
Avec Toolify
Une IA peut annoncer qu’un outil fonctionne alors qu’il reste un défaut. D’où l’intérêt des vérifications de Toolify à chaque publication (tests, contrôle des accès, passage dans un vrai navigateur) : si l’une échoue, la version déjà en ligne reste en place.