Hallucinations : pourquoi ça arrive et ce qui aide vraiment
La source du problème
Le modèle produit la continuation la plus plausible, pas la vérité. Quand il n'a pas de base, la sortie semble quand même confiante — et c'est exactement le danger : l'erreur ne ressemble pas à une erreur.
Quatre choses qui aident
Joindre une source pertinente au prompt plutôt que de se fier à la mémoire du modèle.
Exiger une citation de source pour chaque affirmation, et vérifier dans le code que la source existe dans le matériel fourni.
Donner un moyen explicite de dire « il n'y a pas de réponse dans le matériel », et le récompenser avec des exemples.
Vérifier les faits discrets — nombres, dates, identifiants — contre une source de vérité structurée, pas contre du texte.
Ce qui n'aide pas
Écrire « n'invente pas » dans le prompt. C'est une demande, pas un mécanisme. Les déclarations de confiance du modèle ne sont pas non plus une mesure fiable — elles font partie de la sortie, pas une mesure de celle-ci.
Pour aller plus loin
Construisez une catégorie de test dédiée de questions sans réponse dans le matériel, et mesurez combien de fois le système l'a dit correctement. C'est la métrique presque toujours oubliée, et elle décide si on peut faire confiance au système en usage réel.