Définition
Une hallucination est une réponse qu'un modèle d'IA générative présente avec assurance alors qu'elle est fausse ou inventée : une référence juridique qui n'existe pas, un chiffre fabriqué, une fonction imaginaire dans une bibliothèque de code. Elle tient à la nature même du modèle, qui produit le texte le plus plausible et non le plus vrai. Les modèles récents hallucinent moins, mais le phénomène ne disparaît jamais totalement.
Dans la pratique
Réduire les hallucinations passe par le RAG (le modèle cite des sources fournies), des consignes claires sur le droit de dire « je ne sais pas », des garde-fous de sortie et des évaluations régulières. Le profil doit savoir mesurer le taux de réponses non fondées sur un jeu de test. Le piège est d'exposer un assistant à des clients sans lui donner de sources vérifiables.
Termes liés
Définition rédigée par L'équipe Top Profil. Glossaire mis à jour le . Tous les termes du glossaire.