.png){kind=logo}
Hallucination d'une IA (Hallucination)
Une hallucination d'IA (de l'anglais AI hallucination) désigne le cas où un modèle de langage génère une information fausse, inexacte ou inventée, mais la présente avec le même aplomb qu'une réponse correcte. Le modèle ne « ment » pas au sens humain : il prédit la suite de mots la plus plausible, sans mécanisme interne pour vérifier si ce qu'il affirme correspond à la réalité.
En bref
Une hallucination, c'est une IA qui invente une réponse fausse et l'affirme avec assurance, comme si elle était sûre d'elle.
Un exemple
Demandez à une IA de citer un article scientifique sur un sujet pointu : elle peut produire un titre, des auteurs et une revue parfaitement crédibles, mais totalement fictifs. Rien dans la réponse ne trahit l'invention, il faut vérifier la source pour s'en apercevoir.
Pourquoi c'est important
Un modèle de langage cherche la formulation la plus probable, pas la plus vraie. Quand la question sort de ce qu'il connaît, il comble le vide avec une réponse crédible mais inventée : une source qui n'existe pas, une date erronée, une fonctionnalité imaginaire. Le vrai piège, c'est le ton : la fausse réponse est aussi assurée que la bonne, donc rien ne signale l'erreur à l'utilisateur.
À retenir
Ne prenez jamais une réponse d'IA pour argent comptant sur des faits vérifiables (chiffres, sources, citations, dates). Pour réduire le risque, branchez l'IA sur vos propres données via un RAG : elle répond à partir de faits fournis plutôt que de sa seule mémoire.
Pour aller plus loin
Un projet tech, data ou IA à cadrer, et l'envie de comprendre ce qu'on construit pour vous ?
