Hallucination
Also called: confabulation
Fluent, confident output that is simply false — the defining failure mode of language models.
Une hallucination est un contenu que le modèle génère parce qu’il est statistiquement plausible, non parce qu’il est vrai. C’est une conséquence structurelle de la prédiction du token suivant plutôt qu’un bug à corriger : le modèle optimise le plausible, et plausible et vrai coïncident le plus souvent, jusqu’au moment où ils ne coïncident plus. L’ancrage, la recherche documentaire et la vérification la réduisent ; rien ne l’élimine.
En pratique : Des citations de jurisprudence inventées, des DOI inventés, des points de terminaison d’API inventés — tous classiques, tous formatés avec assurance.
Where this comes up
- AI Bible Study: How to Use AI as a Careful Study Aid
- AI Book Recommendations: How to Get Picks That Truly Fit You
- AI Career Path for Beginners: Your Comprehensive Guide
- AI Consultant Certification in 2026: Skills, Training, and Career Path
- AI Crochet Patterns: What You Need to Know Before You Stitch
- AI Data Analytics Course in 2026: What Analysts Should Learn First and How to Choose a Course