Hallucination
Also called: confabulation
Fluent, confident output that is simply false — the defining failure mode of language models.
Una alucinación es contenido que el modelo genera porque es estadísticamente plausible, no porque sea verdadero. Es una consecuencia estructural de la predicción del siguiente token y no un bug que se pueda parchar: el modelo optimiza por lo plausible, y lo plausible y lo verdadero suelen coincidir, justo hasta que dejan de hacerlo. Anclar en fuentes, la recuperación y la verificación lo reducen; nada lo elimina.
En la práctica: Citas de casos inventadas, DOIs inventados, endpoints de API inventados — todos clásicos, todos con un formato impecable.
Where this comes up
- AI Bible Study: How to Use AI as a Careful Study Aid
- AI Book Recommendations: How to Get Picks That Truly Fit You
- AI Career Path for Beginners: Your Comprehensive Guide
- AI Consultant Certification in 2026: Skills, Training, and Career Path
- AI Crochet Patterns: What You Need to Know Before You Stitch
- AI Data Analytics Course in 2026: What Analysts Should Learn First and How to Choose a Course