Hallucination
Also called: confabulation
Fluent, confident output that is simply false — the defining failure mode of language models.
Uma alucinação é conteúdo que o modelo gera por ser estatisticamente plausível, não por ser verdadeiro. É uma consequência estrutural da previsão do próximo token, e não um bug a ser corrigido: o modelo otimiza para o plausível, e plausível e verdadeiro costumam coincidir, até o momento em que deixam de coincidir. Ancoragem, recuperação e verificação reduzem o problema; nada o elimina.
Na prática: Citações de processos inventadas, DOIs inventados, endpoints de API inventados — todos clássicos, todos formatados com a maior segurança.
Where this comes up
- AI Bible Study: How to Use AI as a Careful Study Aid
- AI Book Recommendations: How to Get Picks That Truly Fit You
- AI Career Path for Beginners: Your Comprehensive Guide
- AI Consultant Certification in 2026: Skills, Training, and Career Path
- AI Crochet Patterns: What You Need to Know Before You Stitch
- AI Data Analytics Course in 2026: What Analysts Should Learn First and How to Choose a Course