Hallucination
Also called: confabulation
Fluent, confident output that is simply false — the defining failure mode of language models.
Un’allucinazione è un contenuto che il modello genera perché è statisticamente plausibile, non perché è vero. È una conseguenza strutturale della previsione del token successivo, non un bug da correggere: il modello ottimizza per il plausibile, e plausibile e vero di solito coincidono, fino al momento in cui non coincidono più. Grounding, retrieval e verifica lo riducono; niente lo elimina.
In pratica: Citazioni giurisprudenziali inventate, DOI inventati, endpoint API inventati — tutti classici, tutti formattati con sicurezza.
Where this comes up
- AI Bible Study: How to Use AI as a Careful Study Aid
- AI Book Recommendations: How to Get Picks That Truly Fit You
- AI Career Path for Beginners: Your Comprehensive Guide
- AI Consultant Certification in 2026: Skills, Training, and Career Path
- AI Crochet Patterns: What You Need to Know Before You Stitch
- AI Data Analytics Course in 2026: What Analysts Should Learn First and How to Choose a Course