Hallucination
Концепция
Обучение и инференс
Confident fabrication — the failure mode that shapes deployment.
Перед вами запись-пояснение к понятию: что этот термин означает простыми словами и какие записи он объединяет.
Models sometimes produce fluent falsehoods, because next-token prediction optimizes plausibility, not truth. Mitigations — RAG grounding, citations, verifier models, calibrated refusals — reduce but do not eliminate it. It is the single biggest brake on trusting models in medicine, law and finance, and the reason this site labels every figure with its source.
Место в общей экосистеме
Ссылки этой записи с первого взгляда — нажмите на группу, чтобы перейти к ней.
Источники
OpenAI on why models hallucinate ↗
Запись актуальна на 2026-01-15 — смотреть Методология.