ハルシネーション

LLMが実際には存在しない事実・人物・出来事を自信満々に生成してしまう現象。「幻覚」とも訳される。統計的に尤もらしいトークン列を生成する仕組み上、避けられない課題。RAGや検索グラウンディング、ファクトチェック機構の組み合わせで低減させるアプローチが一般的。