推理模型在幻觉（Hallucination）控制方面表现如何？

推理模型与幻觉的关系较为复杂：在结构化推理任务上幻觉率降低，但在长文本事实性任务上可能反而更高。

1. 结构化任务：幻觉减少

• 在数学、代码等可验证任务中，推理模型的自我验证机制显著减少了逻辑错误
• 经过冷启动 SFT + 可验证奖励 RL 完整训练流程的模型（如 DeepSeek-R1），在事实性基准 SimpleQA 上表现优于未经冷启动的 R1-Zero

2. 长文本事实性任务：可能增加幻觉

• Meta FAIR 团队 2026 年 8 月的研究发现，推理模型在长文本事实性基准上的幻觉率平均比非推理对应模型高 10～13 个百分点
• 原因：现有 RL 训练主要针对数学和代码的逻辑正确性，对事实准确性关注不足
• 该研究通过设计综合考虑事实精度、回答详细度和相关性的新奖励函数，将幻觉率平均降低了 23.1 个百分点

3. 幻觉缓解策略

• 结合 RAG（检索增强生成）：将模型回答锚定在可信知识库上，可将专业领域幻觉率从 20% 以上降至 5% 以下
• 设置事实性门控（Factuality Gate）：在生成过程中对关键事实声明进行验证
• 强制引用来源：要求模型为事实性陈述提供可追溯的出处