1. 内部长链思维生成
- 推理模型在收到输入后,不会立即生成面向用户的最终回答,而是先进入一段内部的"思考阶段",产生一系列中间推理 token
- 这些中间 token 可能包含问题分解、多方案探索、逐步验证、发现错误后的回溯修正等行为
- 思考阶段结束后,模型才输出用户可见的最终答案;思考过程可能对用户可见、以摘要形式展示或完全隐藏
2. 测试时计算扩展(Test-time Compute Scaling)
- 推理模型的核心机制是在推理阶段(而非训练阶段)通过增加计算量来提升性能
- 分配更多的思考 token 预算、增加并行采样数量或提高"努力度"档位,通常能带来性能提升,且性能与计算预算大致呈对数关系
- 这使得推理时的计算量成为与模型参数规模并列的第二个性能缩放轴
3. 训练固化的推理行为
- 与早期通过提示词(如"Let's think step by step")激发思维链的方式不同,推理模型的推理行为是通过大规模强化学习训练固化到模型权重中的
- 模型在训练过程中"学会"了在何时展开长推理、何时进行自我纠错,无需用户显式要求