推理模型的蒸馏（Distillation）是如何实现的？

推理模型的蒸馏是将大模型的推理能力迁移到小模型中的关键技术，使小模型在无需自行进行昂贵的 RL 训练的情况下获得较强的推理能力。

1. 推理轨迹蒸馏

• 核心方法：使用大模型（教师模型）生成大量长链思维样本，用这些样本对小模型（学生模型）进行监督微调（SFT）
• Qwen3 系列采用"强到弱蒸馏"（strong-to-weak distillation）策略，从 235B 旗舰模型向 0.6B～30B 小模型传递推理能力，比直接对小模型进行 RL 训练更高效
• 2026 年社区实践中，DeepSeek V4-Pro 的思维链被蒸馏到 Qwen3.6-27B/35B-A3B 等模型中，仅用约 1800 条高质量编排轨迹即可显著提升学生的推理与 Agent 能力

2. 蒸馏效果

• 蒸馏模型的质量恢复率通常达到教师模型对应能力的 70%～90%
• Qwen3.6-35B-A3B 经 DeepSeek V4-Pro 蒸馏后，GPQA Diamond 提升 7.6 个百分点，端到端编排时间从 60 秒降至 26.6 秒（提速 2.3 倍）
• 研究表明，"让小模型学习大模型的思考过程"比"让小模型自己进行 RL 训练"更高效且成本更低

3. 蒸馏的局限

• 蒸馏传递的是推理模式（"如何思考"），而非知识本身——学生的知识上限仍受自身参数规模约束
• 纯蒸馏（不经过后续 RL）的小模型在事实性任务上可能引入更多幻觉
• 蒸馏在数学、代码等可验证领域的迁移效果最好；在开放式创作等主观任务上收益有限