推理强，医疗能力更强！百川全场景深度思考模型登场

新智元报道

编辑：编辑部 HYZ

【新智元导读】医疗AI时代正式开启！百川刚刚用Baichuan-M1-preview交出了一份惊艳答卷，用医疗循证模式重构AI+医疗的边界。更惊喜的是，首个医疗增强模型Baichuan-M1-14B开源了。

就在刚刚，百川的首个全场景深度思考模型Baichuan-M1-preview发布了！

相比其他推理模型，它能力全面，同时具备语言推理、视觉推理、搜索推理三个维度的全面推理能力，且均做到了行业领先。

而且，还解锁了「医疗循证模式」，复杂医疗问题的推理能力大幅提升。

现在，M1已经在百小应上线了。

具备深度思考模式的百小应，不仅能准确解答数学、代码、逻辑推理问题，还能会像资深医疗专家一样，进行深度思考，构建出严谨的医学推理过程。

不仅如此，为了推动AI技术在医疗领域的创新发展，繁荣AI医疗生态，百川还开源了Baichuan-M1-14B。

就是这个M1的小尺寸版模型，医疗推理能力已经超越了更大参数量的Qwen2.5-72B，与o1-mini相差无几。

全场景深度思考模型，通用能力行业领先

Baichuan-M1-preview作为推理模型，非常擅长通过深度思考来解决复杂的推理问题。

给出一个式子，问在有理数集内是否可约？同时还要给出判断和证明。

模型准确识别出了图中的问题，并且顺利给出了正确答案。

一条铁路原有m个车站，为适应客运需要新增加n个车站（n>1），则客运车票增加了58种（注：从甲站到乙站需要两种不同的车票），那么原有车站的个数是多少？

这个数学应用题，它经过一番推理，也给出了正确答案。

Baichuan-M1-preview在各种评测中的成绩也非常优秀。

在AIME和Math等数学基准测试，以及LiveCodeBench代码任务上，它的成绩超越了o1-preview等模型。

视觉推理能力方面，在MMMU-val、MathVista等权威评测中的成绩，它也超越了GPT-4o、Claude3.5 Sonnet、QVQ-72B-Preview等模型。

可以说，这是百川智能在探索大模型深度推理能力道路上达到的重要里程碑。

通过创新的RL方法，百川智能赋予了M1更强大的推理和规划能力——像人类一样长时间思考，在推理过程中不断自我反思和纠正，根据问题特点灵活调整解决方案。

而模型的深度思考能力，也让它在学术研究、软件开发、医疗健康等领域展现出显著的独特优势。

更令人兴奋的是，M1的显式思维链为大模型的可解释性打开了一扇窗口！

从此，我们能够追踪和干预模型推理过程和决策依据。

这不仅提升了模型可信度，更为大模型在医疗等高度专业领域的落地应用，指明了方向。

解锁医疗循证模式，医疗能力显著提升

Baichuan-M1-preview的另一大亮点是解锁了「医疗循证模式」。

所谓医疗循证模式（Evidence-Based Medicine, EBM），是一种医学诊疗方法。

它将证据依知识论上的强度分类，并要求只有强度最高的证据（如元分析、系统性评论和随机对照试验）才能归纳为有力的建议证据；相对较无力的证据（如专家意见、动物实验、细胞实验、基本原理推论）只能归入有力程度不高的建议。

循证医学主张，决策和政策应尽可能根据证据，而非单单依据从业人员、专家或管理者的信念。

因此，它试图确保临床医师的意见，有基于科学文献的所有可用知识补足，保证服务为最佳诊疗。

就像循证医学一样，Baichuan-M1-preview的「医疗循证模式」，要先建立医学知识数据库，然后在医疗知识库和互联网的信息上进行推理。

不仅如此，医疗循证模式还能运用医学知识和证据评估标准，对证据进行多层分级，并对不同权威等级的证据进行专业分析与整合，识别各类权威信息的来源和可信度。

这样，模型在面对复杂问题，以及信息过载、不确定性和碎片化等痛点时，便能用专业可靠的医疗知识作为推理依据。

海量医疗知识库，主动搜索权威信息

为了实现这一点，团队首先构建了一个涵盖亿级条目的自建循证医学知识库，其中囊括了国内外海量医学论文、权威指南、专家共识、疾病与症状解析、药品说明等核心内容，并实现了天级别的动态更新。

与此同时，团队还针对海量的医学信息，构建了一个多层级证据分级体系。实现了期刊质量、研究方法、同行评审严谨度等多个维度的统一甄别、溯源与评级。

在推理过程中，M1会对复杂的医学问题建立起系统性的推理思路，并自主调用搜索能力来获取最新的权威医学证据、临床指南和研究进展。

而在面对海量、多源的医学信息时，M1则会充分发挥强化后的推理能力，通过识别各类权威信息的来源和可信度，对不同权威等级的证据进行专业分析与整合。

当发现潜在的冲突和不一致之处，它还能深入剖析不同证据的限制条件，甄别出最相关和可信的结论。

通过这种专业的分析，模型就能有效地解决信息冲突，形成全面、连贯的医学结论，进而实现可靠、准确的医学推理，最终提供可信赖的医疗答案。

医生的助手，患者的顾问

Baichuan-M1-Preview解锁的医疗循证产品，不仅是医生和医疗专业人士的可靠助手，也是患者的贴心健康顾问。

它能通过「摆事实、讲道理」的循证方式，提供言之有物、有理有据的解答，又快又准。

医生和医学生，再也不用为复杂病例发愁了。这个临床场景中，最近有什么新科研成果？想了解权威指南？直接一键搞定！

不用再翻书、查资料了，省时又省力。

对于想搞医学科研的人，它也简直是神器一枚。最前沿的研究成果，快速构建知识体系，用这个产品都能不费吹灰之力。论文、指南，统统秒查。

对于患者来说，也是大大的好消息。

看不懂医生复杂且专业的检查报告，却想更全面解读检查结果，或者想来一个「二次诊断」？现在可以轻松实现了。

甚至，它不仅能帮你了解检查报告上说了啥，还能让你跟医生沟通的更顺畅，更好地参与治疗决策！

而在科普健康知识上，它的效果也是一流，让你在治疗路上不再是被动接招的小白。

总之，这个让医疗更简单、更透明的医疗循证产品，无论对医生、医学生和患者，都是一个全能神器。

万亿级token训练，首个医疗增强14B开源

同一天，百川智能还开源了医疗增强通用大模型Baichuan-M1-14B。

作为行业首个医疗增强开源模型Baichuan-M1-14B的表现优异，不仅在cmexam、clinicalbench_hos、clinicalbench_hos、erke等权威医学知识和临床能力评测上的成绩超越了更大参数量的Qwen2.5-72B-Instruct，与o1-mini也相差无几。

能以这么小的参数量在医疗领域称霸，其实力不容小觑。

它的技术亮点，体现在数据收集及合成，以及模型训练上。

数据收集

Baichuan-M1-14B总数据量高达万亿级token，相当于把一所超大型医学图书馆的内容，全部装进了「大脑」里。

具体来说，在数据收集阶段，百川团队针对医疗场景做了非常细致的收集，覆盖了大量公开和非公开数据：

• 千万级中/英文专业医疗论文；
• 千万级院内真实中/英文医疗病例；
• 万本医疗教材、几十万级医疗书籍；
• 千万级知识图谱医疗实体、百万级医疗词条；
• 百万级指南、专家共识、知识库等专业数据；
• 亿级医疗问答、医疗问诊、临床看病数据；

收集还仅仅是第一步，他们还对全网数据进行了全面的分类和评估，包括医疗科室、医疗内容、 医疗价值领域。

在预训练阶段，严格的数据筛选是必不可少的。

鉴于此，团队确保了数据集中各科室数据均匀分布，并且包含了真正正确的医疗价值信息。

数据医疗科室分类

合成数据

在强化学习部分，团队主要使用了合成数据。原因在于，合成数据中包含医疗复杂决策推理链条、决策依据以及问答对形式，能够较好地提升模型的临床分析、推理和决策能力。

百川团队对每种类型的医疗数据，设计了针对性的数据合成方案。

这些数据覆盖了知识图谱、病例、教材、指南、知识库、专家共识、问诊记录、学术论文等领域。

除了让模型大量学习医疗知识，团队还基于临床病历文本，利用最先进的模型模拟人类医师的思维过程。

然后，基于自我反思机制和奖励模型（Reward Model），生成了超千亿 token的医疗复杂决策推理链条、决策依据以及问答对形式的多样化数据。

模型训练

Baichuan-M1-14B的训练方法，也超硬核。

百川运用行业首创的多阶段领域提升方案，将训练过程巧妙分解为「三步」策略——通识提升、医疗基础知识提升、医疗进阶知识提升。

阶段一，让模型掌握基础的语言能力、常识能力。

阶段二，在第一步基础上，进一步强化模型的高阶能力（比如推理、数学等），并显著提升医疗数据比例。

这相当于，让一个刚毕业的医学生，上专业课的过程。

阶段三，则进一步提升数据质量和难度，对其更高阶的医疗能力，如推理、逻辑、疑难杂症等，进行深层次优化。

对齐

在针对LLM的强化学习训练中，数据的质量与多样性是模型性能提升的关键。

为此，团队从多个领域精心收集、整理了偏序对数据，覆盖了广泛的应用场景，包括多轮对话、指令跟随、数学与代码、推理任务。

而为了增强数据的多样性与真实性，数据来源包括人类生成数据和多模型生成数据。

另外，团队还收集了约100万条偏好数据，明确标识出结果中的优劣偏好。

并且，为了进一步提升模型的生成质量、逻辑推理能力和用户偏好贴合度，团队设计了一套系统化的强化学习（RL）训练流程。在SFT模型基础上，他们分三步逐步优化。

具体流程如下：

1. ELO（Exploratory Log-likelihood Optimization）进行思维链探索

传统的强化学习方法，往往依赖于「奖励模型」，但这里团队则另辟蹊径——

在CoT训练框架中，引入了全新的算法ELO。

它的绝妙之处在于，能够大幅提升模型的生成质量和逻辑推理能力。

ELO算法的核心思想是，通过优化思维链路径，来提高response的最大似然概率。

在传统方法中，reward model可能引入的偏差，会影响最终模型的性能。而ELO通过直接优化逻辑路径，则直接避免了这一问题，确保了训练过程更加稳健。

并且，通过强化MLE目标，ELO还能在保持生成内容多样性与合理性的同时，确保生成文本的高概率准确性。

2. 基于偏序对数据使用TDPO（Token-level Direct Preference Optimization）方法对模型进行优化

理论分析表明，在DPO的优化框架中，KL散度项用于约束生成模型与参考模型之间的分布差异。

然而，由于KL散度的约束效应随着句子长度变化不均衡，其对短句的约束较强，而对长句的约束则显著减弱。

这种不均衡可能导致生成模型在长句生成过程中偏离参考模型，从而影响生成结果的逻辑性与质量。

最终，团队选用了计算效率与性能兼备的TDPO，作为偏序对数据优化的核心方法。

在ELO训练之后的模型基础上，团队进行了一轮的TDPO训练，确保模型能够精准贴合用户偏好，同时兼顾长短句子的生成质量。

3. 最终阶段，采用PPO（Proximal Policy Optimization）方法进一步优化模型的生成策略

PPO充分利用了ELO和TDPO阶段的优化成果，将模型的生成策略从局部的Token级别优化扩展至全局的策略调整，确保模型能够在多种任务中生成符合用户需求的高质量文本。

这套训练方法，就像是为LLM量身定制的「成长秘籍」，通过精细数据筛选、多阶段优化，推动Baichuan-M1-14B向着更智能方向前进。

开源，意味着什么？

正如Llama一样，模型的每一次开源，都让AI边界不断拓展，激发了更多领域的创新。

Baichuan-M1-14B的开源，也不例外。

它不仅仅是一个模型的开源，更像是为整个医疗行业打开了一扇大门。

因此，对于开发者来说，这绝对是一个不能错过的模型。

在医疗AI领域，很多技术都被「深藏闺中」，面向医疗类的垂直领域，这类强大的模型少之又少。

而百川选择开源，就是要打破这道墙。

Baichuan-M1-14B开源，能够让开发者直接接触到医疗AI背后技术，降低应用开发门槛，甚至能够加速该领域的迭代升级。

如上所述，Baichuan-M1-14B拥有一个装载海量医疗知识的「超级大脑」。

开发者可以基于此开发出更多的医疗应用，比如智能问诊助手、医疗文献智能检索工具、临床决策系统等等。

另一方面，医疗领域最重要的就是透明度、可信度。开源还意味着，技术实现了完全透明，AI社区开发者可以共同审查和改进。

而这种透明度，是推动建立医疗AI可信度的基石。

从更长远来看，当一项强大的医疗AI被开源，意味着它将会走向普惠，走向每个人。

基层医院可以提供更优质的服务，对于那些偏远地区，也有机会用上先进的AI医疗技术。

未来，更多人也能享受到AI带来的医疗福利。

还需强调的是，这一次，Baichuan-M1-14B开源并非是百川的「独奏」，而是医疗AI领域的「交响乐」。

他们释放出了一个明确的信号，推进医疗AI生态共建。

医疗AI的未来，不应该是冷冰冰的代码，而是让每一次诊疗都充满温度。