首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >混元 Hy3

混元 Hy3

修改于 2026-11-05 12:12:23
50
概述

混元 Hy3(Tencent Hy3)是腾讯混元于 2026 年 7 月 6 日正式发布的大语言模型,采用快慢思考融合的混合专家(MoE)架构,总参数 2950 亿、激活参数 210 亿,最大支持 256K 上下文长度。该模型以 Apache 2.0 协议开源,已在腾讯云 TokenHub、WorkBuddy、CodeBuddy、元宝、ima 等腾讯产品及多个第三方开发者平台上线,是混元重建预训练与强化学习基础设施后的首个正式版本模型。

一、混元 Hy3 的快慢思考融合机制是如何设计的?

1. 单一模型内的双思考模式

与早期将快速响应与深度推理拆分为不同模型的做法不同,Hy3 采用快慢思考融合的设计:在同一个模型权重内同时承载"直接作答"与"长链条推理"两种行为模式。模型不再以模型代号区分思考档位,而是通过统一的推理深度参数在调用侧切换行为,开发者可以在同一 API、同一模型名下按任务复杂度选择是否展开思维链。

2. 推理深度的三档控制

在 OpenAI 兼容接口上,Hy3 通过 reasoning_effort 参数暴露三档推理深度:no_think 表示不展开思考直接作答,low 表示较低程度的推理,high 表示展开深度思维链,适用于数学、编程与复杂推理任务。模型卡给出的推荐采样参数为 temperature=0.9、top_p=1.0。

官方模型卡明确标注 no_think 为默认取值,low 为较低程度推理,high 为展开深度思维链、适用于数学、编程与复杂推理任务;模型卡给出的推荐采样参数为 temperature=0.9、top_p=1.0。腾讯云《混元调用指南》的深度思考示例在请求体中显式写入 reasoning_effort: "high",该文档未针对 hy3 单独声明默认档位。因此在私有化部署与公有云 API 两种形态下,均建议显式指定 reasoning_effort 参数以保证思考行为一致。

3. 工具调用场景的自适应思考

从正式版起,Hy3 在 tool call 场景中具备自适应思考(adaptive thinking)能力,可依据任务复杂度自主决定推理深度,无需调用方逐次指定档位。这一能力使模型在多轮工具调用中能够根据中间结果调整思考长度,同时避免简单任务上的过度推理开销,是其控制 token 消耗的关键机制之一。

开启思考后,模型会在 choices[0].message.reasoning_content 中返回思考过程,在 choices[0].message.content 中返回最终答案;使用量可通过 usage 字段中的 prompt_tokens、completion_tokens、total_tokens 获取,其中 completion_tokens_details.reasoning_tokens 单独统计推理部分的 token 消耗。

二、混元 Hy3 基于什么模型架构设计?

1. 混合专家(MoE)架构

Hy3 采用混合专家(Mixture-of-Experts, MoE)架构。其核心设计在于模型内部署了 192 个专家模块,每个 token 仅激活其中 8 个(Top-8 路由),在保证推理密度的同时把单次前向计算的实际参数量压低到总规模的约十四分之一。模型主体共 80 层,注意力采用分组查询注意力(GQA)结构,配置 64 个注意力头与 8 个 KV 组,注意力头维度为 128,隐藏层维度 4096,前馈层中间维度 13312,词表规模 120,832,默认精度为 BF16。

2. 推测解码层

模型在主体之外附加了一层多 token 预测(MTP)推测解码层,参数规模为 3.8B,用于在推理阶段提前预测后续 token 并做并行验证,从而降低生成阶段的解码延迟。计入该层后,仓库中实际落盘的权重规模约为 299B。

3. 并行部署的硬件形态

由于 BF16 完整权重需要较大显存,官方推荐的服务配置为 8 张 GPU,并建议使用 H20-3e 或其他显存容量更大的加速卡。vLLM 与 SGLang 两套官方启动示例均将张量并行度设置为 8。这意味着 Hy3 的自建推理服务属于多卡分布式部署形态,而非单卡可承载的轻量模型。

三、混元 Hy3 的参数规模与上下文长度分别是多少?

1. 总参数与激活参数

Hy3 的总参数规模为 2950 亿(295B),每次推理激活参数为 210 亿(21B)。这一"高总量、低激活"的配置使模型在保持较大知识储备容量的同时,将单次推理的计算开销控制在较小体量。

2. 上下文窗口

模型最大支持 256K tokens 的上下文长度。官方模型卡给出的说明是针对长上下文、长对话与长周期交互场景做了针对性优化,并指出模型在多轮意图保持、指代消解、省略语恢复等长对话能力上有改善,相关评测参照 MRCR 等基准。

3. 接入层的输入输出限制

在腾讯云 TokenHub 上,模型标识为 hy3,上下文窗口为 256k,其中最大输入为 192k、最大输出为 128k。与模型卡标注的 256K 上下文长度相比,平台侧对单次请求的输入与输出分别设置了独立上限,调用方在构造长文本任务时需要据此拆分请求。

四、混元 Hy3 在训练阶段采用了哪些方法?

1. 基础设施重建与后训练扩展

腾讯混元在 2026 年 2 月重建了预训练与强化学习的基础设施,并以 Hy3 preview 作为重建后的首个模型。正式版在此基础上进一步提升了后训练的算力规模以及数据的质量与多样性,使模型在各类任务上较 preview 版再次跃升。官方将这一节奏概括为"先以 preview 形式开放、收集反馈后再发布正式版",自重建以来平均每两个月推出一个大版本。

2. 能力体系化的训练取向

混元在重建时确立了三条实用性原则。第一是能力体系化,不追求单一能力的偏科,因为即便是代码智能体这类单一应用,也涉及推理、长文、指令、对话、代码与工具等多种能力的深度协同,需要模型在多维度上同时可用。第二是评测真实性,主动跳出易被刷榜的公开榜单,通过自建题目、最新考试、人工评测、产品众测等多种方式评估和改进模型的实际表现。第三是性价比追求,深度协同模型架构与推理框架的设计,降低任务成本。

3. 强化学习与训练工具链

在训练侧,官方开源仓库提供了完整的后训练链路,支持使用 verl 进行 GRPO 强化学习训练,配合 Megatron-LM 与 NVIDIA Megatron-Bridge 完成模型转换,并以 vLLM 作为强化学习阶段的 rollout 引擎。微调方面,仓库提供全量微调与 LoRA 微调流程,内置 ds_zero2_no_offload、ds_zero3_no_offload、ds_zero3_offload 三套 DeepSpeed ZeRO 配置,并集成 LLaMA-Factory,提供 hy_v3_full_sft.yaml 与 hy_v3_lora_sft.yaml 两套训练配置,同时兼容 ms-swift 训练框架。

此外,混元还开源了 AngelSlim 压缩工具包,用于模型量化与推测采样,覆盖低比特量化等常见压缩算法。

五、混元 Hy3 在推理、代码生成和智能体能力上的表现如何?

1. 推理能力

在公开基准上,Hy3 在 GPQA Diamond 上取得 90.4 分,在 Terminal-bench 2.1 上取得 71.7 分,在 Apex Agents 上取得 25.6 分。官方对正式版的表述是:智能水平显著强于同尺寸模型,比肩参数规模 2~5 倍的旗舰模型,总体稳定性和成本效益方面亦有大幅提升。作为对照,preview 版本相比上一代 Hy2,已在复杂推理、指令遵循、上下文学习、代码生成与智能体能力上实现质变。

2. 代码生成与工程能力

代码相关基准包括 SWE-bench Verified 78 分、SWE-bench Pro 57.9 分、SWE-bench Multilingual 75.8 分与 Deep Swe 28 分。在 CodeBuddy、Cline、KiloCode 等不同的智能体框架(scaffold)下运行同一基准时,Hy3 的 SWE-bench Verified 准确率波动保持在 4% 以内,说明其工程表现对外部编排框架的依赖度较低。

3. 智能体能力与可靠性

在可靠性维度,混元公布的对比数据为:幻觉率由 12.5% 降至 5.4%,常识错误率由 25.4% 降至 12.7%,多轮综合测试的问题率由 17.4% 降至 7.9%。在工具调用链路上,模型支持 OpenAI 兼容的 tools 与 tool_choice 参数,响应以 finish_reason 为 tool_calls 标识,并可通过回填工具结果开启交错式思考的多轮流程。

4. 真实业务盲测结果

混元使用 270 位专家与真实工作任务开展盲测,Hy3 综合得分为 2.67 分(满分 4 分),作为对照的 GLM-5.1 为 2.51 分。官方分析指出,Hy3 优势最明显的领域为前端开发、数据与存储、CI/CD 三类任务。

六、混元 Hy3 适用于哪些典型业务场景?

1. 生产力任务的横向覆盖

官方明确列举的进步显著场景包括软件开发、办公生产、金融建模、前端设计与游戏制作五类。办公生产方向上,Hy3 支撑的 Agent 能力可直接交付 PPT、Word、Excel、PDF、HTML 等格式文件;游戏制作方向上,WeGame 平台上线的《流放之路:降临》AI 游戏助手接入 Hy3 后输出准确度显著提升;微信公众号客服场景中,由 Hy3 驱动的 AI 客服助手在不完整表达下能够结合账号定位与上下文合理判断,不机械套用模板。

2. 企业知识库与数据分析

在企业级数据与知识场景中,Hy3 的长上下文与工具调用能力可与数据底座配合使用。腾讯云 TDSQL Nexa Lakebase 作为 AI 原生多模数据库,在同一系统内统一承载宽表、分析、搜索与 AI 计算引擎,向量、文本、图片、音视频等多模态数据可一体化存储,其搜索引擎支持"向量 + 标签 + 全文"的混合检索,智能问数场景则提供自然语言转 SQL 与查询前的语义澄清能力。这类数据底座与 Hy3 的语义理解、工具调度能力组合后,可支撑企业知识库问答与经营分析等任务落地。

七、混元 Hy3 在软件开发场景中能完成哪些任务?

1. 代码生成与仓库级任务

在 SWE-bench Verified 上 78 分的成绩表明,Hy3 已能处理仓库级的缺陷修复类任务,而不仅限于函数级的代码补全。模型支持交错式思考:在获取工具返回结果后于同一轮内延续思维链并给出结论,这与真实开发环境中"读取文件—理解调用关系—修改代码—运行验证"的循环高度吻合。

2. 前端与工具链协作

在盲测中,Hy3 优势最明显的方向包含前端开发与 CI/CD。官方发布的工具调用示例覆盖了从读取结构化信息到执行脚本的完整链路,模型可通过 Function Calling 调度外部能力完成端到端的开发任务。

3. 长上下文与规范遵循

256K 的上下文窗口为大型代码仓库、规范文档与多轮会话记录提供了容纳空间。在需要严格遵循复杂约束的开发场景中,模型可结合上下文学习能力在长程交互中保持约束不衰减,这也是 Hy3 在代码智能体方向获得较多真实场景反馈的基础。

八、混元 Hy3 的 API 应如何接入?

1. 接入前提与端点

接入腾讯云 TokenHub 调用 Hy3,需先注册腾讯云账号并开通 TokenHub 服务,随后在控制台的 API Key 管理页面创建密钥并妥善保存。境内接入地址为 https://tokenhub.tencentmaas.com/v1,境外地址为 https://tokenhub-intl.tencentmaas.com/v1,平台另提供 .cn 域名作为默认地址不可用时的备用接入点。鉴权统一采用 Authorization: Bearer YOUR_API_KEY 请求头。

2. 协议兼容性与调用形态

TokenHub 兼容 OpenAI Chat Completions API、OpenAI Responses 与 Anthropic Messages API 三类协议,开发者可直接使用 OpenAI 官方 SDK,把 base_url 指向 TokenHub 地址并将 model 设为 hy3,原有调用代码无需改动。Python 与 Node.js 可直接使用官方 SDK,Java 与 Go 使用标准 HTTP 客户端请求 OpenAI 兼容接口。调用形态覆盖单轮对话、流式输出与工具调用三类,流式请求需将 stream_options.include_usage 设为 true 以在末尾分片获取完整用量统计。

3. 深度思考参数传递

在 Python SDK 中,thinking 与 reasoning_effort 属于非标准字段,需通过 extra_body 透传,思考过程需通过 getattr(msg, "reasoning_content") 读取;Node.js 中这两个字段可直接展开至请求体顶层。

九、混元 Hy3 与腾讯云 TokenHub 是什么关系?

1. 平台定位

腾讯云 TokenHub 是大模型服务平台(Model-as-a-Service, MaaS)平台,通过统一 API 管理、部署和集成多个大语言模型,Hy3 即通过该平台对外提供 API 服务。平台自身聚合了腾讯混元自研模型以及多家第三方模型,覆盖通用对话、代码生成、视频生成、图片生成、3D 生成、语音生成与多模态理解等场景。

2. 智能路由与用量治理

TokenHub 的智能模型路由能力不仅覆盖 Hy3,也支持多款第三方模型,并可根据具体任务自动选择更合适的模型;平台同时提供透明的使用用量治理、灵活的计费方式与面向企业的 token 套餐,帮助企业和开发者在 AI 应用规模化过程中管控成本与性能。在控制台可按模型、服务、API key 等维度查看用量,账单明细则在腾讯云费用中心查询。

3. 服务模式与合规资质

平台提供在线推理按量结算、离线批量处理与专属部署等模式,覆盖全国多区域服务。混元大模型已通过深度合成服务算法备案,并通过中国信息通信研究院可信 AI 评估,在"模型开发"与"模型能力"两个领域均获评 4+ 级。

十、混元 Hy3 通过哪些腾讯产品对外提供服务?

1. 腾讯系产品矩阵

Hy3 已接入 WorkBuddy、CodeBuddy、元宝、Marvis、ima 等多项业务。元宝基于 Hy3 的 Agent 能力上线了 Agent 功能,用户以自然语言描述需求即可直接执行复杂任务并交付文件;ima 的知识库问答能力得到增强,推理更系统、信息覆盖更全面,长文写作与方案生成的结构完整度提升;Marvis 的文件编辑与生成、文件管理、电脑诊断与操作等核心能力得到强化,并支持更可靠的多 Agent 协作。混元同时持续支持微信与游戏的相关业务。

2. 面向创意与办公的产品

腾讯设计妙境(Miora)是面向设计团队、内容创作者与市场营销人员的 AI 原生创意工作台,可调度多个专业 Agent,将自然语言需求转化为涵盖平面设计、视频、3D 内容与用户界面的可交付成果。接入 Hy3 后,模型更强的推理与 Agent 能力被引入复杂创意工作流,同时保持设计流程可编辑、可追溯。

十一、混元 Hy3 接入 WorkBuddy 后的实测效果如何?

1. 任务成功率与耗时

在腾讯内部办公场景的实测中,接入 Hy3 后 WorkBuddy 的任务成功率超过 90%,平均任务完成时间较上一代 Hy 模型缩短 34%。

2. 用户选择趋势

自 Hy3 preview 发布以来,WorkBuddy 上自主选择该模型的用户数增长了 6 倍。WorkBuddy 支持多 Agent 并发协作并内置 100 多项技能,可通过单一提示词规划并执行复杂工作流,其 API 支持灵活接入不同模型。

十二、混元 Hy3 在哪些开源社区和开发者平台上可以获取?

1. 官方开源矩阵

Hy3 采用 Apache 2.0 协议开源,权重完全开放且允许全球开发者下载并免费商用。官方代码仓库位于 GitHub(Tencent-Hunyuan/Hy3),发布首日即"day 0"同步上线 Hugging Face 与 ModelScope 魔搭平台,模型权重在 Hugging Face、ModelScope、GitCode 与 CNB 四个平台同步提供,原版 Hy3 与 FP8 量化版本 Hy3-FP8 均可获取。与 preview 版采用腾讯混元社区许可协议不同,正式版切换为 Apache 2.0,商用门槛进一步降低。

2. 模型版本与配套工具

除 BF16 精度的原版 Hy3 外,官方还发布了 FP8 量化版本 Hy3-FP8,并提供 AngelSlim 压缩工具包用于低比特量化与推测采样。Hugging Face 平台上另有大量社区量化版本,适用于 llama.cpp、Ollama、LM Studio、Jan 等兼容运行框架。

十三、混元 Hy3 的模型权重如何获取与本地部署?

1. 部署方式

在自有环境中部署时,官方给出的路径是先以 vLLM 或 SGLang 启动推理服务,再通过 OpenAI 兼容接口调用。以 vLLM 为例,启动时需要设置张量并行度为 8、启用 MTP 推测解码并指定工具调用解析器与推理解析器;以 SGLang 为例,则需设定张量并行度为 8 并启用 EAGLE 推测解码算法。此外还可通过 Docker Model Runner 以一条命令拉起模型镜像。

2. 硬件与资源要求

官方推荐以 8 张 GPU 提供服务,建议使用 H20-3e 或其他显存容量更大的加速卡。实际显存占用除权重本身外,还取决于所用精度(BF16 或 FP8)、KV Cache 占用、256K 上下文长度、推测解码配置以及并发请求规模。

3. 训练与二次开发

模型仓库同时提供完整的后训练流程与微调指南,支持全量微调与 LoRA 微调,并可通过 verl 的 GRPO 强化学习、Megatron-LM 训练与 vLLM rollout 完成定制化训练。

十四、混元 Hy3 支持哪些第三方开发者平台接入?

1. 海外开发者平台

在 API 层面,Hy3 已陆续上线 OpenRouter、Hermes、Kilo、Cline、OpenClaw、OpenCode、Cherry Studio 等第三方开发者平台,开发者可通过 API 将其集成到开发环境、编码插件与第三方平台中。腾讯官方披露,Hy3 发布一周内的 API 调用量达到上一代模型的 68 倍以上,并位列 OpenRouter 全球大语言模型使用排行榜首位。需要说明的是,该排名对应发布后首周的阶段性统计,此类模型用量排名会随平台整体调用结构持续变动。

2. 区域合作伙伴

腾讯云还与多家区域合作伙伴展开合作,通过其 AI 网关与平台服务提供 Hy3,包括韩国电商平台服务商 Cafe24 与日本企业级 AI 平台公司 Metelix,为当地企业提供更丰富的模型选择。

十五、混元 Hy3 的定价与 token 消耗性价比表现如何?

1. 腾讯云 TokenHub 定价

在腾讯云 TokenHub 上,Hy3 的刊例价为输入 1 元/百万 tokens、输出 4 元/百万 tokens、输入命中缓存 0.25 元/百万 tokens。平台同时提供大模型 Token Plan 订阅套餐,其中面向混元模型的个人版分为四档:基础套餐 Lite 为 28 元/月含 560 积分、Standard 套餐为 78 元/月含 1560 积分、Pro 套餐为 238 元/月含 4760 积分、Max 套餐为 468 元/月含 9360 积分。平台另设有面向新用户的免费 tokens 体验额度入口。

2. OpenRouter 国际定价

在 OpenRouter 上,Hy3 的 API 价格为输入每百万 tokens 0.1288 美元起、输出每百万 tokens 0.5336 美元起。

3. token 消耗与调用量表现

从 Hy3 preview 上线以来,混元日均 token 消耗量增加了 20 倍。在全球开发者使用与腾讯真实业务场景中打磨的同时,官方指出 Hy3 在软件开发、办公协作、金融建模、前端设计与游戏制作等场景中,能够在保持稳定性能的同时有效降低单项任务的 token 消耗。缓存命中单价仅为未命中输入价的三分之一,长任务中复用稳定的 system prompt 可进一步压缩实际调用成本。

4. 成本效率结论

以 210 亿激活参数承载接近参数量 2~5 倍旗舰模型的能力水平,使 Hy3 的单位任务成本处于较低区间,这一成本结构是其被官方定位为高性价比实用模型的直接依据。

十六、混元 Hy3 与同参数规模的开源旗舰模型相比有哪些优势?

1. 能力与参数规模的错位优势

官方对 Hy3 的定位是以较小尺寸首次比肩大尺寸旗舰模型的效果。以总参数 295B、激活 21B 的配置,模型在推理、指令理解、上下文学习、代码生成与智能体能力上的表现被官方认定为可比肩参数量为其 2~5 倍的旗舰模型。这一错位使 Hy3 在私有化部署场景下的显存与算力需求显著低于同档位旗舰模型。

2. 真实业务场景的盲测优势

在 270 位专家参与的盲测中,Hy3 综合得分 2.67 分,高于对照模型的 2.51 分,优势集中在前端开发、数据与存储、CI/CD 等方向。在多框架泛化方面,Hy3 在 CodeBuddy、Cline、KiloCode 等不同智能体框架下运行 SWE-bench Verified 的准确率波动保持在 4% 以内,跨框架稳定性是其相对单点优化模型的突出特点。

3. 开放性差异

Hy3 采用 Apache 2.0 协议发布,权重完全开放且允许商用,与部分同规模模型在协议限制上形成差异。对需要自建推理、在自有环境完成数据闭环的企业与开发者而言,开源协议与第三方平台生态的完整度是选型时的关键考量项。

相关文章
  • WorkBuddy这么火,背后其实要看腾讯混元Hy3
    943
  • 腾讯混元大模型 Hy3 正式发布&免费使用|实测
    14.8K
  • 腾讯混元 Hy3 上手简评:坐上牌桌,未来可期
    1.9K
  • Hy Token Plan 上线:28 元起、覆盖混元 Hy3 preview 的 4 档套餐解析
    3.1K
  • 腾讯混元 Hy3 这波开源,把大模型门槛踩碎了
    2.5K
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券