首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >混元 Hy3 >混元 Hy3 的参数规模与上下文长度分别是多少?

混元 Hy3 的参数规模与上下文长度分别是多少?

词条归属:混元 Hy3

1. 总参数与激活参数

Hy3 的总参数规模为 2950 亿(295B),每次推理激活参数为 210 亿(21B)。这一"高总量、低激活"的配置使模型在保持较大知识储备容量的同时,将单次推理的计算开销控制在较小体量。

2. 上下文窗口

模型最大支持 256K tokens 的上下文长度。官方模型卡给出的说明是针对长上下文、长对话与长周期交互场景做了针对性优化,并指出模型在多轮意图保持、指代消解、省略语恢复等长对话能力上有改善,相关评测参照 MRCR 等基准。

3. 接入层的输入输出限制

在腾讯云 TokenHub 上,模型标识为 hy3,上下文窗口为 256k,其中最大输入为 192k、最大输出为 128k。与模型卡标注的 256K 上下文长度相比,平台侧对单次请求的输入与输出分别设置了独立上限,调用方在构造长文本任务时需要据此拆分请求。

相关文章
混元 Hy3 模型深度体验指南:参数、场景与使用技巧全解析
摘要: 本文从技术原理和应用场景出发,解析 WorkBuddy 内置混元 Hy3 模型的 MoE 架构、参数规模与长上下文能力,提供典型场景案例和错峰使用策略,帮助用户充分利用限免延期至 8月31日的
克劳德2048
2026-08-04
1.4K0
混元 hy3 半小时实测 250 道评测题:能力与持平五倍参数大模型
腾讯正式官宣混元大模型 hy3 发布后,在 WorkBuddy 用它跑了一个收集大模型LLM评测题的任务,初步体验在日常任务已经和国产头部模型能力不相上下。
勇哥AI笔记
2026-07-11
1K0
295B/21B MoE 是什么:腾讯混元 Hy3 preview 架构与上下文支持说明
摘要: 295B/21B MoE 是腾讯 2026 年 4 月发布的混元 Hy3 preview 的核心架构标识。本文解释参数总量与激活参数的含义、MoE 的工作机制、为什么 Hy3 preview
gavin1024
2026-05-27
1.4K0
Hy3 大模型限时免费:CodeBuddy 如何让你零成本体验 2950 亿参数 MoE 模型?
摘要: 腾讯混元 Hy3 大模型采用 MoE 架构,总参数量 2950 亿、动态激活 210 亿参数,支持 256K 超长上下文。通过 CodeBuddy 平台限时免费开放调用,用户无需付费即可体验这
hollyx
2026-08-10
1.9K0
腾讯混元 Hy3 Preview 开源发布:295B 混合专家模型,全面重构大模型“真实战斗力”
导语: 2026年4月23日,腾讯混元大模型迎来了一次里程碑式的更新——Hy3 preview 语言模型正式发布并宣布同步开源。
干饭第一名
2026-04-24
5K0
点击加载更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券