首页
学习
活动
专区
圈层
工具
发布

腾讯混元开源翻译模型1.5,可手机离线部署

新京报贝壳财经讯(记者罗亦丹)12月30日,腾讯混元宣布推出并开源翻译模型1.5,共包含两个模型:Tencent-HY-MT1.5-1.8B 和 Tencent-HY-MT1.5-7B,两个模型均支持 33 个语种互译以及5种民汉/方言,除了中文、英语、日语等常见语种,也包含捷克语、马拉地语、爱沙尼亚语、冰岛语等小语种。模型已在腾讯混元官网上线,通过开源社区也可以直接下载使用。

腾讯方面表示,HY-MT1.5-1.8B主要面向手机等消费级设备场景,经过量化,可支持端侧直接部署和离线实时翻译,1GB内存可流畅运行,并且在参数量极小的前提下,与主流商用翻译模型API对比推理速度更快,处理50个tokens平均耗时0.18秒,其他模型的时间在0.4秒左右。

在部分用户实用场景下,混元翻译1.8B和7B两个尺寸模型同时使用,可以实现端侧和云侧模型的协同部署。

编辑 岳彩周

校对 柳宝庆

  • 发表于:
  • 原文链接https://page.om.qq.com/page/Or2R5hD2eCNYKaDBEItuKPjw0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券