前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >对话腾讯混元大模型负责人,深聊C端产品推出背后的思考

对话腾讯混元大模型负责人,深聊C端产品推出背后的思考

作者头像
小腾资讯君
发布2024-06-03 18:34:06
4220
发布2024-06-03 18:34:06

自从2022年11月ChatGPT上线以来,大模型已经火热了一年多。从模型到应用,业内的人,可能会感觉到这一年的AI行业“卷上天际”。但是,全球大模型公司都面临一个巨大的矛盾:模型能力的提升需要持续投入,而模型使用的刚性场景和商业化闭环迟迟没有探索清晰。

但是,所有人都笃定这将是一个胜负未决的巨大机遇,模型的版本日新月异、屡屡刷上大模型评测榜单的前列,而基于AI的新产品,也排队上线。热闹非凡的行业竞争中,呈现出两个无比清晰的主线,基础模型能力的角逐,以及聚焦于效率和娱乐两个场景的应用爆发。

在APP Store中以AI助手为关键词搜索,首屏就有10个产品出现。在这波大模型热潮中,行业有人讨论“腾讯是不是过于低调了”。在今天(5月30日),腾讯AI助手“腾讯元宝”上线的发布会现场,腾讯云副总裁、腾讯混元大模型负责人刘煜宏正面给出了回应。

他认为:“虽然行业内看起来火热,但是中国移动互联网用户规模12.32亿,国内AI头部产品日活跃用户规模仅数百万。这意味着AI产品的渗透率极低,不到1%。”

图片
图片

在成熟行业中,先发优势可能十分重要,卡位卡住等于占据了竞争优势。但是在渗透率不到1%的未成形市场中,所谓“先发”不如更准确的洞察更广阔的99%的用户需求

面向C端的基于腾讯混元大模型的AI助手APP腾讯元宝亮相,界面简单清晰,仅仅两个Tab,左边是“元宝”,点击可以开启AI搜索对话框,右边是“发现”,点击进去可以探索各类AI应用-智能体。右上角是“我的”,可以看到我的个人信息及自己的使用记录。 

图片
图片

在与腾讯科技的单独交流中,刘煜宏介绍:“出于对用户体验的考虑,我们希望把产品做得简单清晰,左边是目前最刚需的AI搜索。AI搜索的体验是大模型能力的直接体现,抛开复杂的技术细节不谈,最终呈现的界面也是各家产品能力差异化的体现。”

“腾讯元宝”的呈现界面有满满的“腾讯感”,在搜索结果的底部,用卡片的形式,呈现了微信公众号的文章内容,点击进去,可以看到相关的微信公众号文章。这种设计,展示了混元大模型对于腾讯整个内容生态的考虑。雏形已成,未来,可能通过元宝的搜索,腾讯内容生态的内容,将按照用户的需求,更闭环地呈现在用户面前。

图片
图片

如文章开头所说,“元宝”的使用场景也聚焦于效率和娱乐,除了AI搜索,还具备AI总结、AI写作等功能。而生活场景,更多集中在“发现”tab,更能展现看、听、说的多模态能力,可以生成百变AI头像、生成萌宠贴纸,也能在看外文电影的时候,让它边听边译。

腾讯科技问了刘煜宏一个行业中被讨论很多的问题:“你认为智能体是AI时代的APP吗?”刘煜宏很确定地说,“我认为是的”。PC时代是Web,移动互联网时代是APP,AI时代就是智能体。

“发现”Tab中集中了有各种特定能力的智能体,刘煜宏提到,“让企业和用户自己去构建智能体,腾讯不会自己去做很多智能体。”目前,腾讯的智能体开放平台“元器”也已经上线,开发者可以通过插件、知识库、工作流等方式快速、低门槛打造高质量的智能体,并可以一键分发至腾讯元宝、微信客服、QQ、腾讯云等腾讯生态渠道,预计到6 月,还可以支持分发到微信公众号和小程序,腾讯混元模型资源全部免费。

虽然C端产品上线“不早”,但是腾讯混元大模型的能力一直在内部打磨,腾讯内部的600多个业务及场景已经接入,用大模型的能力进行产品的升级重构。据刘煜宏介绍,目前内部日调用混元大模型的次数已经达到2亿次(一次调用为输入一次Prompt并返回一次结果)。

现场有记者提问:“我们测试了元宝和GPT-4o的响应速度,发现其实不相上下,当然可能有网络等因素。其它的还有什么技术优势吗?”响应速度其实并没有被腾讯官方“着重”提到过,刘煜宏解释,因为腾讯的大模型是全链路自研,针对大模型训练和推理场景,腾讯自研了Angel机器学习平台,主要包含负责训练的AngelPTM和负责推理的AngelHCF两大部分。其中,AngelPTM训练速度比主流开源框架提升 2.6倍,AngelHCF推理速度相比业界主流框架提升 1.3倍。

可以把机器学习平台比作一条多车道的高速公路,大模型的数据就像许许多多的重型卡车,可以在高速公路上高速行驶;相比之下,较落后的技术平台就像是乡间的泥泞小道,只通行一辆小车也颠簸、缓慢。两者能提供的服务以及最终带来的用户体验显然也不能同日而语,而具备领先性能的机器学习平台和AI基础设施,能够帮助提供更好的基建体系,助力大模型高速运行。

图片
图片

图:腾讯云副总裁、腾讯混元大模型负责人刘煜宏

腾讯拥有庞大的C端用户,如今正式推出面向C端的AI大模型产品,未来的产品战略如何、商业化目标是什么、怎么看待AI产品同质化等问题,也被外界所关注,刘煜宏也进行了一一解答,以下为问答内容精华实录:

Q1:目前市场上已经有很多同类产品,为什么现在才上线呢?腾讯内部对这个产品有什么样的期待和要求?

刘煜宏:我们确实看到现在市场上已经有很多同类产品,但是我认为目前AI产品的渗透率才不到1%,还是特别特别早期的一个阶段。所以当你把时间周期拉长来看,是晚了三个月还是半年,其实不是那么重要。

腾讯的业务形态非常丰富,我们是先从内部开始做,希望用大模型先满足内部需求。腾讯内部产品对混元的日调用量已经达到了2亿,有超过600个腾讯的业务和场景都在使用大模型去重构及升级自己的产品。从内部的使用中,我们慢慢也探索出来一些高频场景,然后再把产品能力和用户体验推到C端。

图片
图片

Q2:你们也在做智能体,这个智能体和别家有什么区别吗?

刘煜宏:其实腾讯自己不会主要做智能体,我们有一个元器平台,通过元器这个平台,把模型的原生能力开放给大家,我们希望大家来做智能体。用户通过元器创建的智能体,可以一键分发到腾讯元宝、微信客服、QQ、腾讯云等腾讯生态渠道,预计到6月,也会支持分发到微信公众号和小程序,这个过程中混元模型资源全部免费。

Q3:我们发现元宝搜索出来的内容,除了引用微信公众号等内部生态的内容,还有外部的,你们的数据选择范围是哪些?

刘煜宏:这里有点跟搜索类似,元宝接入了微信搜一搜、搜狗等搜索引擎,可以覆盖微信公众号等腾讯生态的资讯和内容。作为一个产品来讲,腾讯一直用开放的理念来打造这个产品,我们基于它的信息关联度来取决于哪些内容怎么选。没有说一定要特定选哪些,主要还是基于用户需要的关联度。

Q4:腾讯元宝会如何推广?

刘煜宏:对于整个腾讯来说,我们更关注整个产品生态上如何能形成更好的体验。比如我们在元宝的AI搜索中得到了一个结构化的输出,如果想进一步写作,可以直接打开腾讯文档,这样能够进一步串联起腾讯的核心产品的体验。

至于付费推广,我们会做一些有限的尝试,但这不是我们这个阶段的主要目标,我们也不会太在意竞品会怎样。

Q5:未来有哪些商业化的规划呢?

刘煜宏:在不到1%的用户渗透率阶段就谈商业化确实太早了,到目前为止还是个摸索的阶段,元宝APP到现在没想过收费。但是我们能赋能很多成熟的产品,这些产品有自己的商业化路径。

Q6:各家推出的AI助手产品功能都差不多,如何看待同质化问题,“元宝”有哪些核心竞争力?

刘煜宏:腾讯有自己的优势,首先就是产品能力和工程化能力。腾讯有服务海量用户的经验,产品能力一直是我们的优势。推出之前,元宝已经在内部打磨了很久,在应用领域的适配度是有把握的。很多产品可能遇不到的问题,我们都有过解决的经验了。

在工程方面我们是也有底气的,我们有能力以更低的成本做到最好的。我们的Angel平台,刚刚获得了含金量很高的电子学会科技进步一等奖。

此外是大模型本身的技术优势,虽然我们发布比较晚,但是技术演进一直保持在第一梯队,技术天花板也会比较高一些。

Q7:在微信公众号中开了付费功能的内容会被引用吗?

刘煜宏:大模型的AI搜索来源,除了公众号,还整合了搜狗、腾讯新闻等来源的内容。这种整合并不会影响原创作者的付费内容,反而能够为创作者带来更多的曝光和流量,为他们开辟新的渠道。尽管目前用户可能无法直接在元宝中看到全部内容,但大模型的整合能够提高内容的可见度,为创作者带来潜在的收益。

此外,大模型在技术层面上也在不断进步。虽然目前它还无法准确识别谣言,但团队正在开发专门的智能体来解决这一问题。比如腾讯新闻有一个较真平台,专门甄别谣言类新闻内容,我们就可以联合起来做一个“谣言粉碎机”的智能体。智能体能够基于其知识库,对用户提出的疑问进行校正和回答,帮助用户辨别信息的真伪。

在视频识别方面,大模型已经能够准确识别视频中的场景和背景,但对视频中人物和品牌的识别还不够精确。这主要是因为目前还没有将这方面的训练加入到模型中。团队也在考虑将这一功能加入,以提高视频识别的准确性和实用性。不过,出于对版权和侵权等问题的考虑,团队在这方面的进展还比较谨慎。

总的来说,大模型在内容整合和智能识别方面有着巨大的潜力,团队也在不断努力,希望通过不断的技术创新,为用户提供更加丰富、准确和有价值的信息服务。

Q8:混元同时提供TOB和TOC的能力,TOC偏向通用能力而TOB偏向于行业能力,如何平衡呢?

刘煜宏:如果单独说腾讯元宝APP ,那就是聚焦TOC能力,主要关注用户需求。我们还有元器平台,主要面向智能体的创作者。TOB的需求我们有腾讯云,通过云上的混元PaaS来服务不同的行业,混元提供底层通用能力的支持。

Q9:元宝的重点是什么呢?

刘煜宏:我们第一重点还是先把用户体验做好,比如搜索增强,这确实是用户需求的一个典型代表。另外就还是基于我们的生态做好用户体验,比如和微信公众号生态的打通,这个肯定是我们的特色,也是我们的优势。

本文系转载,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文系转载前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
腾讯混元大模型
腾讯混元大模型(Tencent Hunyuan)是由腾讯研发的大语言模型,具备强大的中文创作能力,复杂语境下的逻辑推理能力,以及可靠的任务执行能力。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档