00:05
各位线上的朋友们大家好,欢迎参加腾讯云企业创新在线学堂系列课程,我是本次会议的主持人Lisa。腾讯云企业创新在线学堂围绕企业业务需求,聚焦在数据管理、AI安全、办公协同等8大数字化需求场景推出的系列课程,携手腾讯云,创新驱动无限可能,共同开启企业成长新篇章。那随着人工智能与大模型的蓬勃发展,我们正在步入一个由技术驱动的创新时代。AI不仅仅是技术革新的先锋,更是每一位程序员啊不可或缺的搭子。掌握AI工具的创造、加工与使用技巧,成为了我们广大从业者当下的挑战之一。腾讯云高性能应用服务打造了一系列的热门框架模板与个性化的自定义选项,让资源部署化繁为简,一键触达,无需受困在硬件选型难题,助力企业智能匹配最佳算力资源,实现高效开发。
01:12
结合cloud studio的在线IDE、开箱即用的GPU云资源,方便开发者学习,学习者轻松上手AI模型的构建与智能应用的探索。那本期课程呢?我们将融入工程与教育等多元业务场景,通过实操演示的方式,带着大家深入浅出的揭秘如何在开发领域运用AI工具提效降本。好了,那首先就有请我们今天的第一位分享嘉宾,来自腾讯云高性能应用服务hi产品经理闫玉成严老师负责腾讯云高性能应用服务的产品设计工作,参与从0~1的产品建设,在AIG部署方案、中常委开发者生态建设等方面拥有丰富的经验积累。
02:02
那今天严老师的分享主题是嗨,开源模型时代的算力搭子,有请。好的,大家好。OK, 哈喽,大家好,非常欢迎大家来参加今天的企业创新学堂活动,我是高性能应用服务hide产品经理闫玉成,今天给大家分享的主题是开源模型时代的算力搭子。那自我介绍这块呢,刚才主持人已经帮忙介绍过了,我就不再赘述了,我今天主要介绍的内容呢,会从三个方向展开,首先是为什么需要一个算子。啊。为什么需要一个算力大,其次呢是这个产品可以给大家提供哪些价值,然后最后的话,我会通过一个实操案例给大家做一个具体的展示。好,那首先呢,我们进入第一个部分,就是为什么需要一个算力搭子,这块其实是从一个主要矛盾衍生出来的,那这个矛盾的左边呢,是日益增多的AIGC部署需求,右边呢是虽然说部署需求旺盛,但是部难,部署门槛高,这就导致说原原生开发和部署让中小企业和个人开发者望尘莫及啊,那在矛盾左边看,也就是从需求端的角度看,那假设呢,我是一个中小企业或者个人开发者啊,最开始我可能有一个预期的想要通过AIGC实现的效果啊,比如说像我是一个电商,我想实现这个我自己的商品用AI去进行打光啊,比如像我是一个企业的服务商,我希望说用一个开源的语言模型啊,可以给企业做私有化的定制。
03:35
啊,那在有了这些需求场景之后呢,我们就需要去找工具了,但是在找工具的过程中啊,我们就会经历到以下几个非常的环节,那以AI绘画模型这个场景举例吧,啊就比如说我是一个电商,我想实现一个我的商品的打光的效果,首先呢,我就需要去找一个合适的模型。那这个模型到底用开源的还是用闭源的啊?闭源的比如说像mid journey, 它适不适合我开源的,如果我要用sleep,那它里面可能会有很多不同的版本,比如说它是1.5的版本,SD的版本,我应该怎么选啊?版权会不会涉及到侵权的问题啊,这一块可能就会劝退一部分的用户了。
04:15
啊,那假设我们选好了模型,我们选择S1.5的模型,那如果我们想把这个模型跑起来,我们还需要搭建一个高性能的计算环境,这块又会遇到诸多问题啊,比如说像GPU的成本很高啊,比如说像驱动版本安装很复杂,怎么去选择驱动版本,比如说像插件安装好之后,插件的版本和SD的版本可能还会有版本冲突等等一系列的问题,就导致在搭建这一步可能又会花掉很长时间,一天甚至更久去搞,又会劝退一部分用户啊,那终于把模型搞好之后啊,进入模型优化和调整的流程啊,有可能会遇到因为不熟悉,然后缺少数据集,缺少监控的问题啊,那把这一步终于解决了,进入业务部署的流程,又会遇到推理效率低,集群部署难、迭代管理复杂等等一系列的问题。
05:00
好,那可以看出来哈,就是从一个新推出来的开源模型,到我们想要实现的一个预期的效果,中间其实要经历的流程是非常多非常复杂的,就会导致说很多其实可以大规模的去提升效率或者效果的这种AI的应用场景,可能会被这些流程所阻塞掉,所劝退掉。所以在这个背景下呢,我们推出了高性能应用这款产品啊,这个产品的定位呢,就是让智能算力可以更快的被集成啊,作为一个AI应用的孵化器,去助力企业加速AI应用的集成,快速的验证,并且导入市场。啊,这个产品的功能呢,用一句话来总结描述,就是一款高性价比的,稳定的、低门槛、易上手的爱层云算力产品。那具体而言,我们是怎么实现的这个效果呢?可以从三个方面展开,首先是应用啊,应用性的话,主要会可从快速部署的角度看啊,我们支持快速部署,解决了刚才提到的这个复杂流程里面第一步和第二步的问题,我们把各种最新的模型打包好,制作成应用模板,让大家可以一键去基于应用模板启动,不需要再去选择模型去配置驱动,我们都做好了,分中级创建出来啊。模板的话,比如说我们提供像sion的yby comy chat grm等等一系列的模板。
06:21
啊,另外呢,就是我们降低了这个环境的调试门槛啊,就也就是刚才提到的这个流程里面的第三步,我们提供了丰富的算连接方式,除了传统的像lab的这种terminal的交互以外,我们还提供一下web y comy等等这些可视化的连接的能力,啊,这些都是在创建出来之后可以一键启动的。啊,另外呢,我们也对复杂的云概念做了简化。比如像我们去使用传统的这种CBM的云服务器啊,你可能需要去接触到很多很复杂的云概念,学习门槛很高,比如说我们需要去创建一个VPC,我们需要去创建自己的安全组等等一系列的这种复杂的概念,我们把这些都做了简化,我们给用户提供默认的配置,一键启动啊,最后呢,就是这个产品它还可以给大家带来极致的性价比,让大家最大程度的去实现一个降本增效,快速测试的效果。我们目前的计费模式主要呢是走的按量计费,基础型的话对标的是T4这个级别的卡,一块二一个小时,然后进阶型呢,对标的是32GB的显存,三块六一个小时,性价比是非常高的。另外的话,它还支持一个关机不计费的产品,功能,比如像我们创建出一台实例,用了3个小时,我们不需要再继续使用了,那就可以立刻把它停掉,停掉就可以立刻去停止计费,实现一个降本增效的效果啊,那以上呢,就是这个产品的一些主要的功能和优势,可以看出来它其实已经帮我们解决掉了刚才提到的大部分的痛点。
07:45
啊,那基于这个产品,我们目前呢,主要是面向哪些应用场景呢?啊,面向主要的应用场景其实就是开源模型的推理应用啊,这块主要现阶段可能应用场景应用的比较多的是AI作画和语言模型这两类啊,然后另外的话,还有一些传统的这种数据科学和AI开发的场景,我们也会覆盖到,从AI会画的角度看,我们目前提供了像comp POI web UI的这些模型啊,可以支持大家去快速的进行一个AI作化的比方培训呀,或者说是入门呀,或者Laura开发训练等等,这些我们都可以快速的支持上。然后在语言模型这块呢,我们提供了像欧拉玛、chat grm拉玛等等这些最新的开源言模型啊,可以支持大家快速的去进行新模型,新的语言模型的这种评估测试,包括微调训练啊,如果你是一个高校的学生或者算法工程师,需要进行论文的写作啊,或者说是学术的这些创作,那我们也提供了像预装pet flow这种基础的开发环境,给到大家可以去进行支持。
08:45
那截止到目前呢,我们主要的客户类型这块也可以给大家做一个简单的介绍,目前主要是分两类啊,一类是这种教学教培常见的客户,那这类用户的话,典型的像呃,高校科研机构,教培机构等等,他们可以去使用hi的应用模板啊,去快速的提供一个即开即用的学习空间,给他们的这些课程实践啊,或者说是课程售卖提供一个快速的落地啊,这部分呢,使用呃腾讯云的另外一款产品close studio也可以进一步的去延伸hide产品能力啊,Cloud studio目前在底层呢,也是集成了hi的GPU算力这一部分,待会儿我们studio这边也会有同事给大家去做更详细的展开。
09:26
啊,除了教学教培这一类用户,还有一类用户呢,是AI应用落地的这一类用户,那这个用户他会使用里面的这些预装的主流的AI模型环境,对AI应用进行一个快速的验证,并且导入市场,啊比如说像之前有一个客户,他呢是做线下体验店的,那他就可以把AI的这个功能,呃,用hi去做快速部署,并且接入到他的这些线下体验单的机器上来实现一个比较好的引流效果。啊,最后呢,也给大家去同步一下,还后续的一些产品规划啊,那现在像今年上半年的过程中呢,还其实已经把单机单卡这个场景的功能迭代的比较完善了啊,那下半年的重点呢,会集中在多卡推理的这个场景,也就是呃,多机多卡更多的呢,是给大家提供一个可以把业务去做大规模部署的能力,比如说像单机单卡更多的可能是让大家去把模型快速的用起来,测起来啊,把这个环境给支持好了,比如说像我们想去测一下的效果,那可以直接用high,在三分钟以内就立马跑起来,但是呢,如果说我们测完这个效果感觉非常好,我们想要去大规模的部署,比如说像给内部1000一内部团队1000个老师去做一个AI会话的一个推理服务,这个时候其实是需要一个可以弹性扩缩的集群的,比如可以一下创建100个节点,然后在用量高峰和低谷的时候去做自动的扩缩容,来实现一个比较好的降本增效的效果啊,那在这个过程中呢,也会涉及到像推理加速的功能。
10:54
比如说像他扣的这种推理加速,然后也会涉及到更丰富的这种资源中心,更丰富的像算力啊,算法呀,然后数据集模型,一站式的这个获取体验啊,这块的话是我们今年下半年主要的一个规划,预计的话呢,是在今年9暂左右就可以实现一个上线,这块大家也可以去关注一下。
11:14
好,那以上的话就是这个产品主要的一些介绍啊,那接下来的话,我给大家做一些简单的产品演示,来让大家对这个产品有更直观的一个了解。这块首先呢,是我进入到产品的,呃,控制台,然后在这里我现在目前已经创建好了三台实例,但是我们可以先从新建的流程开始,带大家去一步一步的把刚才讲到的这些功能和优势点去进行一个更直观的感受啊,那首先点击新建。好,进入到购买页之后,可以看到在最上方的位置就给大家非常直观的展示出来了,我们目前支持的应用都有哪些啊,比如说我们区分了AI模型、AI框架、基础环境、社区应用和自定应用几类啊,AI模型里面的话,目前主要是包括划模型,比如说web UI的web UI UI, 然后包括混圆的Di,我们最近也是刚刚做了适配,然后语言模型的话,我们支持像M欧拉玛拉玛3啊,这些都是可以一键创建的,然后AI框架里面的话是包括了像petoch,这个是如果大家有这种呃学术的需求的话,可以去使用这个环境去进行创建。
12:21
啊,基础环境呢,是我们提供了一些类似虚机的环境,在基础环境里面,大家可以直接把大家的docker部署到这个环境里面啊,可以快速的把自己在其他地方已经开发好的环境,快速的拉到这个基础环境里面去做一个使用。社区应用的话,是我们第三方用户有一些上传的比较有时效性的,然后比较新的一些环境,比如说像TTS,比如说像待会儿会给大家展示一个年土特效工作流啊,比如说像GP service是一个做语音呃,合成的,就是克隆你的声音的这么一个环境啊,这些的话我们是放在社区应用里面给大家去做一个承载,然后最后的话还要自定义应用,这个的话呢,是我们在基于公共应用创建出环境,然后并且做了一些自己的开发适配之后,可以把它保存成一个自定义应用,然后后续方便自己去批量的部署,或者自己去再做额外的使用。
13:12
好,那假设我们在这块呢,就直接创建一个简单的com UI的这个工作。那接下来的话可以选择地域,地域的话我们目前支持海外和国内几个地域啊,海外地域的话呢,在下载一些这种AI模型,比方从哈face拉取模型的时候,速度会快一些,然后那国内地域的话,在国内你去部署一些自己有业务场景的,这种场景下的话,可能会连接的更快一些,这块可以大家去按需选择,那我这一次就直接选择首尔地域。啊,算力的话,目前提供两款,一款是基础型,一款是进阶型,然后马上我们在这个7月的月底还会再新上一款更加强劲的这个算力套餐。好,那这次我就选择基础型,基础型的话是有一个16GB的显存,然后实例类型可以自定义。
14:00
云盘的话,我们会免费给大家提供80GB的云盘,然后大家可以根据自己的使用需求去做呃灵活的扩容,我们目前最大的话单节点支持到600GB网络的话,我们每个月会给大家提供一个免费的500GB的呃上下的流量包,然后默认是10兆的带宽,每个月去做一个刷新。啊,所以可以看到就是购买的流程是非常简单的,就是选一个应用,选一个地域,选一个算力,然后输入一个名称,然后点击立即购买,它就开始创建了。然后创建的流程大概会花两到三分钟的时间啊,这块的话,我们可以拿一台我们刚刚创建好的环境去看一下啊,比如说像这台环境呢,是我们刚才基于年土特效的那个工作流去创建的啊,那就创建好之后,这个环境目前是支持p lab的连接方式,我们进入到GP lab, 也就是这个环境,然后根据他这块呃,我们提前已经把这个呃环境的使用说明放到了这个notebook里面,直接点击执行,执行完了之后就可以打开这么一个呃PUI的环境,那比如像这块我是用的这个粘土特效的工作流,那只需要上传我的照片,然后点击生成,很快它就可以生成一个这种粘土风的呃效果。
15:10
那除此以外呢,我们比如说在这边还可以去使用这种呃拉拉欧拉玛的这个环境,然后可以去快速的打开一个呃语言模型,然后可以去测试这个语言模型的实验效果。比如说像这块我们有拉瓦3和lava两个两个模型,那这块我们去跟他做一个交互。那在第一次输入的时候,可能会涉及到一些模型载入的时间,然后这块在下一次输入的时候就会快很多。对,然后除此以外的话呢,我们还支持像呃。我们可以把比如说把拆TTS和拉这两个环境去做一个有机斗和我们可以在这台实例上面去部署一个开源的语音合成的模型啊,可以去输入实现一个输入文字,然后输出音频的效果,然后在这台算力上呢,我们可以去支持一个呃语言模型,首先我们再说我没6。
16:12
但现在生成速度就非常快了,但是这是一个语言模型,然后把这两个模型通过代码的方式去做一个耦合,然后最终实现一个多模态模型的效果,啊,这块在之前的视频里面也给大家做过展示,这块也就不再做过多的赘述了。好,那以上的话呢,就是我今天想要给大家分享的主要内容,然后今天呢,主要是给大家介绍了为什么需要用高性能用户还这款产品,这款产品的诞生背景是什么,这款产品主要提供了哪些功能,然后通过简化这个大家连接方式的这种方式,来让大家实现一个更快的,更便捷的,更低门槛的AI模型的接入的能力,然后最后的话是通过一个简单的演示,给大家展示了怎么使用这款产品啊,那非常感谢大家观看,然后在屏幕上方的话,还有两个二维码,左边的二维码大家可以直接去扫,扫了之后我们现在是有一款特惠活动,然后可以以比较低的价格去获取到一个代金券,然后可以通过这个代金券去体验一下这个产品的能力,然后右边的话呢,是我们这个产品的用户交流群,然后也欢迎大家去扫码加入交流群,和产品团队进行一个面对面的沟通,好,然后非常感谢大家今天的参与。
17:27
好的,谢谢,谢谢杨老师的精彩分享,那我们线上如果有疑问的同学,你也可以在我们的问答区留言,我们的讲师会在后面的问答环节为大家答疑解惑。好了,那接下来呢,就有请今天的第二位分享嘉宾是来自腾讯开发者工具高级产品经理张晶静,张静晶张老师呢,负责cloud studio Co design等工具产品的策划工作,专注在教学开发,开发者生态建设。帮助教企高效落地在线代码教学场景需求,欢迎张老师给我们带来cloud studio+high便捷的大模型开发教学主题分享,有请。
18:13
诶,各位好,我是cloud studio的产品经理根呃,张静晶,然后今天的话会由我来给大家去演示我们的cloud studio, 他是如何服务好我们的教学场景里面的一些大模型开发教学的一个实战和它的一些背景。然后这里的话,我这里的嗯,自我介绍,其实主持人刚刚已经介绍过了,这里就不再赘述了,那我们就直接进到我们的具体的介绍内容吧。然后今天的介绍的话会分成三个部分,AI加教育教学的一些新趋势,以及cloud studio跟刚刚呃言成玉严玉成给大家介绍的hide结合,怎么去提供我们教学场景里面的一些轻量的GPU的这种使用的方式,嗯,然后最后会是两个演示的视频给到大家,然后告诉大家怎么去具体的使用class studio跟hi的一个结合的场景。
19:18
那这里的话,其实首先像背景这里,我们可以看到,在近些年从政策的角度,人工智能教育的整个教学发展,其实已经上升到了国家政策了,包括国务院和教育部其实都在纷纷去发布一些政策,去提到我们的人工智能的这个教育会越发的这个重要,然后其实从国家自上而下都会有很多体系化的这种建设目标,那我们高校和教培机构其实在这个过程中是非非常不可缺少的一个部分。那我们在这个整个产业需求链里面去看的话,其实会发现不管是城市智慧城市,智慧制造,还是一些医疗这些产业,然后不管是从人脸识别到手势识别,这些方案里面,其实都会涉及到一些我们AI的人才这些岗位。
20:15
那特别是像算法工程师,建模训练师,还有一些数据标注员,应用开发工程师以及交付工程师这些,呃,工程师的这种就业岗位,其实非常需要我们的教育和培训企业去帮助这些就业人员去进行培训和能力的提升的。那在这个场景之下,我们其实看到这些高校还有教培机构,其实是有很多的痛点是需要去解决的,那这里会分两个大的场景,包括教学管理和实训闭环,那教学管理的话,其实会我们每个老师在创建一个新的课程,并且进行呃课程教学的时候是会非常缺乏体验一致的工具的,那学生如何跟老师使用同样的生产环境,然后去快速的去把同样的代码运行起来,其实在现有的这个场景下是比较难支持到的。
21:13
那除了这个教学管理之外,其实实训闭环同样也是那学生自己在自己的机器上去进行的这些实验教学的这种,嗯,具体的开发的场景,然后遇到的问题,其实老师都比较难能够实时的去了解到,并且给到学生这些嗯实时的一些解答,那当然还有一个非常大的一个痛点,就是现在我们的AI教学这个场景下,很大程度上是需要用GPU的,那如果要线下让学生去购买一个GPU的机器,其实会非常的昂贵,那如果说直接使用我们线上的这些机器的话,其实会有一定的操作成本,所以结合这些痛点,我们class studio就提供了一个能够线上完成整个教学管理和实训闭环的这样的一个工具,并且在背后去连接了害的这个GPU实例,去通过。
22:12
去提供教师,教师教学的过程中去完成一些AI的这种开发教学场景。那整体的话,Cloud studio其实从底到向上,其实是有一个非常稳健的一个产品架构去支持到刚刚提到的这个场景的,那不管是资源也好,还是我们的代码编辑也好,其实都有非常丰富和深度的这些技术能力去支撑到老师可以在实际教学的过程中,可以非常稳定的去连接和使用我们的CLASS99去完成一个在线编码的体验。那除此之外,我们其实还提供了不同的产品形态,包括直接访问我们的cloud studio官网去进行教学,以及我们也考虑到一些高校和教培机构是有自己的这种在线那个教学平台的,那我们同样也提供非常呃多样化的这种被集成的方式,帮嗯,帮助高校和教师,嗯,教培机构可以更快速的把我们的这个核心的代码编辑和连接辑。
23:20
的能力,能够嵌入到他们已有的这个教学编码平台里面去。那整体来看的话,其实cloud studio产产品会有非常多的优势了,包括刚刚提到的像hi的GPU实力也是可以即开即用的,然后我们也是有一个非常完整的在线IDE去完成整个在线开发的一个流程。然后也提到了,也有刚刚提到这个轻量集成的功能,我们可以快速的去提供我们的教师使用,以及嵌入到教高校以及教培机构的也有系统里面去使用。那除此之外,我们其实是可以支持到非常快速的加载的,我们会在hi的基础之上再去做一轮那个预热,我们可以打开就可以使用我们的studio以及背后的GPU算力的,就是我们就可以教学的过程中也不需要让学生去等待了。
24:17
那如除此之外,我们还集成了嗯,腾讯提推出的一个官方的AI代码助手,然后会在通过cloud studio去打开的话,会免登录免费去使用,也就是说我们可以除了去使用GPU资源以外,其实我们还可以通过AI编码能力去辅助我们编码的过程。然后在这个整个教学之上,我们也是提供了一些比较轻量的教学管理的能力,去帮助我们的教学机构能够快速的进行一些资源分配,然后课程制作以及学生账号的这个管理,那我们如果说教学机构有很多老师学生需要去创建这种资源的话,我们都可以很快的通过API或者是线上直接操作的方式可以达成。
25:06
那很多这种技术层面的这种资源分配和权限管理的工作就可以免去了。那接下来我就给大家实际的去演示一下,我们在嗯嗯使用cloud studio和hi怎么去达成,怎么去实现一个具体的嗯AI的训练的一个场景。嗯,这里的话会有2个视频给到大家。一个是我们直接使用cloud studio和hide的这个场景下去创建一个图像分类模型,在这里的话,其实我们就可以去,嗯,像刚刚严成玉严玉成去给到大家提示的一样,我们可以去直接去选择一个派orch的框架去创建,创建我们的cloud studio的空间。在这里创建完了之后,就会自动跳转回到close studio, 然后这里的话,整个创建的时长大概是在两到5分钟,那在这里如果创建完了之后,就可以通过CLOSE9去快捷的打开了。
26:27
好,这里我加速一下这个创建的过程,那现在其实已经看到它在那个创建完成之后,就会自动切换成运行中,那这个时候我们就可以点击去访问到我们的studio的具体的在线编码的场景中了。可以看到这个打开速度还是非常快的,那这里的话,我们会在每一个hi提供的这些模板里面都会预制一些呃,Read me去帮助大家能够从零开始上手,如何去使用一个,如何使用一个新的模型啊。
27:14
嗯。那这里的话,我们会可以看到,我们这里就不去具体的使用这里的模型的一些事例的内容了,我们就直接创建一个新的我们的图像分类的模型的代码。嗯。那这里是直接已经贴进来了,然后其实可以看到这个代码的话,是一个嗯,相对简单的一个图像分类模型的一个训练的一个过程,然后在这个过程里面也会导入我们的pencil board的一个模块,让我们后续就可以通过可视化的方式去快速看到这个模型的收敛效果了。那现在我们就新建一个终端,去把这个模型训练的文件给运行起来。
28:02
啊,当然这个因为当前这个模板里面没有内置特色的这这个呃插件,所以我们需要先进行一个安装。那这里的话,其实除了特色B其实还可以安装很多其他的一些呃依赖包,因为腾讯其实已经内置了很多这种,嗯,常见的这个镜像,我们可以不用考虑网络的问题,就可以快速的去拉取到一些,嗯,拉取海量的这种依赖包。那这里的话,安装完了以后,已经开始进行这个模型训练的工作了。那我们现在的话,其实可以看到训练的这个数据结果已经在我们的文件数里面可以看到了。啊,在这个过程中,因为我们要用到那个特色board,那特色board的话,由于我们现在是一个线上的运行环境,是需要去呃处理我们的一个网络的问题的,所以这里的话,在他训练的过程中,我们就先去处理一下我们的网络,需要去开放我们需要后后续需要用到的这个网络端口,那像按照这个视频里的这个提示就可以,嗯,顺利的完成我们针对这个汉实力的一个端口的开放。
29:26
那这里是因为我们之前已经用了8080,我们就用8081去做一个呃事例啊。那这里其实已经看到他在IPO里面已经这个loss已经在下降了,所以其实我们的训训练目前看下来还是非常顺利的,那这个时候我们就新建一个终端,然后去把我们的pencil色board给启动起来。这里的话后续会用到这个,嗯,公网IP也可以在刚刚的那个页面去查询到,当然大家如果有经验的话,呃,也可以直接通过科的方式去有一些成熟的这种产品能力去获取,从这个终端就获取到我们的公网IP,这里的话就相对简单一点,就直接从hide控制台就可以获取到了。
30:11
那这里其实已经把特色启动起来了,可以看到它的这个启动的命令是放在0.0.0~8080这个端口。那我们就通过公网IP拼接这个8080的端口,其实就可以看到我们的色的这个整个运行的效果了。当前其实可以看到,虽然只进行了一个Apple的这个训练,它是整个收敛的情况其实是已经非常明显了。然后这里的话,我们设置了5个IPO去做一个训练,然后在这个让他训练的过程中,我们可以后续再给大家去介绍一下这个pencil board是如何去嗯完成的。其实这里可以看到,每一次收敛,它是有个很明显的收敛效果的。
31:16
回到这儿的话,就是会给大家继续去看我们的整个呃代码,它是如何去使用pencil board的,所以其实从第一步的话,其实从这里就可以看到,我们会在一开始先去引入特色的这个模块。它它会引入一个sum writer的这个模块,那我们在main函数里面开始训练之前,我们需要把它先引入,先启动起来,并且用write这个名,这个名称去进行一个指代。那在具体的训练的过程中,每一轮,每一个Apple和每一轮的训练,我们其实都需要去进行一个呃,Ten board的这个数据的一个打印。那这里的话,我们在每个train的这个函数里面需要去增加我们write这个入参,然后在每一轮这个训练的之后,也需要去记录具体希望我们的pencil board去记录的这个参数名称是什么。
32:11
然后通过这样的一个呃嗯,这个处理,我们就可以在整个正常的一个模型训练的基础之上去把这些数据去引入,然后去通过pencil的方式去实时的去查看到我们整个训练的一个过程和收敛的效果。那再往后其实我就可以加速一下,我们设置了5个IPO。然后再回到ten色再刷新,其实就可以看到我们整个收敛的这个情况了,那我们通过右边的这个呃参数的调节,也是可以去调节整个呃回回归收敛的这样的一个比例,去看到我们整个收敛的这个趋势线大概是什么样。嗯,那整个这个过程的话,其实可以看到10分钟就可以完成一个图像分类模型的一个训练,以及它具体收敛效果的一个查看了,那这是第一个希望给大家能看到的一个演示视频,那另外的话,其实我们考虑到,嗯,这个其实是一个正常的演示训练的模型,那在具体的高校和教培机构里面,他们是怎么使用studio和hi的,我们其实也找到了,我们正在正在就是使用我们class studio的一个盛大的这个呃场景,然后请他们去给我们录制了一下,他是如何通过class studio去创建我们他们的这个创新课程的。
33:57
不好意思,我重新打开一下。
34:01
大家好,我是来自深圳大学计算机与软件学院的吴玉然,主要分享的是我们与腾讯合作开展的创新课程。在当前人工智能快速发展的背景下。我们深圳大学计算机与软件学院紧跟趋势,与腾讯云展开合作,共同探索人工智能领域的相关课程和实训项目。我们的创新课程包含一系列人工智能的课程。其中包括人工智能基础、深度学习、机器学习等等的知识,帮助学生们构建人工智能体系的框架,巩固所学知识,加深对人工智能的了解。同时课程也是设置了一些非常实用的数学案例供学生的学习和思考。我们利用腾讯提供的cos studio中的Hai高性能工作空间。利用其提供的GPU算力,能够非常快速便捷的完成我们的教学项目,同时在课堂中也能快速的体验和掌握相应的知识点。接下来由我给大家介绍一下我们实训课程中的一个具体案例。
35:08
在实际业务场景下,由于现有的大模型的训练数据为通用的数据。缺乏实时的、特定领域的相关知识,无法满足用户实际业务的需求。给出的错误结果可能是出于幻觉之后的结果。而IG任务能够解决这个问题,通过用户准备特定任务数据作为大模型的数据。重温。满足用户的需求。这主要分为两个阶段。一个是数据准备阶段。这个阶段通过对数据进行提取,然后进行向量化,之后让数据入库。举个例子,我们准备了这些句子,然后经过BGM三大模型进行向量化之后作为语料。然后我们可以。通过提问检索其中的匹配度,给大家演示一下。
36:04
这就是我们的结果。可以看出。我们提问的句子跟语料中的句子。有很高的匹配度。然后通过。得分,相应的score进行排序,得到我们想要的最佳结果。在具体的IG项目中,我准备了一部分与我们专业相关的招聘岗位的资料。作为我们IG项实验中的语料,然后在部署的BGM3模型中将这些准备好的语料的部分内容进行量化。生成相应的配口文件,放在embeddings中间夹当中。在应在应用阶段,我们事先准备了promote。让大模型分析用户的问题,生成相关的标签,这些标签主要包含想要应聘的岗位和这些岗位的城市位置,然后与生成的配口文件进行匹配,最后检索出相对应的信息。用户可以根据输出得到相应的信息,包括公司的名称。
37:08
这些岗位的薪资以及以及工作经验等等。让我来演示一下给大家看。最后我们的问题为查看深圳派审工程师的岗位。然后经过我们的promote。大模型会检索出我们需要的。条件,比如说位置在深圳,而且我们要招应聘的岗位为派遣工程师,然后我们通过我们事先准备好的岗位。这个语料进行匹配,得到相应的具体的公司信息以及薪资要求。这就是我们一个实训这个具体案例,这是一个非常简单的案例。学生们可以根据。IG的知识,在AI平台上方便快捷的创作出属于自己的IG项目。
38:04
以上是我们在新学期人工智能创新课程当中的一个探索,谢谢大家观看。嗯,好的,然后呃,今天的演示部分大概是这样,然后也希望大家,嗯,有一个。呃,也是有一个用户群,然后如果大家对我们的产品感兴趣,或者有一些嗯,在演示中没有了解清楚的问题,希望提问的话,以及后续如果在产品中有任何使用的问题,其实都可以加入,然后现在的话,加入之后我们是会送一个价值288元的算力资源,然后大家也欢迎大家去添加了之后,找到那个群里的客服去进行一个申请。然后我这边的介绍大概是这样。好的,谢谢,谢谢张老师的精彩分享,那我们线上有疑问的同学,你也可以在我们的问答区留言,我们的讲师会在问答环节为大家答疑解惑,那接下来就有请我们今天的第三位分享嘉宾是来自腾讯云开发者AI产品负责人汪胜杰,汪老师呢负责腾讯云开发者AI代码助手产品文化设计,有十多年在协作SAAS SAP、云平台success factors HCM SAP base、数据库、power designer等产品的开发经验,在软件架构设计、项目工程管理、团队敏捷及AI研发提效等领域有资深的行业经验。那欢迎王老师给我们带来腾讯云AI代码助手常用软件开发编码教学的案子的主题分享,有请。
39:52
盛老师,Hello, 大家下午好,大家能听到吗?好的可以。
40:00
好,麻烦您共享一下。好,大家下午好,嗯,今天给大家带来一个呃,腾讯云AI代码助手的常用编程教学的实战和演练,嗯,今天的议题我们会包含着这个,这个AI代码助手是怎么样广泛应用于企业工程和这个编码辅助教学,以及我们是怎么样去思考这个产品以及未来的产品规划,接下来的话就是在提示词的这个原则和提示词的工程层面上,在AI的时代上面,其实伴随着很大的一些重要性,我们来看一下怎么样去学习并优化,并很好的用好你这个A代码助手帮助你少。开发过程当中的一些投入的成本,最后我以实战教学的方式给大家来啊演示一下,过程当中我也想到了一些很好的一些例子啊,也贯穿着前面两位分享嘉宾的一些呃,产品啊,一起来结合着给大家做一些啊演示工作。
41:04
嗯,讲师介绍,我这里就忽略了啊,我现在是在负责腾讯云AI代码助手的一款产品。好的,那我们先聊一下这个开发者啊,刚才呃前面一位呃嘉宾也聊到了class的面向于教学啊,那其实从教学开始就都是面向于软件工程,那么在软件工程的层面上,呃,可能各大的高校啊老师可能都在聊的就是好几个阶段啊,有沟通,有编码,然后你在开发,然后最后发,开发过程当中有问题了,可能去寻求一些帮助,最后然后就发布啊,基本上就这样的流程,那么在软件工程for AI场景下面,那么在这些已经有了阶段上面有哪些可以拓展的嘞,那实际上我们发现呃,在编码阶段,那更多的其实就是从无从下手啊,开发同学可能或者特别是学生从呃学习一个一门语言啊,加va或者一些新的语言,或者从面向对象开始,可能就是我从无从下手到能灵活的去利利用,然后甚至是无从下手,可能还会有一些问题,我按照老师的步骤走,但可能会报错,我该怎么去解决啊,我怎么完成我的。
42:10
课后练习怎么样完成我的一些?啊一些呃,工程上面的事情,从而面从而面向于另外一个角色转换,就是从学生啊,到大学毕业到入职,到工作一段时间,那么到工作一段时间之后,你会发现它软件工程变成了是一种软件代码工程,那么在AI场景下面会碰到更多的事情,比如说编码,怎么样更高级的去编码,那么样更好的去排错一些复杂的系统的问题啊后面会多出一个环节叫评审啊,我们有个AI评审啊,希望AI能不能帮助我去做好评审啊,提交完了代码,会有一个你的导师也好,你的合伙,呃,合作伙伴,或者是那个一起工作的前后端啊,一起联调啊评审最后可能还会进行一些调优,最后可能还会碰到一些新的一些知识点,可能要进行学习啊,我们就展到了沟通到评审到调优,那这个其实就是AIA赛道上个环节可能可以去助力,帮助大家提高效率的一个点。
43:07
那么在企业里面呢,可能还会涉及到的就是说我的这个代码是不是更安全可靠啊,是不是可以有不同的这个研发规范,数据以及各个场景,以及最终我的团队可能还会有些自定义的这样的一种呃,小技巧,然后希望也能落实给到AI,让AI能够赋能与这些技巧,成为我和我这个团队的一个数字人。那么在AI辅助中,其实我些。新的板块啊,也跟很多的这个教培机构去联合去打造了一些,呃,面向于一些特定的知识点,通过AI能辅助帮助你去解决一些问题啊,如右所啊,其实我们用了嗯对话,因为AI大模型本质上是一个的一个对话的这种效果啊,这个大家应该知道,这是transformer架构所带来的一些新特性,所以它的这个所有的上下文啊,上下文的记录都会以一种对话的方式流的返回啊,那么可能在编码过程当中其实也是流失,那么我我们只不过是把它用另外一种形式来展现出来。
44:15
那么在辅助编码过程当中,其实就是会一般情况下老师有的是候想去帮你去解答问题,其实也很难理解你的问题,所以其实这个里面就是涉及到的就是我们怎么样去更好的去利用好这个明确你的提问的方式,那么在A该大模型时代上面有没有这样的方式呢?是有的,它本质上是叫提示词promote engineering啊,大家如果有兴趣可以去看一下这个啊,搜一下promote engineering的一些技巧,那么在这里面我们是非常高度的抽象了几个原则,可以帮助大家能够对这个利用好AI来帮助大家生成你想要的代码,无论是你的代码,也有可能是你的文档,也有可能是你的这个PDF啊这种,甚至你在这种GPT上面,你一样也是可以通过这个3,你一样也符合这个3S原则啊,这个其实是一个通用的一个一个技巧,那第一个技巧就是说是要单个single啊,单个single就是说如左边第一张图所示啊,Pass in user ids等等这些东西,它其实非常啊明确。
45:16
啊,你就是一个任务啊,单任务,那多任务呢,其实不是在一个提示次工程里面能说的清楚的,那这样的话会形成一种干扰,那甚至后面我们也大家应该也很多情况下也听到过multi agent, 那这种情况下是在多agent的下面会有多个不一样的single的task来帮助你去完成组合的完成,呃,你的一个需求啊,然第二个其就是specific代表,就是说你最好能带上一个实例模拟结构啊,这样的话能精准的帮助A要的需求来生成想要东西,非况下比如说我要生成一个一个重复性的一些文档,然后重复性文里面它重复性的代码,重复性代码里面会有一些必要的东西啊,比如说每一行里面要带上我的一些啊注释,或者带上一些时间,那么接下来他可能并不是很清楚啊,你这里面是需要带这个东西,所以你肯定前面附带example那这个。
46:16
Sample非常简单,从而让他去说,从而让他去理解。OK, 你要基于这个上面的sample来生成一个你想要的需求,这个需求生成出代码要符合或者是逼近于你刚才给的sample的结构啊,这种叫specific。那最后一个其实就是呃,Short就是啊,你千万不要说的太复杂啊,一句话说的呃,太模棱两可,模棱两可你尽可能的是希望他一句话能够说明白一件事情,所以这个就是3S原则,如右下所是你要生成一个10个质质数,OK, 好,那前10个质数其实本质上还是有一些细微差别的,那么前10个里面包含的是哪?前10个就是到前10个的时候是不是就停,还是说是前10个里面是怎么样,所以他会做了一个example,说OK,就是我要生成的最终的效果啊,OK, 所以接下来他会帮你去生成这样的一个质数的这样的一个print,但他会理解OK到这里就结束了,因为你的左中括号和右中括号代表它就是个结束符,所以他会在LS这个promise这个地方,就等于是break掉么?如果你没有example的话,大模是有可能会把你把这个第二个F给省略掉,那么第二个F省略掉的话,那它可能就是说会在第。
47:29
2~30个当中,它可能会一直往下增加,但这但这个里面它就少了一些代码的更合理性啊,所以这个就是3S原则的这样的一个,呃,这样的一个。这样的一个规范,同时在promote,呃,Promote engineering里面还提到了就是zero shot one shot few shot这样三个概念,那么这个zero shot本质上是希望符合第一个S,那第二个S就代表是就是说你可以带一些example啊,能帮助你,就是说对task的描述example和你的提示词,从而让大保险能指导,那么在你short情况下,可能更多的是会有一些。
48:06
一堆的例子啊,可能每一个例子之间代表的是一些,呃,一些一些需要必须要完成的一些行动项啊,这个后面我会给大家一个非常简单的一个演示啊,大家可以了解啊,Few shot是怎么样去做的。好的,接下来又是一个agent的一个扩展啊,这个就是对于一些高级的玩家可以说,哎,我自己有自己一些自定义,我可以通过这个来扩展,通过我的agent的这个at叫agent和一个指令的这个agent的自定义的提示词,从而能完成我想要的一些效果。呃,就是跑在我们这腾讯云AI代码助手之上的所有能力啊,也欢迎大家可以啊扫码这里的二维码啊,进进群啊,在使用过程当中,我们都可以积极的啊跟您沟通啊,去交流啊,甚至可以帮你去看出来这里的问题啊,从而我们也可以帮你去调整一些你你在这里面失败的一些case带来的一些提示词,我们看一下是不是因为提示词不够用,不够好,导致它的理解上产生了一些幻觉,那么在这个过程当中,我们也支持了呃好几个模块,第一个是它的代码补全技术,对自动化测试和代码诊断,这些点是在我们腾讯内部,呃高频使用的一些啊场景。
49:24
啊,接下来我给大家做一个演示啊,嗯。啊,首先我来给大家演示一个,嗯,先接第一个,呃,第一位嘉宾的那个hi hi和close studio的逻辑,这这个页面是我基于这个class studio, 嗯,加上hi就打开了,然后呢,行为内置的一个非常有意思的example啊。OK, 呃,内置了一个这个叫做是vision transformerer in Python啊,In pouch, 然后他告诉我这个例子在这里,OK, 我可以去运行它,但是这里就是对于开发者啊,嗯,他可能会有一些,你看这里的代码还是很复杂的,对开发者,对拍拍拍O他可能不是非常了解,OK, 那我是能不能给我做一个解释。
50:05
啊好,我给你做一个解释,那么我就可以对这段代码进行一个合理的解释,那么对于框选的代码,当然也可以,就是在how over上去之后,这边可以有一个这个嗯,解释代码啊,也是可以的,那么对于开发者啊,对于学生,那么就非常容易的能理解,就是说OK,对一个por这么高深的,呃,老师也不在我身边啊,这种情况下,我看了一些有意思的效果的这个代码,我克隆到我的上面,我是我就可以很快速给我做一些解释工作。那么对于一些高级的呃,用户,假设我开发这个软件的OK,那么他想要对于说,哎,我我刚来了公司,可能我觉得这里的代码我想增加一些注释,注释文档啊,然后调整一下,我优化一下,那么我也可以对我这个代码进行一些。嗯,不好意思,我听一下这是解释啊。啊,就是生成文档,生成文档,我希望能为这些代码生成一个代码型的注释文档啊,我们来看一下它这个效果。
51:04
他会为每一个的这个呃代码的关键性的代码都会用一个Python的呃注释文档来描述啊,从而让我的代码的质量和可读性啊变得更高啊,这个是AI辅助编码过程当中经常会用到的高频的操作啊,然后我们弄完之后,我们就可以一键把它啊插入到这个右边,我们等它们啊生成完啊,这个蛋白是有点长啊,我们的我们是基于混原的这个蛋模吸音啊背后啊生成出来的这样的通过我们的提示词工程的组装,通过我们的一些对于语法的这个补货,作为一个提示词的特征,从而让他更懂我们的工程,更懂我们的代码最终生成的一个效果啊,因为你家生成初时,你必须要懂你的代码的业务逻辑,那他其实在不断的去解读你的业务逻辑和上下文,从而让它生成了一个更精准的一个代码注释,代码解释,还有修复我的代码等这样的一些高频的场景。
52:05
啊,我们再等一会儿啊,它的代码量还是挺多的,所以你会看到这其实非常减少你大大的减少你的工作量,你每天就不需要花太多时间去生成这样的一个注释,而是啊,让AI帮助你快速去生成,而且这个注释也是可以有中英文的切换,你甚至可以让他说OK,我现在代码公司是个外资企业,然后我希望申请的都是一个英文的啊,这些都是没有问题,我们可以通过高级设置可以进行一些啊设置。啊,那我们刚刚说到高级设置,我们让大继续生成,我们顺便来看一下我们的高级设置啊,我们可以让它生成的这个啊注释啊,我默认是跟随着这个语言的,我们也可以换成英文,这样的话就变成英文注释,这就是你的中文注释。啊,也可以就是说啊,嗯,可以换成你的显示语言是什么语言啊,以及我们在补全过程当中,也可以说是按行还是按块来进行生成。这个就是我们的一个,呃,核心的一个非常有意思的一个一个点啊,他还在不断的生成,大家可以看到这个这个AI正在非常努力的在帮我们去生成相关的一些信息。
53:12
啊,我们再等一下,马上应该结束了。好,主函数到主函数结束,嗯。啊,稍等一下。好,那这个我就让它挂着,我们再看第二个演示啊,等看看我们两个都做完再来啊,第二个演示是这样就是啊。啊,我们要做一个非常有意思的一个点,OK, 我还是用那个classdo。啊,我们现在打开了个空的环境啊,然后我来生成一个注释啊,这里面就提示到了,就是嗯,3S原则里面的第三个S,就是说我们就是shot里面怎么样去做shot呢?比如说我们支持一个叫new notebook.创建一个饼图。
54:01
生成IDE的使用,嗯,包含。包含ID使用人群的分布情况,我们要生成一个I这边的IPYNB的这个文件啊,我们来试一下这个效果。啊,他他进一步的做了一次事情,就是根据你的需求拆解你的子任务,对于每一个子任务,它都会生成一个对应的提示词,但这时候代码没有生成啊,我们他认为这个主主逻辑的这个agent,他认为是说我要创建一个丙图,包含一个ID使用分布人群情况,他觉得他需要四步,但是创建个笔记本,那笔记本就是Juno bookook, 好,我们点一下创创建。好,接下来的话,他会为下面4个子子任务所对应的提示词来调用混元模型来生成对应的代码,大家可以看到这个上面一直在不断的生成。啊,我刚才说的那个需求,他也表述非常清楚,就包含ID使用人群的分布情况,他会模仿,诶大概有这4个,你后面可以扩展啊,大概一个5个,大概分布比例是这样,那就随机给你生成的那些,当然后面可以让他再优化生成读取你的CS文件,那假设你是通过市场调研收取出来的,变成CS文件的话,那么它就可以帮你变成一个C文件,并且去漏的这个CC文件,从而让它生成。
55:18
好,那个这个已经运行完了,那我们直接运行它一下,看看它的效果。不好意思,这个应该是啊,没装装内核。嗯,我们来看一下这个,嗯。啊,我们还是用刚刚前面那个例子稍等。啊,我这里就不演示了,这个肯定是能保得起来,因为这是一个I的部分,因为我这个地方的环境还没有啊,这个要需要一个内核啊,然后这就是我们的一个通过这个需求能生成出对应的代码PYMB啊,然后这个是我们刚刚前面生成出来的另外一个呃,实例,他能跟我生成这样的一个柱状图啊。
56:01
好,然后嗯,当然我也可以在这里再生成一下。再来一下。稍等啊,我把这个再拷过来。啊,我们还是用这个,嗯,这个这个这个环境是装了的,刚才那个环境是空白的,我们还是用相同的,它还是给我呃生成的这四个基于火源的那个大模型啊,然后拆解出来的子任务,我创建一个笔记本,它会创建另外一个与与n ntit的2的这个ipy MB啊我们来试试看这个效果啊。验出来代码应该都是差不多的一样的,嗯,OK, 给我几个代码,12345,他还多了一个34567,他多了七个,因为大模型嘛,他有他的自己随机性啊,比较任性啊。嗯,好,我们看看。好,我们他可能有点慢啊,我们再看刚刚前面的啊,这个都做完了,做完之后呢,我们这个刚才的那个代码,我们就可以一键的,你看剩下那么多非常认真啊,我们就把它一键插进来。
57:07
好,你会看到我们这个代码就非常的舒服啊,每一行关键行它都有对应的一个注释,这就是大模型的一个power的这样的一个能力。好,那我们再回到刚刚前面那个,嗯,好,我们来运行一下,OK, 运行一下这个。选择内核。这你就可以关掉,好,你们看到最后一张表格就出来了。啊,他就嗯,通过他自己的那个组装,大概能知道大概现在的比例是多少啊,这就是一个非常简单的一个IPYMB的实例,那么这个其实是基于这个呃的,我们也在各大市场都已经上架了,以及这边都上,那么我们可以在我们的这个呃,自己的本地的IDE里面可以搜索。很是。乘以AI代码,那大家可以不用说说搜那么多了,只要搜腾讯AI也能搜到啊,这这是我们的一款腾讯云的AI code assistant.
58:08
同时呢,我们也有bring,好,我们来看一下bring的。那个拉。腾讯云。AI代码注test好,那么装完之后,其实大家都可以在这里面测栏都能够看到我们这个注释。那这个注射,比如说我们现在现在是一个这个就是那个,呃,比如说这是一个我们的这个NOS的这样的一个项目啊,那我让他去描述一下这个note JS里面啊,这个这个相关的事情,那么你都可以进行一些啊全选啊,然后全选之后你就可以进行啊解释一下这个代码,我才会去scan诶。嗯。那我们来看一下Java的。
59:00
嗯,好,然后我们来看一下这个,嗯,这个的话就是大部分的情况下是在这个,嗯嗯,在我们的注释情况下,我们可以去生成一些嗯代码补全啊,我们来生成代码补全,那么我们在这个注释的这个点上面,我们可以通过一些注释啊,特别是在这些工程场景下面啊,我们通过已经上面的已经有的代码和下面有的代码,我们可以通过这样的一个注释描述啊,可以去生成生成一个代码,那这个代码就是啊,可以根据你的上面,上面应该是一个get的一个请求和下面是一个查询商品的这个product,那么它可以进行一些更新,根据我的描述post请求和啊写个update ID, 那么我只要确认一下,那么他就可以帮我快速生成一个,呃,大概差不多有10行左右的这个代码,从而让你大大减少了你的那个工作的那工作量的问题。啊,这是其实在工程上面情况下,会经常会用到这个叫做代码补全啊,我们代码补全我们生成啊,可以按行或者生成按按块,同时我也可以对我这些代码,比如说这个代码,然后呢,我可以右键。
60:09
然后腾讯二代码助手给我说做一个代码上面的缺陷修复,看一看这里到底有没有问题啊,我们来看看,他给我做一个解释,诶,他说他发现了一个问题啊,你这里会有啊空指针异常。那给我做一轮修,修复好的给他做一轮修复,他给了我一轮修复,那我想看看他到底给我修复成啥样,我先做个代码的比较。哦,我大概知道了,他给我增加了一个F的判定啊,那那我们接受一下。然后我们这个代码就已经啊变掉了啊,那这样的话,我们这个代码就质量就会更好,也保保护了代码。那么在学生的那个场景下面,他可能没有那么大的工作量,那么这个时候AI代码是不是能帮助我做什么呢?我来给大家举一个例子,比如说啊,这是一个,呃,约瑟夫还啊,具体是什么我可能自己也不是很清楚,那么这种情况下我可以去问他,啊,约瑟夫还求解要像他的完整代码。
61:06
我让他给我生成一下。啊好,他先给我生成了一个Python,那我先停了一下,那首先我先解释一下。他是给我生成了一段这个Python的这个逻辑,OK, 好,我现在问他一下什么是什么是约瑟夫是。这个对于学生特别有有意义,就是我可能在大学里面看到过这个词,特别是我想要一个po,我我可能不是非常了解po,那么什么是次付环,是什什么,他会给我做一轮的这样的一个解释,并且就是说会给我按照,因为我是个ID,他知道我大概需要生成代码,于是他会给我生成一个这样的一个约色付还的这样的一个实例代码,那么我就可以把它一键插入到这个当中,进行一些运行,运行工作,那我们来看一下这个效果。啊,这个也是基于混圆的这个大模型,快速帮我去生成啊,所谓的约瑟复化啊,这是一个经典的计算机科学问题,就是在一群人当中可以按照这个顺序,直到报数那个人被淘汰,最后留下那个人通过递归的方式来实现,那么大家也可能经常会在一些离的层面上去刷题,通过一些刷题的方式,你大家也可以把它喂到这里面来进行一些像老师一样在这里进行提问,嗯,像像像和老师一样提问,你就可以让老师给以让一些精准的回答,最后可以让老师或者你可以跟老师一起进行一些battle,最后来理解并生成写完你这段应用,从而给你的代码的水平有所提高。这个也是AI场景下面最经典的面向与开发,面向于教育最有帮助的一个场景之一,嗯。
62:39
好的,我这里的演示到这里,然后啊,再再给大家做最后一轮的总结,就是啊,腾讯云I代码助手呢,他其实市面上开发者,无论是你学生还是企业的开发者,他都很好的帮助大家在这个开发辅助学习代码,呃理解工程层面上做呃一个助手啊,我认我们我们认为他就是一个你在未来的工作中的一个AI数字人,AI编码数字人。
63:08
好,我这里演讲到这里,谢谢大家。嗯,好的,谢谢,谢谢汪老师,也再一次感谢我们今天三位老师的精彩分享,那接下来我们就进入到今天的QA环节,请我们的三位老师啊来为我们解答线上观众的问题,好了,首先呢,我们看看观众提的第一个问题啊,请问AI绘画有哪些风格的模板支持个性化调整嘛,那这个问题请玉成老师来帮我们回答一下。好的。呃,这块是支持的,就是目前高性能用服务hi的话,在预装的这个notebook里面给大家提供了像SD叉,LSVDV5这些非常最常用的模型的一个快速下载啊,通过这个notebook的这个命令行,可以实现一分钟以内就把这些模型都拉到本地,那除此以外的话呢,大家也可以去像C站或者一些主流的这种AI模型的这种站点啊,从这些站点把模型下载到hide本地也是支持的。
64:05
然后另外的话,还在社区应用里面也提供了Laura train的环境,大家可以通过这个环境快速的去训练自己的自定义模型,然后来实现一个自己预期想要实现的效果。嗯,好的,谢谢,那呃,看一下我们关注的第二个问题,腾讯有没有自己的大语言模型呢?能否演示一下给一个大模型的评分对比图呢?呃,玉成老师。呃,这块的话,腾讯有自己的混元大模型,然后目前的话呢,已经开放了元宝和元气的服务,然后这块的话可以去体验一下。好的,感谢啊,我们来看一下那第三个问题,我们的观众问到cloud studio目前有试用的活动吗?静静老师。嗯,是有的,嗯,Class studio的话,嗯,目前的话是会分为通用的工作空间和高性能工作空间,通用工作空间是背后是GPU的算力,那这块的话每个月是会赠送给用户3000分钟的使用时长,然后是支持两核4g,四核8g及8核16g的这样的不同的规格的空间都是可以免费使用的,然后刚刚提到的hide GPU算力的话,我们同样也是能支持免费使用的,那这部分是我们单独拎出了1800分钟的免费体用体验时长,然后大家也可以直接通过class studio的这个官网去,呃,注册去使用就可以了。
65:35
不需要一些前置的要求,嗯,好的,那我们观众还想了解其,呃,问到是否有一些应用的案例可以给我们分享一下。嗯,我们会逐步的把今天以及未来会整理出不同的案例,会共享到我们的这个cloud studio的公众号,然后大家可以直接搜索studio就可以找到我们的公众号,今天的这些代码的内容以及后续的分享都会更新到那个公众号上。
66:03
大家可以关注一下。好的,谢谢,那看一下我们下一个观众的问题,嗯,之前呢,有用过混原生图,呃,演示的时候怎么接入的混圆,请问有哪些额外的效果,那请圣洁老师来帮我们回答。呃,这个可以,玉成可以回答一下这个纹身图这块一生老师。呃,是混元DT这块是吧。观众问到,呃,用过的是混原生图,演示的时候想了解怎么接入的混有哪一些额外的效果?哦,明白,我们这边相当于是把混原Di ITT所需要的环境以及模型都打包好,成了一个应用,然后在hi里面可以直接选择这个应用,把实例创建出来,创建出来之后的话,可以使用这个环境去快速的测试还原dit的效果,然后后续的话,我们也会提供一些相关的推理压速框架啊,比如像他购去实现一个这个dit生图推理加速的效果啊,这块可以持续关注一下。
67:07
好的,谢谢谢三位老师,那以上呢,就是我们今天关注问答的所有的问题了,那我们今天的问答环节到这结束了,非常感谢三位老师带来的精彩回答和分享,我们的时间呢过得很快,本次的课程也进入到了尾声,再次感谢大家对于我们的参与和关注,我们下一次的课程再见。
我来说两句