部署DeepSeek模型,进群交流最in玩法!
立即加群
发布
社区首页 >专栏 >使用腾讯云HAI高性能服务器部署DeepSeek-R1

使用腾讯云HAI高性能服务器部署DeepSeek-R1

原创
作者头像
半月无霜
修改2025-02-11 13:12:27
修改2025-02-11 13:12:27
1120
举报
文章被收录于专栏:半月无霜半月无霜

一、前言

最近的DeepSeek好火,它是由杭州深度求索人工智能基础技术研究有限公司出品的一款先进的人工智能产品DeepSeek以其强大的技术实力和创新应用,迅速在人工智能领域崭露头角,成为行业关注的焦点。

DeepSeek官网:DeepSeek | 深度求索

不过在使用chat聊天的功能中,经常出现服务器繁忙,请稍后再试的问题

image-20250211113907549
image-20250211113907549

这有服务器资源的原因,也有境外势力攻击的原因。总的来说,DeepSeek产品爆火后,带来巨大的关注与流量的同时,也要看DeepSeek能否稳稳地吃下这波流量。

好在,DeepSeek-R1模型开源了,被各大厂商所接入使用,那么本篇文章将会使用腾讯云的HAI高性能服务器部署使用DeepSeek-R1

二、部署使用

首先,我们先打开腾讯云控制台,找到HAI高性能服务器控制台面板,链接如下

高性能应用服务HAI_GPU云服务器_腾讯云

点击立即使用,开始我们的部署步骤

image-20250211121147017
image-20250211121147017

点击新建

进入新建页面之后,我们就可以选型了,里面有很多大模型提供进行选择

我们这边选择DeepSeek-R1进行部署

image-20250211121621287
image-20250211121621287

剩余的量力而行,部署测试阶段少整点

image-20250211121720504
image-20250211121720504

立即购买后,我们等待应用的创建,算力资源只需要两三分钟即可自动创建完毕

image-20250211121759829
image-20250211121759829

创建完成之后,我们可以使用 Web 浏览器方式和终端命令行方式访问 DeepSeek-R1 模型的ChatbotUIJupyterLab

image-20250211122504825
image-20250211122504825

我们选择ChatbotUI,进入页面,可以选择自己的模型,1.5b 代表模型参数为 15 亿个,7b 则代表 70 亿个模型参数

image-20250211123218387
image-20250211123218387

我们就可以问它问题了

image-20250211123418188
image-20250211123418188

对代码的支持如何,我重新试了一下,可以看到效果也是非常好的

image-20250211123708864
image-20250211123708864

三、最后

腾讯云HAI高性能服务器,还能完成其他一些模型的部署,如果有需求也可以看看其他的

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一、前言
  • 二、部署使用
  • 三、最后
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档