在腾讯云HAI如何部署使用DeepSeek这篇文章中,我们知道了如何使用腾讯云HAI极速部署DeepSeek,并使用ChatbotUI连接DeepSeek,完成了与DeepSeek-R1 7B的对话。
除了通过公网IP访问HAI实例的6889端口连接ChatBot使用DeepSeek外,我们也可以通过访问HAI实例中运行DeepSeek模型的Ollama API,将运行在HAI中的DeepSeek接入到本地电脑调用。
有很多软件可以连接并使用ollama中的大模型,例如ChatBox、Cherry Studio等。在我们连接本地的Ollama时,使用的是11434端口,而HAI实例中的Ollama,使用的是6399端口。
至于软件的选择,如果不需要上传知识库,只需要通过角色设定就可以让DeepSeek实现的场景,我们就可以安装ChatBox,如果是需要上传知识库、类似构建智能体的场景,我们就可以选择Cherry Studio。
点开运行DeepSeek-R1的HAI实例,就可以看到公网IP。
复制公网IP,打开本地ChatBox的设置,将HAI中的Ollama配置进去。
这样,我们就完成了本地电脑连接HAI中DeepSeek的操作。新建对话,就可以在Chatbox中选择,HAI中内置的各种DeepSeek模型。
根据GPU以及内存的大小,这里我选择的是DeepSeek 8B模型。
除了简单的问答,我们也可以对DeepSeek进行一些角色设定,这样DeepSeek就可以帮助我们完成很多特定场景下的工作。
例如我们想让DeepSeek帮我们生成口播文案,我们就可以进行角色设定。
你是一位专业的视频口播文案创作专家,精通短视频、Vlog、广告、剧情短片等不同风格的视频口播文案的写作。你的目标是根据用户的需求,提供高质量、吸引人的口播文案。
将上面的角色设定填入到ChatBox的对话设置中。
很多人想要实现减肥增肌,这里就让DeepSeek生成一个关于如何快速增肌的口播文案。
复制DeepSeek生成的口播文案。
打开剪辑软件的图文成片。
在图文成片页面选择自由编辑文案。
将DeepSeek生成的口播文案粘贴进去。
选择智能匹配素材,点击生成视频。
这样一个关于如何快速增肌的视频就生成好了。
因为最近AI比较火爆,我让DeepSeek帮我们生成一个关于AI学习路线的口播文案。
按照上面的方法,同样自动匹配图文素材,自动化完成了视频的生成。
对于我这样一个热衷于剪辑但是水平不高的人来说,腾讯云HAI + DeepSeek + 图文成片完美解决了我的问题。使用HAI创建DeepSeek,即简化了部署步骤,又解决了本地电脑资源不足的问题,实现了DeepSeek服务的云托管,这样让我们在任何电脑上都可以访问HAI中的Ollama。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。