Loading [MathJax]/jax/output/CommonHTML/config.js
部署DeepSeek模型,进群交流最in玩法!
立即加群
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >手把手教你将本地部署的DeepSeek R1集成到Dify

手把手教你将本地部署的DeepSeek R1集成到Dify

作者头像
AIGC新知
发布于 2025-02-03 13:54:14
发布于 2025-02-03 13:54:14
6.4K0
举报
文章被收录于专栏:AIGC新知AIGC新知

今天,手把手教大家在本地部署DeepSeek R1,并将其集成到Dify中,实打实提升你的工作效率!

一、本地部署模型

本部分介绍在本地通过ollama部署DeepSeek R1。

1、安装ollama

在ollama官网,选择操作系统,下载ollama应用程序并安装

命令行输入ollama,出现下面的提示,则说明安装成功。

2、部署deepseek模型

在ollama官网,点击「Models」,选择第一个「DeepSeek R1」

根据自己的显存选择对应的版本大小。

模型名称

参数规模(b)

显存需求(FP16,GB)

显存需求(4位量化,GB)

7b模型

7

16

4

16b模型

16

37

9

67b模型

67

154

38

236b模型

236

543

136

671b模型

671

1543

386

推荐GPU: - 7B和16B之类的较小型号,消费者GPU(例如NVIDIA RTX 4090)是合适的。 - 较大的模型,超过1000亿个参数的模型,通常需要数据中心GPU,例如NVIDIA H100或分布式设置中的多个高端消费者GPU。

如何查看自己电脑显存呢?

在windows10电脑上,右键点击左下方的Win10图标,弹出下拉菜单,选择【运行】选项并点击进入运行对话窗口,在运行对话窗口内输入dxdiag命令【主要查看N卡】。

计算:电脑显存==>16112MB / 1024MB约等于16GB,选择最小7B参数的模型。

点击7b,然后在右侧会出现下载命令:

将下载命令复制,到命令行中执行:

下载之后,就可以通过命令行和大模型进行对话了:

通过命令行和大模型进行对话不太方便,接下来,介绍一下将其集成到Dify中,通过可视化的方式调用。

二、Dify中配置DeepSeek R1

登录到已经部署好的Dify中,点击设置,在「模型供应商」选择「ollama」

「模型名称」填:deepseek-r1:7b。

「基础URL中」,若ollama和Dify是同一台机器部署,并且Dify是通过Docker部署,那么填http://host.docker.internal:11434,

其他情况填http://localhost:11434,填完之后点击保存即可。

三、创建应用

在Dify中创建一个应用来使用DeepSeek R1模型。

创建一个「聊天助手」,填写「应用名称」和「描述」,点击创建:

选择添加好的DeepSeek R1模型:

需要注意的是,DeepSeek R1是一个推理模型,不支持函数调用,也就是说无法集成在DIfy的智能体中,但是DeepSeek V3可以。

没有联网的deepseek-r1存在严重的幻觉。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2025-01-31,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 AIGC新知 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
教你如何进行Deepseek自动化部署
最近随着DeepSeek的爆火,好多同学私信询问我是否有简单强势的DeepSeek部署操作呢? 我的回答是有的兄弟有的,我这里有三种部署方案,大家可以参考下,分别是自动化部署、本地部署、可视化UI界面部署
凯子坚持C
2025/04/30
1080
教你如何进行Deepseek自动化部署
Dify教程02 - Dify+Deepseek零代码赋能,普通人也能开发AI应用
开始今天的教程之前,先解决昨天遇到的一个问题,docker安装Dify的时候有个报错,进入Dify面板的时候会出现“Internal Server Error”的提示,log日志报错:S3_USE_AWS_MANAGED_IAM to S3UseAwsManagedIam: converting '' to type bool.。
星哥玩云
2025/04/10
4550
Dify教程02 - Dify+Deepseek零代码赋能,普通人也能开发AI应用
基于Ollama的DeepSeek R1本地部署全流程指南:从零到推理实战
在人工智能技术快速发展的今天,本地化部署大型语言模型(LLM)已成为开发者与研究人员的重要需求。本文将详细介绍如何通过Ollama框架实现DeepSeek R1模型的本地部署,涵盖从硬件选型到推理实战的全流程,并提供针对不同场景的优化方案。
Towserliu
2025/02/06
10.7K0
基于Ollama的DeepSeek R1本地部署全流程指南:从零到推理实战
在本地电脑部署自己的 DeepSeek 大模型 AI:小白也能轻松上手
最近 DeepSeek 大模型 AI 火遍全网,我也忍不住去了解了一番。尝试在本地部署后,发现整个过程非常简单,于是决定记录下来,分享给大家。本文将以最基础的方式演示如何部署,无需使用 Docker 容器,也不需要“魔法上网”,即使是计算机小白也能按照步骤轻松完成。
后端码匠
2025/02/06
3.1K0
高效快速教你deepseek如何进行本地部署并且可视化对话
随着最近一个新的人工智能deepseek的爆火,很多大佬都开始了在本地进行deepseek的部署操作,并且离线也可以使用,这里的话我就一步一步带你们部署本地的deepseek,说实话这个人工智能的实力不亚于open ai 的gpt
凯子坚持C
2025/02/02
14.7K8
高效快速教你deepseek如何进行本地部署并且可视化对话
如何快速高效本地部署DeepseekR1大模型?保姆级教程 无惧隐私威胁
DeepSeek 隐私政策中提到了关于用户输入信息收集的条款,无论你输入什么文本,以及上传什么文件都会被第三方机构所收集,所以如果是在进行相关的项目研究或者实验进展分析的时候,就很有必要对数据进行隐私保护,且本地部署是支持离线的
DARLING Zero two
2025/02/02
5.6K0
如何快速高效本地部署DeepseekR1大模型?保姆级教程 无惧隐私威胁
不要花钱买课了!3 分钟教你自己本地部署 DeepSeek-R1
最近在群里看到个离谱的事——有人居然在淘宝、闲鱼等平台上收钱帮人部署 DeepSeek-R1!更离谱的是,居然还有不少人掏钱买这个服务。说实话,这种割小白的操作真的让人无语。
老码小张
2025/02/05
7950
不要花钱买课了!3 分钟教你自己本地部署 DeepSeek-R1
小白也能看懂的DeepSeek-R1本地部署指南
春节期间 Deepseek 凭借其出色的性能表现,吸引了众多技术爱好者的目光,会用的人说巨好用,但是也有很多人说也不过如此,其实这么多国际巨头都震惊,自然是非常惊艳的一款产品。如果你也渴望在本地部署该模型,深入探索其强大功能,那么这篇攻略将为你提供详细的指导。这里面我将给大家演示的是 windows 和 mac 双平台的部署。废话不多说,现在开始和大家一起部署。
徐建国
2025/02/06
53K5
小白也能看懂的DeepSeek-R1本地部署指南
快速搭建dify和deepseek,让普通人也能轻松训练AI
AI已然成为当今的热门话题。过去,由于私有化部署成本极高,大多数使用者仅停留在简单的问答阶段,极少有人尝试训练大模型。然而,随着DeepSeek R1的问世,其部署成本仅为chatGPT的十分之一,这让许多企业和个人看到了参与的希望。未来,必将有越来越多的垂直领域AI大模型或应用出现,这或许是一个巨大的机遇。那么,普通人要如何参与呢?要如何训练自己的AI呢?本文将介绍一种简单且无需编写代码的方法,帮助您轻松训练AI应用。
SRE运维手记
2025/02/20
3371
快速搭建dify和deepseek,让普通人也能轻松训练AI
小白也能看懂的DeepSeek-R1本地部署指南
春节期间,Deepseek以其卓越性能赢得众多技术爱好者的关注。用户评价褒贬不一,但国际巨头的震惊足以证明其非凡之处。若你想在本地部署该模型,探索其强大功能,以下指南将为你提供详细指导。本文将介绍Windows和Mac双平台的部署流程。
全栈若城
2025/02/08
57.4K2
小白也能看懂的DeepSeek-R1本地部署指南
基于 Deepseek LLM 本地知识库搭建开源方案(AnythingLLM、Cherry、Ragflow、Dify)认知
LLM 本身只是一些 神经网络参数, 就拿 DeepSeek-R1 来讲,模型本身存储了 权重矩阵,以及 混合专家(MoE)架构, 实际运行起来需要行业级别的服务器配置, 消费级别的个人电脑不能直接运行,实际还涉及到硬件适配,需手动配置 CUDA/PyTorch 环境,编写分布式推理代码,处理量化与内存溢出问题
山河已无恙
2025/02/25
1.4K0
基于 Deepseek LLM 本地知识库搭建开源方案(AnythingLLM、Cherry、Ragflow、Dify)认知
【DeepSeek】在本地计算机上部署DeepSeek-R1大模型实战(完整版)
2025年1月,中国春节期间,DeepSeek爆火,称为全球最炙手可热的大模型。DeepSeek一路 “狂飙”,在美国科技界和美股市场掀起惊涛骇浪,1月27日,美国三大股指开盘即暴跌,英伟达、微软、谷歌母公司Alphabet、Meta等美国主要科技股均遭遇股市地震,其中英伟达跌近17%,单日市值蒸发约6000亿美元,创美股最高纪录。
Francek Chen
2025/02/12
1.4K0
【DeepSeek】在本地计算机上部署DeepSeek-R1大模型实战(完整版)
手把手带你用DeepSeek-R1和Ollama搭建本地应用,一文搞定!
昨天文章《DeepSeek R1本地部署,小白教程来了!》的预告来兑现了。同时,有学习者问「可以上传文件啥的吗」?有的兄弟,有的。今天完整教程,它来了!
Datawhale
2025/02/05
10.1K0
手把手带你用DeepSeek-R1和Ollama搭建本地应用,一文搞定!
本地部署DeepSeek-R1大模型
想不依赖网络、零门槛运行AI大模型?Ollama帮你轻松实现!本文手把手教你部署DeepSeek模型,并通过本地API实现对话、编程、数据分析,小白也能秒变AI玩家!🌟
全栈开发日记
2025/02/10
9780
本地部署DeepSeek-R1大模型
彻底疯狂!腾讯云 AI 代码助手支持 DeepSeek R1 接入 !好用免费!
只需几步简单配置,就能搭建一个基于 DeepSeek,集「智能问答+实时搜索+ 补全代码」于一体的 AI 超级应用,你摸鱼,让 AI 给你免费打工!🤣
腾讯云代码助手
2025/02/10
3.9K3
满血版671B DeepSeek R1本地部署,详尽教程来了!
作者简介:伦敦大学学院(UCL)计算机系博士研究生,谷歌开发者专家,主要研究方向为学习优化,在 NeurIPS、ICLR、AAMAS、CIKM 等会议发表过学术论文,Circuit Transformer 作者,图书《简明的 TensorFlow 2》(https://tf.wiki)作者
SQL数据库开发
2025/02/20
6420
满血版671B DeepSeek R1本地部署,详尽教程来了!
AI 最佳实战:最简单、最强大的 DeepSeek R1 本地部署及配置建议指南
只会用 Ollama 本地运行 DeepSeek R1 等大模型?本文介绍一款简单、强大的本地运行各种 LLM 的工具,LM Studio。
运维有术
2025/02/12
5700
AI 最佳实战:最简单、最强大的 DeepSeek R1 本地部署及配置建议指南
无需云端服务器: 三步实现DeepSeek大模型本地化部署deepseek、Ollama和Chatbox
还在为云端AI服务的高昂费用而苦恼?是否总担心数据隐私会在云端泄露?别愁啦!DeepSeek R1——这款与OpenAI o1性能相媲美的开源大模型,结合Ollama和Chatbox工具,就能让你轻松在本地实现大模型的部署,零成本、高隐私,畅享AI应用的无限可能!🤗
猫头虎
2025/02/02
1.8K0
无需云端服务器: 三步实现DeepSeek大模型本地化部署deepseek、Ollama和Chatbox
使用Ollama部署deepseek大模型
我的显卡在Windows电脑上面 所以使用Windows的安装方式去安装 若你的显卡是在Linux上面 可以使用如下命令安装
小陈运维
2025/02/04
2.2K0
使用Ollama部署deepseek大模型
【人工智能】学会这几个命令,你也能快速完成DeepSeek R1的本地部署!!!
相信大家现在对DeepSeek这个国产AI已经并不陌生了,并且大部分的朋友已经开始用上了DeepSeek。
蒙奇D索隆
2025/02/09
6940
【人工智能】学会这几个命令,你也能快速完成DeepSeek R1的本地部署!!!
推荐阅读
相关推荐
教你如何进行Deepseek自动化部署
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档