大家好,很高兴又和大家见面啦!!!
相信大家现在对DeepSeek这个国产AI已经并不陌生了,并且大部分的朋友已经开始用上了DeepSeek。
说来惭愧,我最近在忙着其他的事情,所以没有第一时间接触该AI,不过没关系,至少咱们现在也是开始使用DeepSeek这款国产AI了。
就我个人的使用体验,我感觉不太好,基本上每天一个问题之后,就会出现服务器繁忙,请稍后再试的提示,相信大家也很头疼这个问题。
不过没关系,今天博主就给大家带来了一种解决方法——通过ollama进行deepseek的本地部署。
接下来我们就来看一下具体应该如何操作吧!!!
Ollama是一个开源的、用于运行各种语言模型的工具,具有以下特点和功能:
Ollama的命令主要有以下这些:
启动Ollama服务:
ollama serve
创建模型:ollama create /path/to/Modelfile
显示模型信息:ollama show model_name
运行模型:ollama run model_name
从注册表拉取模型:ollama pull model_name
将模型推送到注册表:ollama push model_name
列出所有模型:ollama list 或 ollama ls
列出正在运行的模型:ollama ps
删除模型:ollama rm model_name
查看版本:ollama -v 或 ollama --version
复制模型:ollama cp old_model new_model
停止正在运行的模型:ollama stop model_name
获取帮助信息:ollama help 或 ollama -h
以下是不同系统快速下载Ollama的方法:
curl -fsSL https://ollama.com/install.sh | sh
即可完成安装。由于我自己的电脑是Windows 10,因此这里我只能够展示一下自己的安装过程。
当我们进入官网后,我们可以看到Ollama的主页内容为:
可以看到Ollama支持的AI模型非常丰富,常见的有以下几类:
在进入官网后,我们直接点击下载按钮,进入Ollama的下载界面,选择自己的系统进行文件下载:
PS: 这里要注意,这个下载的网速可能不太稳定,如果下载的时间过长,可以取消重新下载,多试几次。我第一次下载的时候它需要17个小时才能完成下载,但是后面尝试了多次后,最终只用了十几分钟的时间就完成了下载。它这里下载的实际上就是一个安装文件,对应的文件我已经上传了,大家不想在官网下载,也可以直接下载资源。
下载好后我们可以打开我的电脑,选择下载,找到刚刚下载好的文件:
这里我的习惯是把下载好的文件直接剪切后,粘贴到自己所需要进行存放的目录下,我的习惯是将软件类的文件放在D盘,大家根据自己的需求进行放置。
我们在完成下载后,就可以直接找到对应的文件进行安装操作了:
现在我们双击该应用程序进入安装界面,我们就能够看到对应的安装窗口:
这里我们直接点击Install
进行安装,等待程序自己完成安装,这里程序是默认安装在C盘中,这个我们无需理会。
由于该程序在安装完成后,可能无法正常弹出对应的控制台窗口用于提示安装是否成功,这里我们可以通过本地的控制台窗口来进行检查,步骤如下:
ollama --version
,若输出版本号,则说明安装成功。可以看到,此时我已经完成了Ollama的安装工作。
在完成Ollama的安装后,我们就可以继续进行AI模型的本地部署了,不同版本的部署指令如下所示:
版本型号 | 安装指令 |
---|---|
DeepSeek-R1-Distill-Qwen-1.5B | ollama run deepseek-r1:1.5b |
DeepSeek-R1-Distill-Qwen-7B | ollama run deepseek-r1:7b |
DeepSeek-R1-Distill-Llama-8B | ollama run deepseek-r1:8b |
DeepSeek-R1-Distill-Qwen-14B | ollama run deepseek-r1:14b |
DeepSeek-R1-Distill-Qwen-32B | ollama run deepseek-r1:32b |
DeepSeek-R1-Distill-Llama-70B | ollama run deepseek-r1:70b |
DeepSeek-V3 | ollama run deepseek-v3 |
由于我这台电脑已经很老旧了,各种配置只能够适应r1的最低版本.1.5b,这里我也就给大家看一下安装好后的界面:
至此,我们就完成了deepseek本地部署的工作。
DeepSeek-R1各个版本所需的电脑配置如下:
大家可以根据自己的电脑配置来安装更加合适的版本。
AI是科技发展的产物,随着时代的发展,AI将会逐渐在社会中进行普及,相信再过一段时间后,AI也会像手机、电脑这样的科技产物,被所有人使用。
为了与时代接轨,顺应时代的洪流同步发展,我们应该开始接触并学习一些AI的知识与相关软件的操作,以帮助我们在日常工作中大大提高我们的工作效率,节省我们的工作时间。
接下来,博主也会开始慢慢的更新一些AI相关的博客内容。期待各位的关注、点赞、与评论,同时大家也可以将博主的文章分享给更多需要的人!!!
谢谢大家,咱们下一篇内容再见!!!