大家好,很高兴又和大家见面啦!!!
相信大家现在对DeepSeek这个国产AI已经并不陌生了,并且大部分的朋友已经开始用上了DeepSeek。
说来惭愧,我最近在忙着其他的事情,所以没有第一时间接触该AI,不过没关系,至少咱们现在也是开始使用DeepSeek这款国产AI了。
就我个人的使用体验,我感觉不太好,基本上每天一个问题之后,就会出现**服务器繁忙,请稍后再试**的提示,相信大家也很头疼这个问题。
不过没关系,今天博主就给大家带来了一种解决方法——通过ollama进行deepseek的本地部署。
接下来我们就来看一下具体应该如何操作吧!!!
Ollama是一个开源的、用于运行各种语言模型的工具,具有以下特点和功能:
Ollama的命令主要有以下这些:
启动Ollama服务:
ollama serve
创建模型:
ollama create /path/to/Modelfile
显示模型信息:
ollama show model\_name
运行模型:
ollama run model\_name
从注册表拉取模型:
ollama pull model\_name
将模型推送到注册表:
ollama push model\_name
列出所有模型:
ollama list 或 ollama ls
列出正在运行的模型:
ollama ps
删除模型:
ollama rm model\_name
查看版本:
ollama -v 或 ollama --version
复制模型:
ollama cp old\_model new\_model
停止正在运行的模型:
ollama stop model\_name
获取帮助信息:
ollama help 或 ollama -h
以下是不同系统快速下载Ollama的方法:
curl -fsSL https://ollama.com/install.sh | sh
即可完成安装。由于我自己的电脑是Windows 10,因此这里我只能够展示一下自己的安装过程。
当我们进入官网后,我们可以看到Ollama的主页内容为:
可以看到Ollama支持的AI模型非常丰富,常见的有以下几类:
Llama系列
Mistral系列
WizardLM系列
Phi系列
Deepseek系列
其他
在进入官网后,我们直接点击下载按钮,进入Ollama的下载界面,选择自己的系统进行文件下载:
PS:
这里要注意,这个下载的网速可能不太稳定,如果下载的时间过长,可以取消重新下载,多试几次。我第一次下载的时候它需要17个小时才能完成下载,但是后面尝试了多次后,最终只用了十几分钟的时间就完成了下载。它这里下载的实际上就是一个安装文件,对应的文件我已经上传了,大家不想在官网下载,也可以直接下载资源。
下载好后我们可以打开我的电脑,选择下载,找到刚刚下载好的文件:
这里我的习惯是把下载好的文件直接剪切后,粘贴到自己所需要进行存放的目录下,我的习惯是将软件类的文件放在D盘,大家根据自己的需求进行放置。
我们在完成下载后,就可以直接找到对应的文件进行安装操作了:
现在我们双击该应用程序进入安装界面,我们就能够看到对应的安装窗口:
这里我们直接点击Install
进行安装,等待程序自己完成安装,这里程序是默认安装在C盘中,这个我们无需理会。
由于该程序在安装完成后,可能无法正常弹出对应的控制台窗口用于提示安装是否成功,这里我们可以通过本地的控制台窗口来进行检查,步骤如下:
ollama --version
,若输出版本号,则说明安装成功。可以看到,此时我已经完成了Ollama的安装工作。
在完成Ollama的安装后,我们就可以继续进行AI模型的本地部署了,不同版本的部署指令如下所示:
版本型号 | 安装指令 |
---|---|
DeepSeek-R1-Distill-Qwen-1.5B |
|
DeepSeek-R1-Distill-Qwen-7B |
|
DeepSeek-R1-Distill-Llama-8B |
|
DeepSeek-R1-Distill-Qwen-14B |
|
DeepSeek-R1-Distill-Qwen-32B |
|
DeepSeek-R1-Distill-Llama-70B |
|
DeepSeek-V3 |
|
由于我这台电脑已经很老旧了,各种配置只能够适应r1的最低版本.1.5b,这里我也就给大家看一下安装好后的界面:
至此,我们就完成了deepseek本地部署的工作。
DeepSeek-R1各个版本所需的电脑配置如下:
大家可以根据自己的电脑配置来安装更加合适的版本。
AI是科技发展的产物,随着时代的发展,AI将会逐渐在社会中进行普及,相信再过一段时间后,AI也会像手机、电脑这样的科技产物,被所有人使用。
为了与时代接轨,顺应时代的洪流同步发展,我们应该开始接触并学习一些AI的知识与相关软件的操作,以帮助我们在日常工作中大大提高我们的工作效率,节省我们的工作时间。
接下来,博主也会开始慢慢的更新一些AI相关的博客内容。期待各位的关注、点赞、与评论,同时大家也可以将博主的文章分享给更多需要的人!!!
谢谢大家,咱们下一篇内容再见!!!
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。