首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >本地部署大模型!超级简单,一分钟即可完成!

本地部署大模型!超级简单,一分钟即可完成!

原创
作者头像
MGS浪疯
发布于 2024-12-13 14:46:30
发布于 2024-12-13 14:46:30
7240
举报
文章被收录于专栏:MGS浪疯 BlogMGS浪疯 Blog

Ollama安装教程

Windows

首先打开ollama官网https://ollama.com/

2.png
2.png

这里使用的是windows,直接选择下载即可

2.png
2.png

文件下载好后之间打开点击安装即可

3.png
3.png

默认会安装到c盘,请预先给c盘足够的空间来保证环境安装和模型下载所需空间充足

安装完成后打开windows PowerShell

可以输入ollama来验证是否安装成功或者变量配置是否有问题

4.png
4.png

模型下载

这里以wizardlm2模型为例,我们只需要在命令行中输入ollama run wizardlm2:7b即可

5.png
5.png

等待模型下载完毕即可

纯净系统启动可能存在vc运行库缺少问题

image.png
image.png

如果出现这个问题,安装vc运行库即可

命令行调用模型

再次输入 ollama run 模型名称 即可启动

7.png
7.png

出现 send a message即为启动成功

单条文本直接输入回车即可调用

8.png
8.png

如果涉及多条文本的输入,则需要在文本开始前和结束位置输入"""

如下图

9.png
9.png

(多行内容的提示词)

前后加入"""

10.png
10.png

输入到PowerShell后效果

11.png
11.png

Linux安装教程

首先打开ollama官网,系统选择Linux(这里使用的是debian12,其他可能略有差异)

复制Linux安装脚本

image.png
image.png

随后粘贴到终端直接执行即可

4.png
4.png

执行后会自动进行下载安装

安装完毕后我们可以输入ollama进行验证是否安装成功

3.png
3.png

若能正常输出ollama的内容则安装成功

下载模型与启动模型与windows一样,直接输入ollama run 模型名称即可

这里以gemma:2b模型为例,在终端直接输入 ollama run gemma:2b然后执行即可,就会自动开始下载

2.png
2.png

下载完毕后使用同样的指令即可启动模型,使用方法和windows一样

1.png
1.png

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
Java泛型详解
Dog对象含有name 和 age, 并输出name 和 age (要求使用getXxx())
timerring
2023/05/07
5120
Java泛型详解
JavaSE-汇总
前言 JavaSE 完结,撒花🌸🌸🌸,Java-基础的学习就将告一段落,今天我将之前发布的《Java-XXX》系列学习笔记进行汇总一下,此系列是我做的一个 “Java 从 0 到 1” 实验,给自己一年左右时间,按照我自己总结的 Java-学习路线,从 0 开始学 Java 知识,并不定期更新所学笔记,期待一年后的蜕变吧!<有同样想法的小伙伴,可以联系我一起交流学习哦!> 笔记汇总 环境配置:见本文下方 IDEA 插件:见本文下方 面向对象:Java-面向对象 | 简简 枚举:Java-枚举 |
小简
2023/01/04
1.5K0
JavaSE-汇总
Set集合
  Set接口也是Collection的子接口,Set接口没有提供额外的方法。Set集合支持的遍历方式也和Collection集合一样,使用foreach和Iterator遍历。
别团等shy哥发育
2023/02/25
6530
Set集合
Java-集合
哈喽!大家好,我是小简。今天开始学习《Java-集合》,此系列是我做的一个 “Java 从 0 到 1 ” 实验,给自己一年左右时间,按照我自己总结的 Java-学习路线,从 0 开始学 Java 知识,并不定期更新所学笔记,期待一年后的蜕变吧!<有同样想法的小伙伴,可以联系我一起交流学习哦!>
小简
2023/01/04
1.2K0
Java-集合
java-继承和多态
继承(inheritance) 继承满足“is-a”规则,即Manager is a Employee
卢衍飞
2023/02/16
4050
零基础学Java(11)自定义类[通俗易懂]
  之前的例子中,我们已经编写了一些简单的类。但是,那些类都只包含一个简单的main方法。现在来学习如何编写复杂应用程序所需要的那种主力类。通常这些类没有main方法,却有自己的实例字段和实例方法。要想构建一个完整的程序,会结合使用多个类,其中只有一个类有main方法。
全栈程序员站长
2022/09/19
3720
透过源码学习设计模式6—策略模式与Comparator
定义算法族,分别封装起来,让它们之间可以互相替换,此模式让算法的变化独立于使用算法的客户端。它首先定义不同的算法策略,然后客户端把算法策略作为它的一个参数。使用这种模式的一个不错的例子是Collection.sort()方法了,它使用Comparator对象作为参数。根据Comparator接口不同实现,对象会被不同的方法排序。
java达人
2019/09/24
1.1K0
透过源码学习设计模式6—策略模式与Comparator
Java 中使用 Collections 的最佳实践
Collections 是 Java 中操作集合类数据结构的工具类。它提供了一系列可以操作 List、Set 和 Map 的静态方法,可以辅助开发人员进行集合的常用操作,如排序、搜索、遍历等。
用户1289394
2023/09/11
4160
Java 中使用 Collections 的最佳实践
从数据库中查询马上过生日的人并统计各年龄段及性别所占的人数
业务需求: 从员工表中查询5天之内过生日的人,以及五天之内合同到期的人,返回一个 Map 集合,封装了员工的姓名及还有几天过生日; Dao 层如下: @Repository public interface EmpMapper extends BaseMapper<Employee> { @Select("select * from employee\n" + "where DATE_FORMAT(birthday,'%m-%d') >= DATE_FORMAT(now(
wsuo
2020/07/31
8130
Java基础系列(六):对象与类(上)
封装从形式上看,封装是将数据和行为组合在一个包中,并对对象的使用者隐藏了数据的实现方式。对象中的数据称为实例域,而操纵数据的过程称之为方法。对于每个特定的类实例(对象)都有一组特定的实例域值。这些值的集合就是这个对象的当前状态。而实现封装的关键就是绝对不能让类中的方法直接访问其他类的实例域,仅仅可以通过对象的方法来与对象的数据进行交互。
山禾说
2019/01/21
3310
【Java8新特性】Java8为什么要引入Lambda表达式?原来如此!!
作者个人研发的在高并发场景下,提供的简单、稳定、可扩展的延迟消息队列框架,具有精准的定时任务和延迟队列处理功能。自开源半年多以来,已成功为十几家中小型企业提供了精准定时调度方案,经受住了生产环境的考验。为使更多童鞋受益,现给出开源框架地址:
冰河
2020/10/29
3890
【Java8新特性】Java8为什么要引入Lambda表达式?原来如此!!
一文打通java泛型
集合容器类在设计阶段/声明阶段不能确定这个容器到底实际存的是什么类型的对象,所以在JDK1.5之前只能把元素类型设计为Object,JDK1.5之后使用泛型来解决。因为这个时候除了元素的类型不确定,其他的部分是确定的,例如关于这个元素如何保存,如何管理等是确定的,因此此时把元素的类型设计成一个参数,这个类型参数叫做泛型。Collection,List,ArrayList 这个就是类型参数,即泛型
一个风轻云淡
2023/10/15
2150
一文打通java泛型
Java基础知识总结--ArrayList
​ 创建一个存储字符串的集合,存储3个字符串元素,使用程序实现在控制台遍历该集合
小炜同学
2022/09/23
3180
如何使用 Java 泛型来避免 ClassCastException
泛型是相关语言特性的集合,它允许类或方法对各种类型的对象进行操作,同时提供编译时类型安全性检查
Java宝典
2021/01/28
2.3K0
Java进阶:【泛型】认识泛型,泛型方法,泛型类,泛型接口和通配符
例如关于这个元素如何保存,如何管理等是确定的,因此此时把元素的类型设计成一个参数,这个类型参数叫做泛型。
冷环渊
2021/11/29
3.9K0
Java进阶:【泛型】认识泛型,泛型方法,泛型类,泛型接口和通配符
Java知识点总结之Java泛型
作者:苏生 链接: https://segmentfault.com/a/1190000014824002 泛型 泛型就是参数化类型 适用于多种数据类型执行相同的代码 泛型中的类型在使用时指定 泛型归根到底就是“模版” 优点:使用泛型时,在实际使用之前类型就已经确定了,不需要强制类型转换。 泛型主要使用在集合中 import java.util.ArrayList; import java.util.List; public class Demo01 { // 不使用泛型,存取数据麻烦
用户1257393
2018/07/30
5810
8万字总结的Java8新特性!!
作者个人研发的在高并发场景下,提供的简单、稳定、可扩展的延迟消息队列框架,具有精准的定时任务和延迟队列处理功能。自开源半年多以来,已成功为十几家中小型企业提供了精准定时调度方案,经受住了生产环境的考验。为使更多童鞋受益,现给出开源框架地址:
冰河
2022/06/15
1.2K0
8万字总结的Java8新特性!!
Java泛型总结
集合容器类“设计阶段/声明阶段”不能确定这个容器到底实际存的是什么类型的对象,所以在JDK1.5之前只能把元素类型设计为 Object,JDK1.5 之后使用泛型来解决。因为这个时候除了元素的类型不确定,其他的部分是确定的,例如关于这个元素如何保存,如何管理等是确定的,因此此时把元素的类型设计成一个参数,这个类型参数叫做泛型。Collection<E>,List<E>,ArrayList<E>这个 <E> 就是类型参数,即泛型。
乐心湖
2021/01/18
8930
Java泛型总结
第十八天 集合-泛型&list接口&set接口【面试+工作】
泛型的使用:一般在创建对象时,将未知的类型确定具体的类型。当没有指定泛型时,默认类型为Object类型。
Java帮帮
2018/07/26
8180
第十八天 集合-泛型&list接口&set接口【面试+工作】
4.3 用户自定义类
4.3.1 Employee类 package class_; import java.util.Date; import java.util.GregorianCalendar; public class EmployeeTest { public static void main(String args[]) { Employee[] staff = new Employee[3]; staff[0] = new Employee("Carl Cracker", 75000, 1987,
Mister24
2018/05/14
8510
相关推荐
Java泛型详解
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档