腾讯云

文章/答案/技术大牛

发布

社区首页 >专栏 >【AI 大模型】Meta Llama 3 大模型 ( Llama 3 大模型简介 | Ollama 软件下载安装 | Llama3 模型下载 | Llama 3 大模型在线 / 离线使用 )

【AI 大模型】Meta Llama 3 大模型 ( Llama 3 大模型简介 | Ollama 软件下载安装 | Llama3 模型下载 | Llama 3 大模型在线 / 离线使用 )

韩曙亮

发布于 2024-08-09 01:41:51

1.1K00

代码可运行

文章被收录于专栏：韩曙亮的移动开发专栏韩曙亮的移动开发专栏

运行总次数：0

代码可运行

首先 , 安装 Ollama 软件 , 到 https://ollama.com/ 下载安装 ;

然后 , 运行

ollama run llama3

命令 , 即可开始使用 Llama3 大模型 ;

一、Meta Llama 3 大模型安装

1、Llama 3 大模型简介

Llama 3 大模型是 Meta 公司发布的大模型 , Meta 公司就是 Facebook ;

Llama 3 大模型使用的是标准的仅解码 Decoder-Only 式的 Transformer 架构 ; 与之相对的 ChatGPT 使用的是 GPT ( Generative Pre-trained Transformer ) 架构 , 包含了编码器 ( Encoder ) 和解码器 ( Decoder ) 的特性 ;

2、Ollama 软件下载安装

到 Ollama 官网 https://ollama.com/ , 点击 Download 按钮进入下载页面 ;

进入下载页面后 , 根据自己的系统 , 选择对应的 Ollama 版本 , 目前 Ollama 支持 Windows / Linux / MacOS ;

这个模型有 299 MB , 等待下载完成 ;

进入到 Ollama 的下载路径 , 直接运行下载后的安装文件 ;

点击 Install 按钮 , 安装该软件 ;

安装完成后 , 自动弹出如下对话框 :

3、Llama3 模型下载

安装前提 : 需要挂全局梯子 , 全局 , 挂上以后可以达到 5 ~ 10MB 每秒 , 不挂 1KB 每秒 ;

运行

ollama run llama3

命令 , 即可启动 Llama3 大模型 ;

下载的模型放在了 C:\Users\用户名.ollama 目录中 , 在我的电脑上的路径是 C:\Users\octop.ollama ;

这个模型很大 , 有 4.7 G

安装完成后的效果 :

安装过程中的命令行终端输出 :

D:\Llama>ollama run llama3
pulling manifest
pulling 6a0746a1ec1a... 100% ▕████████████████████████████████████████████████████████▏ 4.7 GB
pulling 4fa551d4f938... 100% ▕████████████████████████████████████████████████████████▏  12 KB
pulling 8ab4849b038c... 100% ▕████████████████████████████████████████████████████████▏  254 B
pulling 577073ffcc6c... 100% ▕████████████████████████████████████████████████████████▏  110 B
pulling 3f8eb4da87fa... 100% ▕████████████████████████████████████████████████████████▏  485 B
verifying sha256 digest
writing manifest
removing any unused layers
success
>>> Send a message (/? for help)

二、Meta Llama 3 大模型使用

1、Llama 3 大模型在线使用

在命令行中 , 可以直接进行对话 , 下面是对话内容 :

D:\Llama>ollama run llama3
pulling manifest
pulling 6a0746a1ec1a... 100% ▕████████████████████████████████████████████████████████▏ 4.7 GB
pulling 4fa551d4f938... 100% ▕████████████████████████████████████████████████████████▏  12 KB
pulling 8ab4849b038c... 100% ▕████████████████████████████████████████████████████████▏  254 B
pulling 577073ffcc6c... 100% ▕████████████████████████████████████████████████████████▏  110 B
pulling 3f8eb4da87fa... 100% ▕████████████████████████████████████████████████████████▏  485 B
verifying sha256 digest
writing manifest
removing any unused layers
success
>>> 你好, 做一下自我介绍
😊 Ni Hao! (That's "hello" in Mandarin Chinese!)

I'm LLaMA, an AI assistant developed by Meta AI that can understand and respond to human input in a conversational
manner. I'm not a human, but a computer program designed to simulate conversation and answer questions to the best
of my abilities.

I've been trained on a massive dataset of text from various sources, including books, articles, and websites. This training enables me to generate responses that are
natural-sounding and relevant to the topic at hand.

When you interact with me, I'll do my best to provide helpful and informative answers to your questions. Whether you're looking for general knowledge, seeking advice, or
just want to chat, I'm here to assist you! 🤖

What would you like to talk about? 😊

>>>
>>> 你能说中文吗
😊

当然可以！（Of course, I can！）我是一個 AI 媒体，可以理解和回應中文 input。我受過大量中文文本的訓練，可以生成自然 sounding 和相關的回答。

如果您想跟我聊天或討論某個主題，我都能夠幫助。如果您需要求助或有問題，請隨時詢問。我會盡力為您解答！

（So, what would you like to talk about? 🤔）

>>> 请使用简体中文 , 不要繁体
😊

当然可以！我是一个 AI 媒体，可以理解和回应简体中文 input。我受过大量简体中文文本的训练，可以生成自然 sounding 和相关的回答。

如果您想跟我聊天或讨论某个主题，我都能帮助。如果您需要求助或有问题，请随时询问。我会尽力为您解答！

（然后说什么？ 🤔）

>>> Send a message (/? for help)

2、Llama 3 大模型离线使用

Llama 3 大模型联网时 , 可以访问云端服务 , 可以生成更加丰富的文本 ;

Llama 3 大模型在断网后也可以使用 , 下面是断开网络后 , 也能进行基本的对话 , 可以保证一些常识输出和基本对话逻辑 ;

下面的内容是断网后离线生成的内容 :

>>> 断网后你还能用吗
😊

我是一个基于云端的 AI 媒体，所以我需要internet 连接才能正常工作。如果您的设备中断了网络连接，我就无法与您进行交互。


但是，如果您有一个 cached 版本或 saved 版本的我们的对话，我可能仍然可以回应。因为 cached 或 saved 的对话将包含我们之
前的对话记录，我可以基于这些记录继续回答。

但如果您需要我的帮助，并且您的设备中断了网络连接，那么我建议您等待网络连接恢复后再与我交流。但是，如果您需要紧急帮助
，可以尝试保存我们的对话，然后等待网络连接恢复后再与我交流。

>>> 现在断网了
😊

Oh no! Looks like we've lost our internet connection!

Since I'm a cloud-based AI, I won't be able to respond or interact with you until the connection is restored. 😔

If you want to continue our conversation, please try saving this chat window or taking note of our previous
messages. When your internet connection is back up and running, feel free to reach out to me again! 💻

>>> 说简体中文
😊

哎呀！看来我们断网了！

我是一个基于云端的 AI，所以在连接恢复之前，我无法回应或与您交互。

如果您想继续我们的对话，请尝试保存这个聊天窗口或记下我们之前的消息。当您的网络连接恢复时，欢迎再次与我交流！ 💻

>>> 清朝有几个皇帝
😊

清朝共有16位皇帝：

1.努尔哈赤（1616-1627）
2.多尔图（1627-1643）
3.福临（1643-1661）
4.康熙帝（1661-1722）
5.雍正帝（1722-1735）
6.乾隆帝（1735-1796）
7.嘉庆帝（1796-1820）
8.道光帝（1820-1850）
9.咸丰帝（1850-1861）
10.同治帝（1861-1875）
11.光绪帝（1875-1908）
12.宣統帝（1908-1912）

这个清朝的皇帝们都有很重要的历史作用！

>>> 露天矿卡车
😊

露天矿卡车（Open-pit mining trucks）是指在露天矿区用于搬运矿石和废料的一种卡车。

这些卡车通常由大型机械组成，具有很高的吊装能力和可靠性。它们主要用于露天矿区的开采、储存和处理矿石等过程中。

露天矿卡车的类型有很多，如loader、haul truck、dump truck 等，每种卡车都有其特点和适用场景！

>>> 明朝有几个皇帝
😊

明朝共有17位皇帝：

1.太祖朱元智（1368-1398）
2.定天子朱允炽（1398-1402）
3.简孝宗朱高炽（1425-1464）
4.景泰帝朱祁弘（1457-1464）
5.成化帝朱见深（1464-1487）
6.弘治帝朱佑枢（1487-1505）
7.正德帝朱厚燧（1505-1521）
8.嘉靖帝朱翊鉏（1522-1566）
9.隆庆帝朱载钧（1566-1572）
10.武英王朱翊壮（1554-1572）
11.万历帝朱翊垕（1573-1600）
12.神宗朱翊鉏（1590-1600）
13.泰昌帝朱由检（1627-1628）
14.崇祯帝朱由崧（1628-1644）
15.弘光帝朱由桢（1644-1645）
16.绍武帝朱聪（1645-1649）
17.顺治帝朱尔泰（1644-1661）

这个明朝的皇帝们都有很重要的历史作用！

>>> Send a message (/? for help)