首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Llama3懒人整合包!本地运行开源AI大模型!永久免费

昨晚,Meta(也就是脸书)

发布了目前最强的开源大模型Llama 3

AI圈又嗨起来了

它有两款不同的参数模型——Llama 3 8B与Llama 3 70B。

性能再次突破,基本全面碾压同类参数的选手,甚至能越级和GeminiPro等打的有来有回。

Llama 3 8B在关键测试中超越前代Llama 2 70B模型,性能力压群雄。

训练速度是Llama 2的三倍,节省时间,提升效率。

超大数据集:训练数据超过15T token,是Llama 2的7倍以上

长文本处理:支持最长达8K的文本输入

在众多基准测试中居于领先地位,推理和编码能力大幅增强。

既然是开源模型,咱就自己部署运行一个!

看看在自己的电脑上,运行大模型是一种什么体验。

话不多说,上教程!

官网下载安装较为麻烦

这里我找到一个Llama3懒人整合包!

一键安装运行,保你会用!

下载解压后得到以下两个文件

然后跟着操作:

1、双击安装LM-Studio-0.2.20-Setup.exe

装完后,桌面上有了个快捷方式

2、桌面双击打开LM-Studio快捷方式

然后通过以下两步,打开存放模型的文件夹,然后将解压包里的FaradayDotDev文件,整个复制到模型文件夹内。

3、LM-Studio切换到聊天界面

然后选择好模型,加载好后,就可以直接在对话框中开始用了。

就是这么简单,你就成功部署好了自己的本地AI大模型,真正的离线使用,永久免费,也不用担心数据安全问题!

我随便问了一句,你和GPT4谁比较厉害?

哈哈,Llama还挺诚实!

大方承认了自己还不如GPT4,但是会努力学习进步!

大家装好后,可以自行试玩,非常方便!

需要注意的是,本地运行需要占用本地电脑内存和算力,所以如果性能不够强的话,可能会有卡顿。

虽然我们可以在meta官网,或者其他第三方工具体验到,更加流程丝滑的使用体验。

但是用自己电脑安装运行,还是更有意思,我的算力和数据,我自己做主!

  • 发表于:
  • 原文链接https://page.om.qq.com/page/ODY9K-_kHfF1-_KTytzc-RSA0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券