前言:
对于一些因网络限制或没有GPT账户而无法充分利用大型语言模型的用户来说,GPT4All可能是一个理想的解决方案。
什么是GPT4All:
GPT4All是Nomic AI支持的LLM生态系统,让用户在本地硬件上运行定制的大型语言模型。它旨在自由地使用、分发和构建,让个人和企业能在本地训练和部署边缘LLM。
模型文件大小介于3GB至8GB,可与开源生态系统软件结合使用。Nomic AI维护软件生态,确保质量与安全。GPT4All支持个人写作、问答和代码指导等功能,兼容Windows、MacOS和Ubuntu。
项目还包含开源数据湖,用户可贡献数据助训未来模型,促进大型语言模型的民主化训练。GPT4All为网络受限或无GPT账户的用户带来AI便利。
开源地址:
https://github.com/nomic-ai/gpt4all
安装与使用:
或者大家自己从官方网站下载适合的操作系统和安装程序。
https://gpt4all.io/index.html
安装后,用户可以通过桌面客户端与GPT4All进行交互,或者通过Python库进行编程集成。
1. 运行gpt4all-installer-win64.exe安装程序。
2. 在安装目录下面创建个models文件夹,把下载的模型放进去。
3. 运行桌面图标,弹出的窗口选择NO,路径选择刚刚创建的models文件
一个是应用,调整界面颜色,字体,gpu还是cpu设置路径的。
另一个是本地文档管理,管理下载模型用的。
4. 此时我们已经可以和它正常聊天了。
这里切换模型,模型大切换会比较慢。我比较喜欢浅色UI。
没有网络运行7B模型,它是可以正常运行的。
这里我只推荐7B以下的模型,16B这个我3060非常卡。
需要注意模型是否允许商业化,在官网是有标识的。
总结:
GPT4All的推出,对于那些受限于网络环境或无法访问GPT账户的用户来说,无疑是一个福音。它不仅降低了使用大型语言模型的门槛,还为用户提供了一种在本地环境中安全、便捷地利用AI技术的方式。随着项目的不断发展,GPT4All有望成为个人和小型团队探索AI应用的有力工具。
完over。
领取专属 10元无门槛券
私享最新 技术干货