使用腾讯云轻量应用服务器部署大语言模型的知识库问答系统FastGPT
3.1 选择服务器环境,这里我选择Linux系统的centos环境,然后再自己安装宝塔面板,大家可以自行先安装一下。
PS:https://curl.qcloud.com/rnuXqlNU 这里可以挑选最新活动机,便宜实惠。
3.2 购买成功后,控制台旁边的消息里就会收到服务器的ip和密码信息。如果没有的话也可以去控制台里找到服务器然后充值密码。(服务器的端口记得去开一下,也就是防火墙)
3.3 获得密码了后,就可以点击上方图的登录按钮,进入腾讯云的OrcaTerm,然后进行宝塔服务器安装,大家跟着流程一直走,安装命令我放在下方了。
yum install -y wget && wget -O install.sh https://download.bt.cn/install/install_6.0.sh && sh install.sh ed8484bec
3.4 宝塔面板安装完成后,就会有面板的信息,记得复制然后留存,要不然后面还得进服务器去重置。
3.5 进入宝塔面板,我们就开始操作FastGPT的安装部署了,首先打开宝塔面板的左边栏的文件,然后找到一个位置用来存放FastGPT的部署文件等,这里我一般都喜欢在 /www 里来弄。
3.6 进入www文件夹后,点击菜单上的终端,准备开始进行操作了。
3.7 执行下方指令
mkdir fastgpt
cd fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json
openssl rand -base64 756 > ./mongodb.key
chmod 600 ./mongodb.key
chown 999:root ./mongodb.key
3.8 执行完了后,再创建一个浏览器标签,打开宝塔面板,进入刚才创建的文件里,然后编辑docker-compose.yml,拉到最底部有两个地方要注意,一个是后台密码,可以提前设置一个复杂密码,然后就是你的gpt的key。(国内应该是用不了,得用中转或代理吧)
3.9 编辑完了后,再回到刚才的终端窗口,继续往下走
docker-compose pull
docker-compose up -d
docker ps
docker exec -it mongo bash
mongo -u myname -p mypassword --authenticationDatabase admin
rs.initiate({
_id: "rs0",
members: [
{ _id: 0, host: "mongo:27017" }
]
})
rs.status()
rs0 状态,则代表运行成功,以上就是的FastGPT部署操作了。
5.1 部署完了后,我们进入后台,后台地址是IP+3000端口。(如果进不去的话,就说明服务器还是宝塔面板的防火墙端口没有开放),点击左边栏的知识库,然后创建一个知识库,然后保存并预览,就可以开始使用了。
5.2 进入刚刚创建好的知识库,然后点击右边的手动录入,手动插入一条数据,插入完成了后,再点击左边栏的应用,创建一个应用,然后进入应用,选择好模型和刚才创建好的知识库。
5.3 在右边就可以测试一下。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。