Loading [MathJax]/jax/output/CommonHTML/config.js
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >智能问答再升级:快速部署FastGPT大语言模型的知识库系统

智能问答再升级:快速部署FastGPT大语言模型的知识库系统

原创
作者头像
快乐的小白
发布于 2024-03-01 04:12:15
发布于 2024-03-01 04:12:15
4.6K0
举报
文章被收录于专栏:小白开发小白开发

使用腾讯云轻量应用服务器部署大语言模型的知识库问答系统FastGPT

前言

  • 每次不管是找之前的开发文档还是某个框架的开发文档,都需要花点时间,无意间看到这个项目,瞬间感觉到可以为我所用。
  • 其他行业好像也可以进行使用,比如每天导入制好的表格数据,然后接入到机器人,其他人员就可以直接在群里进行提问,获取当天的报价或其他信息等。
  • 如果是小白的可以先看一下注意事项,然后再一步步看教程。

1.FastGPT介绍

  • FastGPT,一个遵循 Apache License 2.0 开源协议的智能问答系统。FastGPT 以其独特的 QA 结构和可视化工作流而闻名,旨在提高在大量数据场景中的问答准确性,并支持多种语言模型。可以在遵守开源协议的前提下,进行二次开发和发布,以满足特定需求。无论是针对客服问答场景还是其他应用场景,FastGPT 的无限扩展性和便于调试的特点可以给你的项目带来便利。FastGPT 可以成为您智能问答系统的理想选择。
  • 对于更详细的介绍,您可以去 FastGPT的官方文档,了解更多相关信息。

2.准备事项

3.部署教程

3.1 选择服务器环境,这里我选择Linux系统的centos环境,然后再自己安装宝塔面板,大家可以自行先安装一下。

PS:https://curl.qcloud.com/rnuXqlNU 这里可以挑选最新活动机,便宜实惠。

3.2 购买成功后,控制台旁边的消息里就会收到服务器的ip和密码信息。如果没有的话也可以去控制台里找到服务器然后充值密码。(服务器的端口记得去开一下,也就是防火墙)

3.3 获得密码了后,就可以点击上方图的登录按钮,进入腾讯云的OrcaTerm,然后进行宝塔服务器安装,大家跟着流程一直走,安装命令我放在下方了。

代码语言:php
AI代码解释
复制
yum install -y wget && wget -O install.sh https://download.bt.cn/install/install_6.0.sh && sh install.sh ed8484bec

3.4 宝塔面板安装完成后,就会有面板的信息,记得复制然后留存,要不然后面还得进服务器去重置。

3.5 进入宝塔面板,我们就开始操作FastGPT的安装部署了,首先打开宝塔面板的左边栏的文件,然后找到一个位置用来存放FastGPT的部署文件等,这里我一般都喜欢在 /www 里来弄。

3.6 进入www文件夹后,点击菜单上的终端,准备开始进行操作了。

3.7 执行下方指令

代码语言:php
AI代码解释
复制
mkdir fastgpt

cd fastgpt

curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml

curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

openssl rand -base64 756 > ./mongodb.key

chmod 600 ./mongodb.key

chown 999:root ./mongodb.key

3.8 执行完了后,再创建一个浏览器标签,打开宝塔面板,进入刚才创建的文件里,然后编辑docker-compose.yml,拉到最底部有两个地方要注意,一个是后台密码,可以提前设置一个复杂密码,然后就是你的gpt的key。(国内应该是用不了,得用中转或代理吧)

3.9 编辑完了后,再回到刚才的终端窗口,继续往下走

代码语言:php
AI代码解释
复制
docker-compose pull

docker-compose up -d

docker ps

docker exec -it mongo bash

mongo -u myname -p mypassword --authenticationDatabase admin

rs.initiate({
  _id: "rs0",
  members: [
    { _id: 0, host: "mongo:27017" }
  ]
})

rs.status()

rs0 状态,则代表运行成功,以上就是的FastGPT部署操作了。

5.简单操作

  • 太复杂的操作,我就不演示了,后面再出一期对接公众号或机器人的教程吧,先给大家演示下,比如导入微擎框架的开发文档,然后让机器人充当微擎开发文档客服。

5.1 部署完了后,我们进入后台,后台地址是IP+3000端口。(如果进不去的话,就说明服务器还是宝塔面板的防火墙端口没有开放),点击左边栏的知识库,然后创建一个知识库,然后保存并预览,就可以开始使用了。

5.2 进入刚刚创建好的知识库,然后点击右边的手动录入,手动插入一条数据,插入完成了后,再点击左边栏的应用,创建一个应用,然后进入应用,选择好模型和刚才创建好的知识库。

5.3 在右边就可以测试一下。

  • 以上就是简单的应用了一下这个知识库,更多的精彩和有趣的地方,需要大家自行摸索,后期会再出一个教程对接公众号或机器人,在飞书和企微,个微里进行知识问题和资料检索。

6.注意事项

  • 服务器的端口要开,应该是3000,服务器和宝塔的防火墙都需要开一下,要不然进不去。
  • gpt账号没有的话,可以百度一下,国内有很多中转站,或者实在不行可以自己部署一下开源的模型。
  • 输入部署指令一定要一条一条的去执行,别漏掉,更别跳过。
  • 如果要更改配置的话,改完了就进入创建的目录,进入终端执行下docker-compose down && docker-compose pull && docker-compose up -d

7.结语

  • 在这篇文章中,我们了解了如何使用腾讯云轻量应用服务器来部署 FastGPT 大语言模型的知识库问答系统。通过这篇教程,我们深入探讨了 FastGPT 的介绍、准备事项以及详细的部署教程。我们还了解了如何在服务器上安装宝塔面板,并通过它来部署 FastGPT。在完成部署后,我们还简单演示了如何使用这个知识库系统。
  • 通过这篇教程,我们不仅学会了如何部署 FastGPT,还了解了如何在实际应用中使用它,比如在群里进行提问获取信息等。同时,我们也强调了一些注意事项,例如服务器端口的设置、GPT账号的获取以及部署指令的正确执行方式。
  • 在未来,我们将继续探索更多有趣的应用场景,并分享更多关于 FastGPT 的教程,比如如何对接公众号或机器人,在不同平台进行知识问题和资料检索等。希望这篇教程能够帮助大家更好地理解和应用 FastGPT,同时也欢迎大家积极探索和分享更多有趣的应用方式。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
看完这篇还不会 Elasticsearch 搜索,那我就哭了!
本文主要介绍 ElasticSearch 搜索相关的知识,首先会介绍下 URI Search 和 Request Body Search,同时也会学习什么是搜索的相关性,如何衡量相关性。
武培轩
2020/03/13
8650
Search - 一文入门ElasticSearch(节点、分片、CRUD、倒排索引、分词)
ElasticSearch是非常重要的检索工具,利用分词、索引(倒排索引)、分词从众多检索工具中脱颖而出,本章是入门基础学习篇内容。
stark张宇
2023/03/16
4.2K0
Elasticsearch从入门到放弃:再聊搜索
在前文中我们曾经聊过搜索文档的方法,Elasticsearch 一般适用于读多写少的场景,因此我们需要更多的关注读操作。
Jackeyzhe
2020/07/14
4690
Elasticsearch从入门到放弃:再聊搜索
Elastic学习之旅 (8) 深入词项和全文搜索
相信很多童鞋和我一样,有点傻傻分不清Term查询和全文查询的区别,那么今天我们就来一起梳理一下。
Edison Zhou
2024/04/10
2280
Elastic学习之旅 (8) 深入词项和全文搜索
Elasticsearch 利用API进行搜索
ES 在搜索上对外开放了 Resultful API, 方便各个语言调用,那么他调用有两种方式,一种就是单纯将搜索的参数放到url上,还有就是可以放到Request Body里面,我们来依次看看。
憧憬博客
2020/07/21
8150
Elasticsearch 利用API进行搜索
Elasticsearch 6.x版本全文检索学习之Search API
  方式一、GET /_search,对es中所有的数据进行查询。   方式二、GET /my_index/_search,针对单个索引的数据进行查询。   方式三、GET /my_index1,my_index2/_search,针对两个索引的数据进行查询。   方式四、GET /my_*/_search,指定索引查询,可以一次查询多个。
别先生
2019/11/03
1.4K0
Elasticsearch7教程
Elasticsearch是一个基于Lucene的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎,基于RESTful web接口。Elasticsearch是用Java语言开发的,并作为Apache许可条款下的开放源码发布,是一种流行的企业级搜索引擎。Elasticsearch用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使用方便。官方客户端在Java、.NET(C#)、PHP、Python、Apache Groovy、Ruby和许多其他语言中都是可用的。根据DB-Engines的排名显示,Elasticsearch是最受欢迎的企业搜索引擎,其次是Apache Solr,也是基于Lucene。
Remember_Ray
2021/04/05
4.2K0
Elasticsearch Query DSL之全文检索(Full text queries)下篇
本文将继续介绍Elasticsearch Query DSL之全文检索(Full text queries)方式的后3种。
丁威
2019/06/10
2.2K0
Elasticsearch搜索特性
方案一、可以是用wildcard通配符,但是要设置不分词,这种方案性能不好 方案二、可以使用ngram分词器 “min_gram”: 2,”max_gram”: 3 单词假设是 abcde0001 ab bc cd abc cde 001.。。。等等 被分词2个字母一组和3个字符一组。。、。
丁D
2022/08/12
8420
017.Elasticsearch搜索操作入门篇
1. 多种搜索方式 1.1 Query String Search:在请求URL中包括search的参数 # 语法 curl -X GET "ip:port/index_name/type_name/
CoderJed
2020/07/06
1.3K0
Elasticsearch安装使用教程
Elasticsearch是一个全文搜索引擎。安装Elasticsearch时需要先安装Java。 wget https://download.elasticsearch.org/elasticsearch/elasticsearch/elasticsearch-1.4.2.zip unzip elasticsearch-1.4.2.zip cd elasticsearch-1.4.2 ./bin/elasticsearch
星哥玩云
2022/07/04
4280
Elasticsearch安装使用教程
Elastic学习之旅 (6) Query DSL
大家好,我是Edison。首先说声抱歉,这个ES学习系列很久没更新了,现在继续吧。
Edison Zhou
2024/04/05
2070
Elastic学习之旅 (6) Query DSL
干货 | Elasticsearch 检索类型选型指南
以 Elasticsearch 8.1 官方文档为例,检索分类不会也不可能超出这个范围。
铭毅天下
2022/05/23
1.3K0
干货 | Elasticsearch 检索类型选型指南
Elasticsearch学习(五)Elasticsearch中的mapping问题,Search 搜索详解
Mapping在Elasticsearch中是非常重要的一个概念。决定了一个index中的field使用什么数据格式存储,使用什么分词器解析,是否有子字段等。
一写代码就开心
2021/03/02
1.9K0
Elasticsearch学习(五)Elasticsearch中的mapping问题,Search 搜索详解
Elasticsearch(六)——Query
上面的语句意思查询userz字段包含tom的文档,结果按照age升序排列,返回第5-14个文档,如果超过1s没有结束,则超时结束 泛查询 等效于在所在字段去匹配改term
羊羽shine
2019/05/29
9020
触类旁通Elasticsearch:搜索
ES的搜索请求执行流程如图1所示。图中索引包含两个分片,每个分片有一个副本分片。在给文档定位和评分后,缺省只会获取排名前10的文档。REST API搜索请求被发送到所连接的节点,该节点根据要查询的索引,将这个请求依次发送到所有的相关分片(主分片或者副本分片)。从所有分片收集到足够的排序和排名信息后,只有包含所需文档的分片被要求返回相关内容。这种搜索路由的行为是可配置的,图1展示的默认行为,称为查询后获取(query_then_fetch)。
用户1148526
2019/05/25
3.4K0
一起学Elasticsearch系列-模糊搜索
在 Elasticsearch 中,模糊搜索是一种近似匹配的搜索方式。它允许找到与搜索词项相似但不完全相等的文档。
BookSea
2023/12/13
9860
一起学Elasticsearch系列-模糊搜索
012.Elasticsearch基础API入门以及term与match综合测试
当向一个不存在的index中添加document时,可以自动创建索引,也可以根据传入的数据自动创建mapping,ES也会自动对这些文档进行倒排索引
CoderJed
2020/06/19
8170
Elasticsearch使用:Search 概括
在 Elasticsearch 中的搜索中,有两类搜索:queries和aggregations。
HLee
2021/01/27
1.2K0
Elasticsearch使用:Search 概括
Elasticsearch 相关 api 操作
A. es 操作 1. 检查 es 集群健康状态 bash命令:curl -XGET 'localhost:9200/_cat/health?v&pretty' kibana命令:GET /_cat
潘成涛
2018/01/18
8790
Elasticsearch 相关 api 操作
推荐阅读
相关推荐
看完这篇还不会 Elasticsearch 搜索,那我就哭了!
更多 >
交个朋友
加入腾讯云官网粉丝站
蹲全网底价单品 享第一手活动信息
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档