JeeccgBoot AI大模型视频介绍（AI应用管理+AI流程编排+知识库+AI对话助手）原创

大家好，今天给大家介绍g cg boot的AI大模型模块，它是一个AI应用开发平台加知识库问答系统，类似diff，结合了AI流程编排、RAC管道、知识库管理。模型管理等功能能帮助大家快速搭建AI应用，那今天的视频呢，我们会通过几个简单的事例，带大家快速的了解如何使用这个模块。下面先简单介绍一下AI大模型的几个模块。AI模型配置，这个模块主要是用来管理AI模型，AI模型是整个系统的核心，像AI知识库、AI工作流、AI应用这些功能都需要靠它来提供智能支持。下面是AI知识库，这个模块结合了自然语言处理、向量搜索和大语言模型，主要是用来高效存储、查找和管理知识的，这样AI就能更精准的理解问题，给出更靠谱的答案。

AI工作流就是把复杂任务拆成一个一个小步骤，这样既能让系统更简单，也能更高的执行效率。合理安排工作流后，不用太依赖提示词。或者单词的LM推理。AI任务也能更稳定，更容易理解，还不容易出错。AI应用是把AI技术和各种智能工具，比如大语言模型、知识库、向量搜索、自动化工作流等结合起来，做成一个更智能化的解决方案，让AI更好的帮助用户完成任务。那下面呢，我们就从最基础的一个AI聊天应用开始。

在开始之前，你需要准备一个AI供应商的账号以及他的apik，那我下面呢是我们目前支持的AI供应商，呃，如果没有的话，我们可以通过这个链接去访问他们的官网申请a pik.那我们下面我这边已经申请好了，那我们现在就直接开始这个添加模型，那进入AI模型配置，然后选择我们的供应商。选择供应商之后呢，然后需要填写我们这个模型的名称，这个名称可以随便填写，能填一个我们能够记住的就可以了。模型类型分语言模型和向量模型，这里说明一下，语言模型呢，是用于理解文字生成和预测自然语言的模型，那在我们的系统中，语言模型主要是用于聊天、问答、分类等这种文本类的生成任务的，那向量模型呢，是可以将文字转换为高维度的向量，以便进行计算和相似度比较。那在我们的系统中呢，主要是用在知识库里面的，那现在我们先创建一个语言模型。

选择好语言模型以后呢，然后需要选择这个模型对应的这个基础模型。然后输入我们呃，在供应商官网获取到的apik和他的API域名。好的，我这边儿呢，已经输好了自己的apik和API域名，点击保存就可以把这个模型添加好了。嗯，然后呢，我们可以在AI应用中。创建一个新的应用。嗯，名字就叫聊天机器人，选择简单配置。

进来以后可以看到提示词已经帮我们生成了一个样例，当然我们可以根据这个样例去改变，改成我们自己所需要的提示词。嗯，这里呢，有一个比较好用的功能，就是这个生成的功能，我们可以通过它快速的生成提示词，比如我们现在生成了一个旅行规划师。在指令的地方填入我们对于这个提示词的要求，那下面AI就会自动的帮我们生成对应的这个提示词，直接拿它替换掉。下面呢，我们可以输入一些开场白，可以针对于我们这个聊天机器人，然后输入一个开场白，开场白是在每次打开这个聊天会话的时候，呃，都会发出来的一句话，可以让用户知道我该怎么使用这个AI。

那下面呢，有我已经天气好的一段。我们直接给它粘起来。我们可以在预设问题里面提前准备好几个问题，然后让用户刚开始见到这个机器人以后，然后可以通过快速的点击它去了解我可以问什么问题，然后AI会怎么回答我。那现在假如说我有一个5天的行程。我有5天的假期，预算适中，你可以帮我安排一个详细的行程吗？嗯，好，下面可以看到这个AI模型已经提示我要填写了，而且是一个必填的东西，这个就是我们刚刚配置的这个聊天的AI模型。啊，配好这些以后呢，我们就可以在右侧快速的查看我们现在已经配好的配置好的东西，并且可以呃预览就是说发送消息。

你看我们发了以后呢，AI就可以按照我们的要求去把我们的信息返回回来。下面还有一个快捷指令，快捷指令呢，是可以把比如说我们填一个香港，嗯嗯。Yes.啊。可以看到我们按钮名称，它是会放在我们的聊天栏上方，有一个快捷的指令的这样一个作用啊，我只要点击它就会发。嗯，这种详细的内容。点击保存就创建好了我们的第一个AI应用，那这个AI应用我们可以通过点击演示去打开新的聊天界面，然后在这里去问问题。

同时呢，我们也支持将聊天机器人嵌入到我们的网站。我们现在支持两种嵌入方式，一种是使用I frame的方式嵌入，另外一种是使用script的方式嵌入。啊，现在我们假设我们现在用script的方式嵌入，我们有两段script的一段呢是用来引入JS的，我们如果你用的是vuee的项目，那你需要先将这段的script放到你的index.html中。嗯。然后在你需要引入的页面。把下面这段SK粘进去。比如说我们就放到这个list里面去。牛。

我们要放到这个页面，然后在JS中把那一段代码粘进来。再次进入页面呢，好的，我们可以看到我们现在我们的这个聊天儿已经嵌入到系统里了。那至此呢？我们最简单的一个AI聊天应用已经创建好了。但是这个机器人他只能够回答他知道的信息，以及一些在互联网上公开的信息，他并不能够知道一些我们企业内部的资料。或者是一些专业领域的问题，那么该如何让他回答专业领域的问题呢？那就需要用到我们的下一个功能，就是AI知识库的功能。

那下面呢，就让我们在刚才的基础上给AI加上一个知识库，让他能够回答专业领域的问题。在使用AI知识库之前，我们需要先配置一些前置的。环境。我们需要先安装一个向量库。呃，安装向量库的方法呢？在我们文档中可以看到，我们现在是使用docker去进行安装，把docker命令复制并且执行在你的。终端中去执行这段命令。嗯，因为我这边就已经已经创建好了这个向量库了，所以我就不再去实际执行了。那执行完成以后呢？呃，可以通过never cat去连接，试一试我们是不是已经连接好了。大家可以看一下我这边已经填好的信息，它其实就是一个post gra的数据库啊。

你比如说现在这样，就是我已经存在的向量，我的库里面已经存在的向量表，那它有一个字段就是用来存储向量的。好的，那向量库我们准备好以后呢，我们还需要再去准备一个向量模型。那向量模型在我们的AI模型配置中添加一个模型。啊，可以看到右上角会有一个类型，当我们选择向量模型的时候，会发现，呃，模型的供应商变少了，那是因为有的供应商他并不支持向量模型，或者说他并不提供向量模型，这个我们在使用的时候要注意。啊，我们现在已经添加一个我们已经有的向量模型。模型选择向量模型啊，基础模型就用默认的就可以了。

好的配置把向量模型以后呢，我们在知识库里，然后去创建一个新的知识库。比如说用GG知识库。啊，我们主要用来里面存储一些我们GE cg boot相关的一些文档，嗯。那创建好模型以后，我们要在模型中，我们要去选择这个支库，我们要选择这个模型啊，就用我们刚刚创建好的这个向量模型。那进入知识库，在这里我们支持三种方式去上传文档，那第一种方式很简单，就是我们自己去输入我们的。标题。然后就是就是。这是一个就是过。嗯。

啊，就像这样输入我们的知识库信息。可以看我们创建以后，它就会提示正在构建中，这个其实是我们后台正在对这个知识库的文档进行一个向量化啊，向量化存储到我们就我们就可以看到刚刚我们存储成这样了，它就会存储这样的数据。那第二种方式呢，是支持直接上传一个文档，这个文档支持text markcdown, 然后PDF以及呃，基础的office的文件，嗯，那我们现在就上传一个麦克down的文档。嗯，传一个，比如我们现在AITC里面的。嗯，简单应用的上。好的。怎样？MN.嗯。啊，传的其实就是就是这个页面啊。

可以看到。这样已经抽完了，那现在我们在命中测试，命中测试呢是可以输入一个关键字，然后看看这个关键字在我们的文档库里面，到底能不能够命中我们的文档。嗯，这样我们是，呃，发了一个AI聊天机器人，可以看到我们现在命中了三个块儿，第一个块儿的分数呢，达到了0.94啊，最高是到1啊，同时呢，我们可以看到命中的是第几块，然后包含了多少个字符。我打开看一下。可以看到，虽然命中了我们的文档，但是我们文档里面的一些图片是没有办法展示的，那这种情况该怎么办呢？我们就有了第三种方式上传文档库啊，上传文档库的时候有一个前提要求，就是嗯。

我们文档库需要去上传一个zip文zip的压缩包，那在压缩之前我们需要做一些简单的处理，比如说我们在这是我们的文档，像我们刚刚找到我们刚才的那一个文档是他。你看到它的地址里面会包含了图片地址会包含了这种static AI GC, 然后一个图片的名称，那这样的这个目录呢，要同样包含在文档库的根目录，Static Di I GC, 然后会有对应的图片，也就是说我们的资源和我们的文档要一同打包。啊，这个是我们已经打包好的文件，我把它再上传上来。点击文档库上传。选择zip文件，点击确定。那我们现在它已经自动识别到了我们这个zip包里面所有的Mac文件，并且自动的进行一个向量化。

我们稍微等一下，让他向量化，把这些文档全部都向量化完成。现在呢，我们的这个文档已经全部都向量化完成了，我们来测试一下它的命中。可以看到我们现在命中的命中的段落呢，就已经能够正常的展示呃，文档里面的图片了。好的，到现在呢，我们的知识库的配置就已经完成了。下面我们回到AI应用，创建一个空白的新应用，叫T。不理。那么他呢，专注于回答一些跟AI，跟GCG相关的问题，那这些问题用普通的AI他肯定是回答不了的，呃，我们配置一下它的提示词。

嗯，从知识库中提取相关信息，帮助用户解决问题，好的。然后是他的开场白。以及呃，预测的问题。下面呢，我们要选择AI模型。那最重要的部分来了，在知识库这里，我们要选择刚刚添加好的知识库。我们来测试一下。可以看到他现在的AI的回答呢，就会结合我们的文档，把文档的内容输出出来，以及文档的一些配图都可以输出给我们。

至此呢？如何够让AI接入知识库，回答我们专业领域的问题，这已经演示完了。那下面呢，我们来。但是现在呢，我们的AI应用它的能力还是比较单一，比如说会聊天的他就只会聊天，那能够回答文档问题的，他主也就只能回答文档的问题，那有什么办法能让我们一个应用就能够完成，呃，根据用户的需求去回答不同的内容呢？那下面呢，就到了我们的这个流程设计的阶段，在流程设计上里面我们先添加一个流程。嗯。

流程里我们有很多的节点，我们可以通过这些节点的组合去完成我们想要完成的一些目标。那你进来的时候呢，我们会有一个开始节点。开始节点默认会有用户问题和历史对话的这个输入字段，那像我们刚刚的需求，如何能够根据用户的需求去回答用户的问题，或者是做一些事情，那我们就需要用到一个分类器节点。属骨变量是用户问题，然后模型选择大模型，那第一个分类呢，呃。用户们的是。GECG.Eat.产品相关的问题。

那第2个问题，用户问的是。公司相关的问题。那如果都不是这个问题，我们会做另外一件另外的处理，那如果是GECG产品相关的问题，我们需要让AI去查询知识库。那知识库也会有一个用户问题，然后选择知识库。知识库查询完了以后呢，需要去让大模型去把回答知识库的信息。嗯，啊，它的系统提示是根据知识库的资料回答用户的问题，模型同样要选择输入变量，这里需要选择两个，第一个呢是用户的问题。

第二个，我们需要选择知识库的输出，也就知识库最后检索到的文档内容。然后在用户提示中选择用户问题。最后，将。大模型返回的数据。输出给用户。啊，我们直接返回文本好的。这是如果问的是知识类的东西，那如果他用户问的是跟公司相关的信息，那我这里整理了一些我们公司的信息。好的，我将这个信息填写到系统提示词里面。

模型同样选择，然后用户的问题。Question.然后最后将同样的将模型的输出内容输出给用户。最后，如果用户问的问题跟上面两个都不相关，那我们现在就用默认的这个李白的这个提示词，然后让AI去用李白的口吻去回复用户的信息。

啊，这样我们这样一个简单的流程就配置好了，嗯，稍微调整一下位置。我们可以通过上面的调试来测试一下我们的流程走的是不是会符合我的预期，如果不符合预期的话，我们还可以再进行调整。比如我们GCG是什么？可以看到我们现在流程的走向啊，它分分辨出来我的问题是跟GCG相关的，那它就会走知识库，然后知识库的答案呢，就会进到大模型。

大模型，再回去，根据知识库的问题，然后最后走到结束节点。我们可以在右侧的调试面板里面看到整个流程的一个呃，从开始。啊，输入输出，然后到每一个节点的输入输出都分别是什么。知道。到最后的结束节点的输出啊，我们可以在结果看到输出的是什么啊，我们再换一个问题，比如说。嗯。是什么？嗯，可以看到他现在走到了我们的第二个模型，第二个分类，也就是公司信息，那他就会返回我们公司的联系方式。那如果我们问的问题跟他们都不相关，嗯，你好。你是谁？

好的，我们问的问题跟上面两个都不相关，他就会回到走到第三个分支里面，然后他会用李白的口吻去回复我们的问题，那这样呢，我们的这个流程就已经设置完成了，当然我们还有其他的一些节点也是可以在用的，我们下面呃，可以在文档中详细的看每一个节点具体是干什么的，该怎么用。啊，流程配置好以后，我们可以在应用中创建一个新的应用。高级助理。这个时候，我们需要选择高级编排。可以看到高级编排跟简单的编排，他们的这个设置的界面要少了很多，那高级编排最主要的是我们要先去关联我们的流程。

开场白可以随便写一下，我。嗯。我问一问。你星期。啊，最后我们就问一下什么电影什么太奇，嗯。好的，我们来试一下。呃，在演示界面看一下吧。嗯，TEG是什么？啊，可以看到啊，它还是跟我们在流程演示的一样，返回了这一CG的具体信息，好，我们再来问一下。

嗯。可以看到它会根据用户的问题去进行选择不同的响应方式，去回答不同的问题，那这样的话，我们就拥有了一个很智能的高级主聊天助理。嗯，那现在呢，我们的呃，三个事例呢，全部都已经演示完成了，那今天主要也是根据这三个事例，简单的介绍一下我们AI大模型都有哪些功能，具体该如何使用。嗯，那今天的视频就到这里为止了，感谢大家的观看。