JeecgBoot 平台的 AIGC 功能模块,是一套类似 Dify 的 AIGC应用开发平台 + 知识库问答 子系统,是一款基于 LLM 大语言模型 AI 应用平台和 RAG 的知识库问答系统。 其直观的界面结合了 AI 流程编排、RAG 管道、知识库管理、模型管理、对接向量库、实时运行可观察等,让您可以快速从原型到生产,拥有 AI 服务能力。
本小节介绍如何在系统中创建和管理 AI 工作流。
AI 工作流通过将复杂任务拆解为更小的步骤(即流程节点),从而降低系统复杂度,提高执行效率。通过合理的工作流编排,可以减少对 Prompt Engineering(提示词工程)和单次 LLM 推理的依赖,提升 AI 任务的稳定性、可解释性和容错能力。
进入流程管理页面,您可以查看系统中的所有 AI 流程。
点击 添加流程 ,进入新流程编排页面。默认情况下,系统会自动添加一个 开始节点。
在流程编排界面,点击现有节点后的 加号(+),可在该节点后新增流程节点。
此外,还可以按住鼠标 拖动连线,将不同节点连接在一起,形成完整的工作流。
如果需要调整流程,可以选中连线后点击 删除按钮,移除两个节点间的连接。
点击 节点右上角的"..." ,可打开节点的 更多选项 ,支持 复制 或 删除 节点。
点击某个 流程节点,右侧会弹出该节点的详细配置窗口,每个节点的配置方式有所不同,需根据实际业务场景进行调整。
右上角提供了 保存、调试、关闭 当前流程的功能,方便随时调整和测试。
开始节点 是流程的起点,用于接收外部输入。
LLM(大语言模型)节点 负责调用 LLM(如 GPT、Qwen)进行文本生成或智能问答。
如果您不确定如何编写提示词,可以通过点击生成按钮来进入提示词生成器。在该界面中,您可以填写您的需求,AI将会自动帮助您生成合适的提示词。这种方式可以有效地帮助您获取所需的内容,节省时间和精力。请确保尽量详细地描述您的需求,以便生成器能够提供更准确的提示词。
分类器节点 用于让LLM对输入数据进行分类,并将其路由到不同的分支。
知识库节点 负责在 AI 知识库中查询匹配的内容,以增强 AI 回答的准确性。
条件分支节点 根据设定的条件,决定流程的下一步执行路径。
脚本执行节点 允许在流程中执行自定义的代码。
支持代码类型:
不同的脚本有两种写法,其中 JavaScript 和 Groovy 需要将业务代码写在默认定义好的函数中。以 JavaScript 为例,示例如下:
在代码中,需要定义一个main函数:
params
包含了节点配置的输入变量。Java增强节点 允许调用 Java 代码或自定义组件,扩展流程功能。
IAiRagEnhanceJava
接口。Spring Bean
:填写java类的SpringBean
名称示例:
TestAiragEnhance
@Component
public class TestAiragEnhance implements IAiRagEnhanceJava {
@Override
public Map<String, Object> process(Map<String, Object> inputParams) {
Object arg1 = inputParams.get("arg1");
Object arg2 = inputParams.get("arg2");
return Collections.singletonMap("result",arg1.toString()+"_java拼接_"+arg2.toString());
}
}
1.开始节点配置两个入参:问题1、问题2。
2.java增强节点:
- 输入变量对应代码中的方法入参。
- 输出变量对应代码中方法返回值。
3.结束节点
4.调试流程:
子流程节点 允许流程嵌套,支持在当前流程中调用另一个已定义的流程。
http节点 允许在流程中调用http接口,并获取接口返回值输出给其他节点。
{{domainURL}}
来获取当前系统域名{{paramName}}
来引用输入变量以及系统上下文变量直接回复节点,可以在文本编辑器中自由定义回复格式,包括自定义一段固定的文本内容、使用前置步骤中的输出变量作为回复内容、或者将自定义文本与变量组合后回复。
可随时加入节点将内容流式输出至对话回复,如:
与结束节点的区别:
直接回复节点不会结束流程。 直接回复节点回复的内容只通过SSE返回(即使用blocking调用时无法获取)
结束节点 标志流程执行完毕,输出最终结果。
返回文本
,将输出文本类型的结果。完成流程编排后,可以使用调试功能测试流程的运行情况。
点击 运行按钮,进入调试界面。
输入运行参数,例如:
jeecg是什么
调试界面将动态展示流程的执行路径。
您还可以查看每个节点的 输入 和 输出 数据,确保流程逻辑正确。
AI 工作流通过模块化的流程节点,简化了复杂任务的执行逻辑,使得 AI 任务更加稳定、可解释,并易于维护。通过合理使用 LLM 节点、知识库节点、分类器节点等组件,用户可以高效搭建智能化的 AI 处理流程,提高系统的自动化能力和智能水平。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。