可视化函数

最近更新时间:2025-06-24 15:47:32

我的收藏
注意:
交互模式仅支持部分函数。当目标日志主题动态日志主题时,不支持交互模式.

管理可视化函数

您可在编辑加工语句页面切换至交互模式

添加可视化函数:单击

,选中您需要添加的可视化函数大类、可视化函数名称。
调试可视化函数:单击可视化函数右上角的▶️。
删除可视化函数:单击可视化函数右上角的 X。
编辑可视化函数:单击可视化函数右上角的

当前支持的可视化函数如下:
函数大类
可视化函数名称
使用场景
提取键值
JSON:从 JSON 节点中提取字段和字段值
分隔符:根据分隔符提取字段值,需要用户填字段名
正则:根据正则公式提取字段值,需要用户填写字段名
日志结构化
日志处理
过滤日志:配置过滤日志的条件(多个条件为 OR 的关系)。例如字段 A 存在,或者字段 B 不存在,则过滤掉该条日志。
分发日志:配置分发日志的条件
例如 status="error"且 message 中包含 "404"的,分发至 A 主题
例如 status="running"且 message 中包含 "200"的,分发至 B 主题
保留日志:配置保留日志的条件
删除/保留日志
字段处理
删除字段
重命名字段
删除/重命名字段

加工案例

日志结构化

原始日志

日志中有两个字段 log 和 message,可对其进一步结构化。
{
"log": "{\\"offset\\":281,\\"file\\":{\\"path\\":\\"/logs/gate.log\\"}}",
"message": "2024-10-11 15:32:10.003 DEBUG [gateway3036810e0c33b] ",
"content":"cls_ETL|1.06s|fields_renamed"
}

可视化加工函数的配置




可视化函数
配置项目
例子中配置的值
是否必填
说明
加工函数-JSON
描述
-
填写您对该加工函数的描述
字段
log
选中您要处理的原字段
新字段前缀
-
为提取出来的新字段名称添加前缀
新字段后缀
-
为提取出来的新字段名称添加后缀
原字段自动删除
☑️
加工完成后,删除原字段
加工函数-正则
描述
-
填写您对该加工函数的描述
字段
message
选中您要处理的原字段
正则表达式
(\\d{4}-\\d{2}-\\d{2} \\d{2}:\\d{2}:\\d{2}.\\d{3}) ([A-Z]{5}|[A-Z]{4}) \\[(.+)\\]
\\d{4}-\\d{2}-\\d{2} \\d{2}:\\d{2}:\\d{2}.\\d{3} 提取为新字段 dates
([A-Z]{5}|[A-Z]{4})提取为新字段 level
[(.+)\\]提取为新字段 traceid
新字段名
dates、level、traceid
使用正则公式提取的新字段
原字段自动删除
☑️
加工完成后,删除原字段
加工函数-分隔符
描述
-
填写您对该加工函数的描述
字段
content
选中您要处理的原字段
分隔符
分隔日志为多个新字段的值
新字段名
module、delay_time、msg
使用分隔符提取的新字段
原字段自动删除
☑️
加工完成后,删除原字段

加工结果

提取出来新的字段和字段值如下:
{
"dates":"2024-10-11 15:32:10.003",
"delay_time":"1.06s",
"level":"DEBUG",
"module":"cls_ETL",
"msg":"fields_renamed",
"offset":"281",
"path":"/logs/gate.log",
"traceid":"gateway3036810e0c33b"
}

日志分发

原始日志

根据 loglevel 的值分发日志。
{
"__FILENAME__": "python.log",
"__SOURCE__": "127.0.0.1",
"log_level": "ERROR",
"status": "404",
"time": "2024-07-21 05:17:30.421"
}

可视化加工函数的配置


可视化函数
配置项目
例子中配置的值
是否必填
说明
加工函数-日志分发
描述
-
填写您对该加工函数的描述
分组1
log_level="info"
配置您的分发条件,当日志满足条件时,将会发送到对应的日志主题。例子中是名为 info 的日志主题
分组2
log_level="warning"
配置您的分发条件,当日志满足条件时,将会发送到对应的日志主题。例子中是名为 warning 的日志主题
分组3
log_level=" error"且status="400"
配置您的分发条件,当日志满足条件时,将会发送到对应的日志主题。例子中是名为 error 的日志主题