帮你快速理解、总结文档立即下载

服务标签筛选

最近更新时间:2026-06-11 20:38:31

我的收藏

操作场景

基于标签路由通过为模型服务绑定标签(Key-Value 键值对),在模型 API 中按标签条件动态筛选可用的模型服务,实现灵活的服务选择。适用于以下场景:
按需筛选:从大批量模型中根据标签条件自动筛选符合条件的服务,无需手动逐个选择
多云混合管理:为不同云服务商、不同地域的模型服务打上标签,按业务需求灵活组合
灰度发布与版本管理:通过 versionenv 等标签筛选特定版本或环境的服务

前置条件

1. 已创建 AI 网关实例且处于运行中状态
2. 已创建多个模型服务
3. 已在模型服务上配置了标签(Key-Value 对)

操作步骤

步骤一:为模型服务配置标签

标签需要在创建或编辑模型服务时配置,标签是后续路由筛选的基础。

创建或编辑模型服务时配置标签

1. 登录微服务平台控制台,在左侧导航栏单击云原生智能网关 > 实例列表;
2. 在实例列表页面,单击需要配置的网关实例的“ID”,进入该网关实例的基本信息页面;
3. 在左侧导航栏单击模型管理,然后单击模型服务​页签;
4. 单击新建或编辑已有服务;
5. 基本信息 > 高级配置服务标签区域,配置标签键值对。
标签配置说明
参数
说明
示例
标签键
分类标识,建议使用有业务含义的键名
regionproviderenvtierteam
标签值
对应键的值
singaporeopenaiproductionvip
6. 内置常用标签模板,可单击标签快速添加


步骤二:在模型 API 中配置标签筛选

完成模型服务的标签配置后,在创建或编辑模型 API 时通过标签条件筛选服务。

1. 进入模型 API 配置页

1.1 选择左侧导航栏 模型管理 > 模型 API
1.2 单击 新建模型 API 或编辑已有 API
1.3 完成基本信息配置后,进入 第二步:选择模型服务

2. 配置标签筛选条件

标签筛选 区域,配置筛选条件和匹配模式:

配置参数说明
参数
是否必填
说明
示例
匹配模式
标签条件的组合逻辑
ANDOR
标签键
模型服务标签的键名
region
标签值
期望匹配的标签值
singapore
已匹配服务
自动
根据条件自动筛选出的服务列表
OpenAI-Singapore-Prod

3. 配置路由后续策略

标签筛选完成后,选中已匹配的服务,然后可选择后续的路由策略(如模型名称路由、权重路由等)对这些服务进行更细粒度的流量分配。

4. 保存配置

单击 确定 保存模型 API 配置,标签路由规则立即生效。