操作场景
基于标签路由通过为模型服务绑定标签(Key-Value 键值对),在模型 API 中按标签条件动态筛选可用的模型服务,实现灵活的服务选择。适用于以下场景:
按需筛选:从大批量模型中根据标签条件自动筛选符合条件的服务,无需手动逐个选择
多云混合管理:为不同云服务商、不同地域的模型服务打上标签,按业务需求灵活组合
灰度发布与版本管理:通过
version、env 等标签筛选特定版本或环境的服务前置条件
1. 已创建 AI 网关实例且处于运行中状态
2. 已创建多个模型服务
3. 已在模型服务上配置了标签(Key-Value 对)
操作步骤
步骤一:为模型服务配置标签
标签需要在创建或编辑模型服务时配置,标签是后续路由筛选的基础。
创建或编辑模型服务时配置标签
1. 登录微服务平台控制台,在左侧导航栏单击云原生智能网关 > 实例列表;
2. 在实例列表页面,单击需要配置的网关实例的“ID”,进入该网关实例的基本信息页面;
3. 在左侧导航栏单击模型管理,然后单击模型服务页签;
4. 单击新建或编辑已有服务;
5. 在基本信息 > 高级配置的服务标签区域,配置标签键值对。
标签配置说明:
参数 | 说明 | 示例 |
标签键 | 分类标识,建议使用有业务含义的键名 | region、provider、env、tier、team |
标签值 | 对应键的值 | singapore、openai、production、vip |
6. 内置常用标签模板,可单击标签快速添加

步骤二:在模型 API 中配置标签筛选
完成模型服务的标签配置后,在创建或编辑模型 API 时通过标签条件筛选服务。
1. 进入模型 API 配置页
1.1 选择左侧导航栏 模型管理 > 模型 API
1.2 单击 新建模型 API 或编辑已有 API
1.3 完成基本信息配置后,进入 第二步:选择模型服务
2. 配置标签筛选条件
在 标签筛选 区域,配置筛选条件和匹配模式:

配置参数说明:
参数 | 是否必填 | 说明 | 示例 |
匹配模式 | 是 | 标签条件的组合逻辑 | AND 或 OR |
标签键 | 是 | 模型服务标签的键名 | region |
标签值 | 是 | 期望匹配的标签值 | singapore |
已匹配服务 | 自动 | 根据条件自动筛选出的服务列表 | OpenAI-Singapore-Prod 等 |
3. 配置路由后续策略
标签筛选完成后,选中已匹配的服务,然后可选择后续的路由策略(如模型名称路由、权重路由等)对这些服务进行更细粒度的流量分配。
4. 保存配置
单击 确定 保存模型 API 配置,标签路由规则立即生效。