1. 接口描述
接口请求域名: dlc.tencentcloudapi.com 。
为已有推理服务新增部署
默认接口请求频率限制:20次/秒。
2. 输入参数
以下请求参数列表仅列出了接口请求参数和部分公共参数,完整公共参数列表见 公共请求参数。
| 参数名称 | 必选 | 类型 | 描述 |
|---|---|---|---|
| Action | 是 | String | 公共参数,本接口取值:AddDeployment。 |
| Version | 是 | String | 公共参数,本接口取值:2021-01-25。 |
| Region | 是 | String | 公共参数,详见产品支持的 地域列表,本接口仅支持其中的: ap-beijing, ap-chongqing, ap-guangzhou, ap-shanghai, ap-singapore 。 |
| ServiceId | 是 | String | ServiceId 示例值:svc-20260731164626-fgja |
| DeploymentName | 是 | String | 部署名称 示例值:aa3 |
| Engine | 是 | String | 推理引擎(vllm / xgboost) 示例值:bb |
| Replicas | 是 | Integer | 副本数 示例值:1 |
| ResourcePartitionId | 是 | String | 资源分区 ID(目标 K8s 集群分区) 示例值:dlc-p-jhzmcfna |
| ModelVersion | 否 | String | 模型版本(如 v1, v2),未提供时使用最新版本 示例值:v3 |
| HeadHighAvailabilityEnabled | 否 | Boolean | 是否开启 ray head 高可用 示例值:false |
| AdvancedParams | 否 | String | 高级参数(JSON 字符串,可选) 示例值:{"EnableRemoteCode":false} |
| Queue | 否 | String | 队列名(K8s namespace) 示例值:default |
| AutoscalingEnabled | 否 | Boolean | 是否启用弹性伸缩 示例值:false |
| Image | 否 | String | 镜像名称 示例值:ccr.ccs.tencentyun.com/emr-image/tcray:2.55.1-py311-cu125-serve |
| AdvancedOptions | 否 | String | 高级参数 示例值:{"spec.excludeHeadPodFromServeSvc":"true"} |
3. 输出参数
| 参数名称 | 类型 | 描述 |
|---|---|---|
| DeploymentId | String | DeploymentId 注意:此字段可能返回 null,表示取不到有效值。 示例值:deploy-20260806171152-j6cq |
| Name | String | 部署名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:aa3 |
| ServiceId | String | 关联的服务ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:svc-20260731164626-fgja |
| ModelVersion | String | 部署使用的模型版本号 注意:此字段可能返回 null,表示取不到有效值。 示例值:v1 |
| Status | String | 部署状态(Running/Stopped/Deploying/Failed) 注意:此字段可能返回 null,表示取不到有效值。 示例值:Deploying |
| Engine | String | 推理引擎(vLLM/SGLang 等) 注意:此字段可能返回 null,表示取不到有效值。 示例值:bb |
| Replicas | Integer | 期望副本数 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
| AvailableReplicas | Integer | 可用副本数 注意:此字段可能返回 null,表示取不到有效值。 示例值:0 |
| ResourceConfig | String | 资源配置(JSON 字符串) 注意:此字段可能返回 null,表示取不到有效值。 示例值:{"workerBillingItem":"sv_dlc_standard_cu_standard_cu","workerSpec":1,"headBillingItem":"","headSpec":1,"gpu":"","gpuNum":0,"cpu":1,"mem":4,"headCpu":2,"headMem":4} |
| HeadHighAvailabilityEnabled | Boolean | 是否开启 ray head 高可用 示例值:true |
| AdvancedParams | String | 高级参数(JSON 字符串) 注意:此字段可能返回 null,表示取不到有效值。 示例值:{"EngineArgs":[],"ExtraFlags":[],"EnvVars":[],"RayOptions":[]} |
| AutoscalingEnabled | Boolean | 是否开启自动伸缩 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
| ModelStorageConfig | String | 模型存储配置(Catalog JSON,记录模型 COS 挂载信息) 注意:此字段可能返回 null,表示取不到有效值。 示例值:{"COSVolumes":[{"Region":"ap-guangzhou","Bucket":"common-job-packages-251233710","VolumeSubPath":"/builtin-models/chronos2/v1/","MountPath":"/builtin-models/chronos2/v1"}]} |
| AppId | Integer | AppId 注意:此字段可能返回 null,表示取不到有效值。 示例值:260200066 |
| Uin | String | Uin 注意:此字段可能返回 null,表示取不到有效值。 示例值:700002655694 |
| CreateTime | Integer | 创建时间(毫秒时间戳) 注意:此字段可能返回 null,表示取不到有效值。 示例值:1786007512628 |
| UpdateTime | Integer | 更新时间(毫秒时间戳) 注意:此字段可能返回 null,表示取不到有效值。 示例值:1786007512628 |
| NeutrinoServeId | String | Neutrino Serve ID (RayService CR name) 注意:此字段可能返回 null,表示取不到有效值。 示例值:rayserve-20260806171152-lk8j |
| ResourcePartitionId | String | 资源分区 ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:dlc-p-jhzmcfna |
| Queue | String | 资源队列名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:default |
| SubAccountUin | String | SubAccountUin 示例值:700002655694 |
| Image | String | 镜像名称 示例值:ccr.ccs.tencentyun.com/emr-image/tcray:2.55.1-py311-cu125-serve |
| ResourcePartitionName | String | 资源分区名称 示例值:dlc-test-03-cpu-resource-new |
| AdvancedOptions | String | 高级参数 示例值:{"spec.excludeHeadPodFromServeSvc":"true"} |
| RequestId | String | 唯一请求 ID,由服务端生成,每次请求都会返回(若请求因其他原因未能抵达服务端,则该次请求不会获得 RequestId)。定位问题时需要提供该次请求的 RequestId。 |
4. 示例
示例1 示例
输入示例
POST / HTTP/1.1
Host: dlc.tencentcloudapi.com
Content-Type: application/json
X-TC-Action: AddDeployment
<公共请求参数>
{
"ServiceId": "svc-20260731164626-fgja",
"DeploymentName": "aa3",
"Engine": "bb",
"Replicas": 1,
"ResourcePartitionId": "dlc-p-jhzmcfna"
}
输出示例
{
"Response": {
"AdvancedParams": "{\"EngineArgs\":[],\"ExtraFlags\":[],\"EnvVars\":[],\"RayOptions\":[]}",
"AppId": 260200066,
"AutoscalingEnabled": false,
"AvailableReplicas": 0,
"CreateTime": 1786007512628,
"DeploymentId": "deploy-20260806171152-j6cq",
"Engine": "bb",
"HeadHighAvailabilityEnabled": true,
"ModelStorageConfig": "{\"COSVolumes\":[{\"Region\":\"ap-guangzhou\",\"Bucket\":\"common-job-packages-251233710\",\"VolumeSubPath\":\"/builtin-models/chronos2/v1/\",\"MountPath\":\"/builtin-models/chronos2/v1\"}]}",
"ModelVersion": "v1",
"Name": "aa3",
"NeutrinoServeId": "rayserve-20260806171152-lk8j",
"Replicas": 1,
"ResourceConfig": "{\"workerBillingItem\":\"sv_dlc_standard_cu_standard_cu\",\"workerSpec\":1,\"headBillingItem\":\"\",\"headSpec\":1,\"gpu\":\"\",\"gpuNum\":0,\"cpu\":1,\"mem\":4,\"headCpu\":2,\"headMem\":4}",
"ResourcePartitionId": "dlc-p-jhzmcfna",
"ResourcePartitionName": "dlc-test-03-cpu-resource-new",
"ServiceId": "svc-20260731164626-fgja",
"Status": "Deploying",
"SubAccountUin": "700002655694",
"Uin": "700002655694",
"UpdateTime": 1786007512628,
"RequestId": "0175dcfd-cda0-4c5b-8ae4-7fefbcfdf70c"
}
}
5. 开发者资源
腾讯云 API 平台
腾讯云 API 平台 是综合 API 文档、错误码、API Explorer 及 SDK 等资源的统一查询平台,方便您从同一入口查询及使用腾讯云提供的所有 API 服务。
API Inspector
用户可通过 API Inspector 查看控制台每一步操作关联的 API 调用情况,并自动生成各语言版本的 API 代码,也可前往 API Explorer 进行在线调试。
SDK
云 API 3.0 提供了配套的开发工具集(SDK),支持多种编程语言,能更方便的调用 API。
- Tencent Cloud SDK 3.0 for Python: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for Java: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for PHP: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for Go: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for Node.js: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for .NET: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for C++: CNB, GitHub, Gitee
- Tencent Cloud SDK 3.0 for Ruby: CNB, GitHub, Gitee
命令行工具
6. 错误码
以下仅列出了接口业务逻辑相关的错误码,其他错误码详见 公共错误码。
| 错误码 | 描述 |
|---|---|
| FailedOperation.ExternalService | 外部服务异常 |