CBSConfig
CBS存储配置
被如下接口引用:CreateNotebook。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
VolumeSizeInGB | Integer | 是 | 存储大小 注意:此字段可能返回 null,表示取不到有效值。 示例值:50 |
CFSConfig
CFS存储的配置
被如下接口引用:CreateDataset, CreateModelService, CreateNotebook, DescribeDatasets, DescribeModelServiceHotUpdated, DescribeNotebook, DescribeNotebooks, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Id | String | 是 | cfs的实例的ID 示例值:cfs-myCfsId |
Path | String | 是 | 存储的路径 示例值:/my/path |
MountType | String | 否 | cfs的挂载类型,可选值为:STORAGE、SOURCE 分别表示存储拓展模式和数据源模式,默认为 STORAGE 注意:此字段可能返回 null,表示取不到有效值。 示例值:STORAGE |
Protocol | String | 否 | 协议 1: NFS, 2: TURBO 注意:此字段可能返回 null,表示取不到有效值。 示例值:NFS |
CFSTurbo
配置CFSTurbo参数
被如下接口引用:CreateNotebook。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Id | String | 否 | CFSTurbo实例id 注意:此字段可能返回 null,表示取不到有效值。 示例值:d3dcc487 |
Path | String | 否 | CFSTurbo路径 注意:此字段可能返回 null,表示取不到有效值。 示例值:/turbo |
Choice
对话结果
被如下接口引用:ChatCompletion。
名称 | 类型 | 描述 |
---|---|---|
Message | Message | 对话结果 |
FinishReason | String | 结束理由: stop, length, content_filter, null 示例值:stop |
Index | Integer | 序号 示例值:0 |
Container
容器信息
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Name | String | 是 | 名字 注意:此字段可能返回 null,表示取不到有效值。 示例值:main |
ContainerId | String | 是 | id 注意:此字段可能返回 null,表示取不到有效值。 示例值:989e5db6-af8c-4ea0-816a-a97369b36152 |
Image | String | 是 | 镜像地址 注意:此字段可能返回 null,表示取不到有效值。 示例值:ccr.ccs.tencentyun.com/test-ccr/hellotest:grpc-test |
Status | ContainerStatus | 是 | 容器状态 注意:此字段可能返回 null,表示取不到有效值。 |
ContainerStatus
容器状态
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
RestartCount | Integer | 是 | 重启次数 注意:此字段可能返回 null,表示取不到有效值。 示例值:0 |
State | String | 是 | 状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:waiting |
Ready | Boolean | 是 | 是否就绪 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
Reason | String | 是 | 状态原因 注意:此字段可能返回 null,表示取不到有效值。 示例值:ContainerCreating |
Message | String | 是 | 容器的错误信息 注意:此字段可能返回 null,表示取不到有效值。 示例值:Error |
CosPathInfo
cos的路径信息
被如下接口引用:CreateDataset, CreateModelService, CreateNotebook, CreateTrainingModel, DescribeDatasets, DescribeModelAccelerateTask, DescribeModelAccelerateVersions, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, DescribeModelServiceHotUpdated, DescribeTrainingModelVersion, DescribeTrainingModelVersions, DescribeTrainingTask, DescribeTrainingTasks, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Bucket | String | 是 | 存储桶 注意:此字段可能返回 null,表示取不到有效值。 示例值:encent-cloud-product-release-66666 |
Region | String | 是 | 所在地域 注意:此字段可能返回 null,表示取不到有效值。 示例值:ap-beijing |
Paths | Array of String | 是 | 路径列表,目前只支持单个 注意:此字段可能返回 null,表示取不到有效值。 示例值:["path/"] |
CronScaleJob
定时扩缩任务
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Schedule | String | 是 | Cron表达式,标识任务的执行时间,精确到分钟级 示例值:"0 30 12 * * *" |
Name | String | 否 | 定时任务名 注意:此字段可能返回 null,表示取不到有效值。 示例值:job-1 |
TargetReplicas | Integer | 否 | 目标实例数 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
MinReplicas | Integer | 否 | 目标min 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
MaxReplicas | Integer | 否 | 目标max 注意:此字段可能返回 null,表示取不到有效值。 示例值:3 |
ExcludeDates | Array of String | 否 | 例外时间,Cron表达式,在对应时间内不执行任务。最多支持3条。 注意:此字段可能返回 null,表示取不到有效值。 示例值:["0 30 12 * * *"] |
CrossTenantENIInfo
跨租户弹性网卡下Pod调用信息
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
PrimaryIP | String | 否 | Pod IP 注意:此字段可能返回 null,表示取不到有效值。 示例值:9.0.0.1 |
Port | String | 否 | Pod Port 注意:此字段可能返回 null,表示取不到有效值。 示例值:8501 |
DataConfig
数据配置
被如下接口引用:CreateNotebook, DescribeNotebook, DescribeTrainingTask。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
MappingPath | String | 否 | 映射路径 |
DataSourceUsage | String | 否 | 存储用途 可选值为 BUILTIN_CODE, BUILTIN_DATA, BUILTIN_MODEL, USER_DATA, USER_CODE, USER_MODEL, OUTPUT, OTHER 注意:此字段可能返回 null,表示取不到有效值。 示例值:BUILTIN_CODE |
DataSourceType | String | 否 | DATASET、COS、CFS、CFSTurbo、GooseFSx、HDFS、WEDATA_HDFS 注意:此字段可能返回 null,表示取不到有效值。 示例值:DATASET |
DataSetSource | DataSetConfig | 否 | 来自数据集的数据 注意:此字段可能返回 null,表示取不到有效值。 |
COSSource | CosPathInfo | 否 | 来自cos的数据 注意:此字段可能返回 null,表示取不到有效值。 |
CFSSource | CFSConfig | 否 | 来自CFS的数据 注意:此字段可能返回 null,表示取不到有效值。 |
HDFSSource | HDFSConfig | 否 | 来自HDFS的数据 注意:此字段可能返回 null,表示取不到有效值。 |
GooseFSSource | GooseFS | 否 | 配置GooseFS的数据 注意:此字段可能返回 null,表示取不到有效值。 |
CFSTurboSource | CFSTurbo | 否 | 配置TurboFS的数据 注意:此字段可能返回 null,表示取不到有效值。 |
LocalDiskSource | LocalDisk | 否 | 来自本地磁盘的信息 注意:此字段可能返回 null,表示取不到有效值。 |
CBSSource | CBSConfig | 否 | CBS配置信息 注意:此字段可能返回 null,表示取不到有效值。 |
DataPoint
数据点
被如下接口引用:PushTrainingMetrics。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Name | String | 是 | 指标名字 示例值:requests_total |
Value | Float | 是 | 值 示例值:123.99 |
DataSetConfig
数据集结构体
被如下接口引用:CreateNotebook。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Id | String | 是 | 数据集ID |
DatasetGroup
数据集组
被如下接口引用:DescribeDatasets。
名称 | 类型 | 描述 |
---|---|---|
DatasetId | String | 数据集ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:Voc2017 |
DatasetName | String | 数据集名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
Creator | String | 创建者 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
DatasetVersion | String | 数据集版本 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
DatasetType | String | 数据集类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
DatasetTags | Array of Tag | 数据集标签 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
DatasetAnnotationTaskName | String | 数据集标注任务名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
DatasetAnnotationTaskId | String | 数据集标注任务ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
Process | Integer | 处理进度 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
DatasetStatus | String | 数据集状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
ErrorMsg | String | 错误详情 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
CreateTime | String | 创建时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
UpdateTime | String | 更新时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
ExternalTaskType | String | 外部关联TASKType 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
DatasetSize | String | 数据集大小 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
FileNum | Integer | 数据集数据量 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
StorageDataPath | CosPathInfo | 数据集源COS路径 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
StorageLabelPath | CosPathInfo | 数据集标签存储路径 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
DatasetVersions | Array of DatasetInfo | 数据集版本聚合详情 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
AnnotationStatus | String | 数据集标注状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
AnnotationType | String | 数据集类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
AnnotationFormat | String | 数据集标注格式 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
DatasetScope | String | 数据集范围 注意:此字段可能返回 null,表示取不到有效值。 示例值:SCOPE_DATASET_PRIVATE |
OcrScene | String | 数据集OCR子场景 注意:此字段可能返回 null,表示取不到有效值。 示例值:IDENTITY |
AnnotationKeyStatus | String | 数据集字典修改状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:STATUS_SUCCESS |
ContentType | String | 文本数据集导入方式 注意:此字段可能返回 null,表示取不到有效值。 示例值:TYPE_TEXT_LINE |
DatasetScene | String | 数据集建模类别。 注意:此字段可能返回 null,表示取不到有效值。 |
CFSConfig | CFSConfig | CFS配置 注意:此字段可能返回 null,表示取不到有效值。 |
SceneTags | Array of String | 数据集标签 注意:此字段可能返回 null,表示取不到有效值。 |
NumAnnotated | Integer | 已标注数量 注意:此字段可能返回 null,表示取不到有效值。 |
AnnotationSpecification | String | 标注规范 注意:此字段可能返回 null,表示取不到有效值。 |
AnnotationSchemaConfigured | Boolean | 标注Schema是否配置 注意:此字段可能返回 null,表示取不到有效值。 |
DatasetInfo
数据集详情
被如下接口引用:DescribeDatasets。
名称 | 类型 | 描述 |
---|---|---|
DatasetId | String | 数据集id 注意:此字段可能返回 null,表示取不到有效值。 示例值:rodftv7u3gg |
DatasetName | String | 数据集名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:test_text_202111291118 |
Creator | String | 数据集创建者 注意:此字段可能返回 null,表示取不到有效值。 示例值:nemoren |
DatasetVersion | String | 数据集版本 注意:此字段可能返回 null,表示取不到有效值。 示例值:v1 |
DatasetType | String | 数据集类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:TEXT |
DatasetTags | Array of Tag | 数据集标签 注意:此字段可能返回 null,表示取不到有效值。 示例值:tag |
DatasetAnnotationTaskName | String | 数据集对应标注任务名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:anno_test_text |
DatasetAnnotationTaskId | String | 数据集对应标注任务ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:"anno_id" |
Process | Integer | 处理进度 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
DatasetStatus | String | 数据集状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:"test" |
ErrorMsg | String | 错误详情 注意:此字段可能返回 null,表示取不到有效值。 示例值:"" |
CreateTime | String | 数据集创建时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:2021-12-01 18:32:05 |
UpdateTime | String | 数据集更新时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:2021-12-01 18:32:05 |
ExternalTaskType | String | 外部任务类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
DatasetSize | String | 数据集存储大小 注意:此字段可能返回 null,表示取不到有效值。 示例值:1G |
FileNum | Integer | 数据集数据数量 注意:此字段可能返回 null,表示取不到有效值。 示例值:20 |
StorageDataPath | CosPathInfo | 数据集源cos 路径 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
StorageLabelPath | CosPathInfo | 数据集输出cos路径 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
AnnotationStatus | String | 数据集标注状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
AnnotationType | String | 数据集类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
AnnotationFormat | String | 数据集标注格式 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
DatasetScope | String | 数据集范围 注意:此字段可能返回 null,表示取不到有效值。 示例值:SCOPE_DATASET_PRIVATE |
OcrScene | String | 数据集OCR子场景 注意:此字段可能返回 null,表示取不到有效值。 示例值:IDENTITY |
AnnotationKeyStatus | String | 数据集字典修改状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:STATUS_SUCCESS |
ContentType | String | 内容类型 注意:此字段可能返回 null,表示取不到有效值。 |
DatasetScene | String | 数据集建模类别。 注意:此字段可能返回 null,表示取不到有效值。 |
CFSConfig | CFSConfig | CFS配置 注意:此字段可能返回 null,表示取不到有效值。 |
SceneTags | Array of String | 数据集标签 注意:此字段可能返回 null,表示取不到有效值。 |
NumAnnotated | Integer | 已标注数量 注意:此字段可能返回 null,表示取不到有效值。 |
AnnotationSpecification | String | 标注规范 注意:此字段可能返回 null,表示取不到有效值。 |
AnnotationSchemaConfigured | Boolean | 标注Schema是否配置 注意:此字段可能返回 null,表示取不到有效值。 |
DefaultInnerCallInfo
默认内网调用信息
被如下接口引用:DescribeModelServiceCallInfo。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
VpcIds | Array of String | 否 | 可以进行调用的VPC-ID 注意:此字段可能返回 null,表示取不到有效值。 |
InnerHttpAddr | String | 否 | 默认内网调用地址 注意:此字段可能返回 null,表示取不到有效值。 |
DefaultNginxGatewayCallInfo
默认Nginx网关结构
被如下接口引用:DescribeModelServiceCallInfo。
名称 | 类型 | 描述 |
---|---|---|
Host | String | host 注意:此字段可能返回 null,表示取不到有效值。 示例值:test.tione.tencents.com |
EnvVar
环境变量
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Name | String | 否 | 环境变量key 注意:此字段可能返回 null,表示取不到有效值。 示例值:TEST |
Value | String | 否 | 环境变量value 注意:此字段可能返回 null,表示取不到有效值。 示例值:TEST |
Filter
过滤器
被如下接口引用:DescribeBillingResourceGroup, DescribeBillingResourceGroups, DescribeDatasets, DescribeModelAccelerateVersions, DescribeModelServiceGroups, DescribeNotebooks, DescribeTrainingModelVersions, DescribeTrainingTasks。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Name | String | 否 | 过滤字段名称 示例值:Name |
Values | Array of String | 否 | 过滤字段取值 示例值:{"ss","sss"} |
Negative | Boolean | 否 | 是否开启反向查询 示例值:false |
Fuzzy | Boolean | 否 | 是否开启模糊匹配 示例值:false |
GooseFS
配置GooseFS参数
被如下接口引用:CreateNotebook, DescribeNotebook, DescribeNotebooks。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Id | String | 否 | goosefs实例id 注意:此字段可能返回 null,表示取不到有效值。 示例值:goosefs-instance-id |
Type | String | 否 | GooseFS类型,包括GooseFS和GooseFSx 注意:此字段可能返回 null,表示取不到有效值。 示例值:GooseFSx |
Path | String | 否 | GooseFSx实例需要挂载的路径 注意:此字段可能返回 null,表示取不到有效值。 示例值:/test |
NameSpace | String | 否 | GooseFS命名空间 注意:此字段可能返回 null,表示取不到有效值。 示例值:test-1318247806 |
GpuDetail
gpu 详情
被如下接口引用:CreateModelService, DescribeBillingResourceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Name | String | 否 | GPU 显卡类型;枚举值: V100 A100 T4 注意:此字段可能返回 null,表示取不到有效值。 示例值:V100 |
Value | Integer | 否 | GPU 显卡数;单位为1/100卡,比如100代表1卡 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
GroupResource
资源信息
被如下接口引用:DescribeBillingResourceGroups。
名称 | 类型 | 描述 |
---|---|---|
Cpu | Integer | CPU核数; 单位为1/1000核,比如100表示0.1核 示例值:100 |
Memory | Integer | 内存;单位为MB 示例值:100 |
Gpu | Integer | 总卡数;GPUDetail 显卡数之和;单位为1/100卡,比如100代表1卡 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
GpuDetailSet | Array of GpuDetail | Gpu详情 注意:此字段可能返回 null,表示取不到有效值。 |
HDFSConfig
HDFS的参数配置
被如下接口引用:CreateNotebook。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Id | String | 是 | 集群实例ID,实例ID形如: emr-xxxxxxxx 示例值:emr-xxxxxxxx |
Path | String | 是 | 路径 示例值:/my/path |
HorizontalPodAutoscaler
hpa的描述
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
MinReplicas | Integer | 是 | 最小实例数 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
MaxReplicas | Integer | 是 | 最大实例数 注意:此字段可能返回 null,表示取不到有效值。 示例值:2 |
HpaMetrics | Array of Option | 是 | 支持: "gpu-util": GPU利用率。范围{10, 100} "cpu-util": CPU利用率。范围{10, 100} "memory-util": 内存利用率。范围{10, 100} "service-qps": 单个实例QPS值。范围{1, 5000} "concurrency-util":单个实例请求数量值。范围{1,100000} 注意:此字段可能返回 null,表示取不到有效值。 示例值:"gpu-util": {0, 100} |
HyperParameter
模型专业参数
被如下接口引用:DescribeModelAccelerateTask。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
MaxNNZ | String | 否 | 最大nnz数 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
SlotNum | String | 否 | slot数 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
CpuCachePercentage | String | 否 | gpu cache 使用率 注意:此字段可能返回 null,表示取不到有效值。 示例值:0.2 |
GpuCachePercentage | String | 否 | cpu cache 使用率 注意:此字段可能返回 null,表示取不到有效值。 示例值:0.2 |
EnableDistributed | String | 否 | 是否开启分布式模式(true/false) 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
MinBlockSizePt | String | 否 | TORCH_SCRIPT、MMDETECTION、DETECTRON2、HUGGINGFACE格式在进行优化时切分子图的最小算子数目,一般无需进行改动,默认为3 注意:此字段可能返回 null,表示取不到有效值。 示例值:3 |
MinBlockSizeTf | String | 否 | FROZEN_GRAPH、SAVED_MODEL格式在进行优化时切分子图的最小算子数目,一般无需进行改动,默认为10 注意:此字段可能返回 null,表示取不到有效值。 示例值:10 |
PipelineArgs | String | 否 | Stable Diffusion 模型优化参数 注意:此字段可能返回 null,表示取不到有效值。 示例值:{”safety_checker“:null} |
LoraScale | String | 否 | Stable Diffusion 模型优化参数,控制Lora模型的影响效果 注意:此字段可能返回 null,表示取不到有效值。 示例值:0.1 |
ImageFIlter
镜像列表过滤
被如下接口引用:DescribeBuildInImages。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Name | String | 是 | 过滤字段名称 示例值:Attr |
Values | Array of String | 是 | 过滤值 示例值:["DataPipeline"] |
Negative | Boolean | 否 | 是否反选 示例值:true |
ImageInfo
镜像描述信息
被如下接口引用:CreateModelService, CreateNotebook, CreateTrainingModel, DescribeBuildInImages, DescribeModelAccelerateVersions, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, DescribeModelServiceHotUpdated, DescribeNotebook, DescribeTrainingModelVersion, DescribeTrainingModelVersions, DescribeTrainingTask, DescribeTrainingTasks, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
ImageType | String | 是 | 镜像类型:TCR为腾讯云TCR镜像; CCR为腾讯云TCR个人版镜像,PreSet为平台预置镜像,CUSTOM为第三方自定义镜像 示例值:TCR |
ImageUrl | String | 是 | 镜像地址 示例值:ccr.ccs.tencentyun.com/ti-platform/hellotest:http-test |
RegistryRegion | String | 否 | TCR镜像对应的地域 注意:此字段可能返回 null,表示取不到有效值。 示例值:ap-beijiang |
RegistryId | String | 否 | TCR镜像对应的实例id 注意:此字段可能返回 null,表示取不到有效值。 示例值:t-asfffasf |
AllowSaveAllContent | Boolean | 否 | 是否允许导出全部内容 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
ImageName | String | 否 | 镜像名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:LLM |
SupportDataPipeline | Boolean | 否 | 是否支持数据构建 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
ImageUrl
多模态对话图片信息
被如下接口引用:ChatCompletion。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Url | String | 否 | 图片url 示例值:https://cos-bucket.cos.ap-guangzhou.myqcloud.com/TI-ONE-release/IMG.jpg |
InferCodeInfo
推理代码的信息
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
CosPathInfo | CosPathInfo | 是 | 推理代码所在的cos详情 注意:此字段可能返回 null,表示取不到有效值。 |
InferGatewayCallInfo
服务的调用信息,服务组下唯一
被如下接口引用:DescribeModelServiceCallInfo。
名称 | 类型 | 描述 |
---|---|---|
VpcHttpAddr | String | 内网http调用地址 注意:此字段可能返回 null,表示取不到有效值。 示例值:ttt |
VpcHttpsAddr | String | 内网https调用地址 注意:此字段可能返回 null,表示取不到有效值。 示例值:ttt |
VpcGrpcTlsAddr | String | 内网grpc调用地址 注意:此字段可能返回 null,表示取不到有效值。 示例值:ttt |
VpcId | String | 可访问的vpcid 注意:此字段可能返回 null,表示取不到有效值。 示例值:ttt |
SubnetId | String | 后端ip对应的子网 注意:此字段可能返回 null,表示取不到有效值。 示例值:ttt |
InferTemplate
推理镜像详情
被如下接口引用:DescribeInferTemplates。
名称 | 类型 | 描述 |
---|---|---|
InferTemplateId | String | 模板ID 示例值:tensorflow-1.15-cpu |
InferTemplateImage | String | 模板镜像 示例值:ccr.img/ti-tf-cpu:tf1.15 |
InferTemplateGroup
推理镜像组
被如下接口引用:DescribeInferTemplates。
名称 | 类型 | 描述 |
---|---|---|
Framework | String | 算法框架 注意:此字段可能返回 null,表示取不到有效值。 示例值:Tensorflow |
FrameworkVersion | String | 版本号 注意:此字段可能返回 null,表示取不到有效值。 示例值:1.15 |
Groups | Array of String | 支持的训练框架集合 注意:此字段可能返回 null,表示取不到有效值。 示例值:["tensorflow", "light"] |
InferTemplates | Array of InferTemplate | 镜像模板参数列表 注意:此字段可能返回 null,表示取不到有效值。 |
IngressPrivateLinkInfo
私有连接通道信息
被如下接口引用:DescribeModelServiceCallInfo。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
VpcId | String | 否 | 用户VpcId 注意:此字段可能返回 null,表示取不到有效值。 示例值:vpc-314xh0ko |
SubnetId | String | 否 | 用户子网ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:subnet-8ra6pdq7 |
InnerHttpAddr | Array of String | 否 | 内网http调用地址 注意:此字段可能返回 null,表示取不到有效值。 示例值:http://service-xxx-in.gz.apigw.tencentcs.com:8007/tione |
InnerHttpsAddr | Array of String | 否 | 内网https调用地址 注意:此字段可能返回 null,表示取不到有效值。 示例值:https://service-xxx-in.gz.apigw.tencentcs.com:8007/tione |
State | String | 否 | 私有连接状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:CreateSuccess |
Instance
资源组节点信息
被如下接口引用:DescribeBillingResourceGroup, DescribeBillingResourceGroups。
名称 | 类型 | 描述 |
---|---|---|
InstanceId | String | 资源组节点id 示例值:eins-8jpj27jc |
UsedResource | ResourceInfo | 节点已用资源 注意:此字段可能返回 null,表示取不到有效值。 |
TotalResource | ResourceInfo | 节点总资源 注意:此字段可能返回 null,表示取不到有效值。 |
InstanceStatus | String | 节点状态 注意:此字段为枚举值 说明: DEPLOYING: 部署中 RUNNING: 运行中 DEPLOY_FAILED: 部署失败 RELEASING 释放中 RELEASED:已释放 EXCEPTION:异常 注意:此字段可能返回 null,表示取不到有效值。 示例值:RUNNING |
SubUin | String | 创建人 示例值:123 |
CreateTime | String | 创建时间: 注意:北京时间,比如: 2021-12-01 12:00:00 注意:此字段可能返回 null,表示取不到有效值。 示例值:2021-12-01 12:00:00 |
ExpireTime | String | 到期时间 注意:北京时间,比如:2021-12-11 12:00:00 注意:此字段可能返回 null,表示取不到有效值。 示例值:2021-12-11 12:00:00 |
AutoRenewFlag | String | 自动续费标识 注意:此字段为枚举值 说明: NOTIFY_AND_MANUAL_RENEW:手动续费(取消自动续费)且到期通知 NOTIFY_AND_AUTO_RENEW:自动续费且到期通知 DISABLE_NOTIFY_AND_MANUAL_RENEW:手动续费(取消自动续费)且到期不通知 注意:此字段可能返回 null,表示取不到有效值。 示例值:NOTIFY_AND_MANUAL_RENEW |
SpecId | String | 计费项ID 示例值:sv_xx |
SpecAlias | String | 计费项别名 示例值:8C40G V100*1 |
SpecFeatures | Array of String | 计费项特性列表 注意:此字段可能返回 null,表示取不到有效值。 示例值:["COS","CBS","RDMA","CFS"] |
CvmInstanceId | String | 纳管cvmid 示例值:ins-xxxxxxxx |
ErrCode | String | 部署失败错误码 注意:此字段可能返回 null,表示取不到有效值。 示例值:RegisterJobNetworkError |
ErrMsg | String | 部署失败错误信息 注意:此字段可能返回 null,表示取不到有效值。 示例值:registernode job noderegister-ins-fczfco95 network connect failed |
IntranetCallInfo
内网调用信息
被如下接口引用:DescribeModelServiceCallInfo。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
IngressPrivateLinkInfo | IngressPrivateLinkInfo | 否 | 私有连接通道信息 注意:此字段可能返回 null,表示取不到有效值。 |
ServiceEIPInfo | Array of ServiceEIPInfo | 否 | 共享弹性网卡信息 注意:此字段可能返回 null,表示取不到有效值。 |
DefaultInnerCallInfos | Array of DefaultInnerCallInfo | 否 | 默认内网调用信息 注意:此字段可能返回 null,表示取不到有效值。 |
PrivateLinkInfos | Array of PrivateLinkInfo | 否 | 私有连接信息 注意:此字段可能返回 null,表示取不到有效值。 |
PrivateLinkInfosV2 | Array of PrivateLinkInfo | 否 | 基于新网关的私有连接信息 注意:此字段可能返回 null,表示取不到有效值。 |
LocalDisk
本地磁盘信息
被如下接口引用:CreateNotebook。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
InstanceId | String | 是 | 节点ID 注意:此字段可能返回 null,表示取不到有效值。 |
LocalPath | String | 否 | 本地路径 注意:此字段可能返回 null,表示取不到有效值。 |
LogConfig
日志配置
被如下接口引用:CreateModelService, CreateNotebook, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, DescribeNotebook, DescribeTrainingTask, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
LogsetId | String | 是 | 日志需要投递到cls的日志集 注意:此字段可能返回 null,表示取不到有效值。 示例值:cls-eeee |
TopicId | String | 是 | 日志需要投递到cls的主题 注意:此字段可能返回 null,表示取不到有效值。 示例值:cls-topic-ccccc |
Message
对话输入内容
被如下接口引用:ChatCompletion。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Role | String | 是 | 角色名。支持三个角色:system、user、assistant,其中system仅开头可出现一次,也可忽略。 示例值:user |
Content | String | 否 | 对话输入内容。 示例值:你好 |
MultiModalContents | Array of MultiModalContent | 否 | 多模态对话输入内容,Content与MultiModalContents两者只需要填写其中一个即可,当对话中包含多模态对话信息时,则填写本参数 |
MetricData
指标数据
被如下接口引用:PushTrainingMetrics。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
TaskId | String | 是 | 训练任务id 示例值:task-123 |
Timestamp | Integer | 否 | 时间戳.unix timestamp,单位为秒 注意:此字段可能返回 null,表示取不到有效值。 示例值:19929291 |
Uin | String | 否 | 用户uin 注意:此字段可能返回 null,表示取不到有效值。 示例值:12838421 |
Epoch | Integer | 否 | 本次上报数据所处的训练周期数。 注意:此字段可能返回 null,表示取不到有效值。 示例值:12 |
Step | Integer | 否 | 本次上报数据所处的训练迭代次数。 注意:此字段可能返回 null,表示取不到有效值。 示例值:12 |
TotalSteps | Integer | 否 | 训练停止所需的迭代总数。 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
Points | Array of DataPoint | 否 | 数据点。数组元素为不同指标的数据。数组长度不超过10。 注意:此字段可能返回 null,表示取不到有效值。 |
ModelAccelerateTask
模型加速任务
被如下接口引用:DescribeModelAccelerateTask。
名称 | 类型 | 描述 |
---|---|---|
ModelAccTaskId | String | 模型加速任务ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:acc-3v3yf470zrpc |
ModelAccTaskName | String | 模型加速任务名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:test-task |
ModelId | String | 模型ID 注意:此字段可能返回 null,表示取不到有效值。 |
ModelName | String | 模型名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
ModelVersion | String | 模型版本 注意:此字段可能返回 null,表示取不到有效值。 示例值:v1 |
ModelSource | String | 模型来源 注意:此字段可能返回 null,表示取不到有效值。 示例值:JOB |
OptimizationLevel | String | 优化级别 注意:此字段可能返回 null,表示取不到有效值。 示例值:FP16 |
TaskStatus | String | 任务状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:STATUS_SUCCESS |
ModelInputNum | Integer | input节点个数 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
ModelInputInfos | Array of ModelInputInfo | input节点信息 注意:此字段可能返回 null,表示取不到有效值。 |
GPUType | String | GPU型号 注意:此字段可能返回 null,表示取不到有效值。 示例值:T4 |
ChargeType | String | 计费模式 注意:此字段可能返回 null,表示取不到有效值。 示例值:FREE |
Speedup | String | 加速比 注意:此字段可能返回 null,表示取不到有效值。 示例值:2.86x |
ModelInputPath | CosPathInfo | 模型输入cos路径 注意:此字段可能返回 null,表示取不到有效值。 |
ModelOutputPath | CosPathInfo | 模型输出cos路径 注意:此字段可能返回 null,表示取不到有效值。 |
ErrorMsg | String | 错误信息 注意:此字段可能返回 null,表示取不到有效值。 |
AlgorithmFramework | String | 算法框架 注意:此字段可能返回 null,表示取不到有效值。 示例值:PYTORCH |
WaitNumber | Integer | 排队个数 注意:此字段可能返回 null,表示取不到有效值。 示例值:0 |
CreateTime | String | 创建时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:2022-05-10 22:10:11 |
TaskProgress | Integer | 任务进度 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
ModelFormat | String | 模型格式 注意:此字段可能返回 null,表示取不到有效值。 示例值:SAVED_MODEL |
TensorInfos | Array of String | 模型Tensor信息 注意:此字段可能返回 null,表示取不到有效值。 |
HyperParameter | HyperParameter | 模型专业参数 注意:此字段可能返回 null,表示取不到有效值。 |
AccEngineVersion | String | 加速引擎版本 注意:此字段可能返回 null,表示取不到有效值。 |
Tags | Array of Tag | 标签 注意:此字段可能返回 null,表示取不到有效值。 |
IsSaved | Boolean | 优化模型是否已保存到模型仓库 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
ModelSignature | String | SAVED_MODEL保存时配置的签名 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
QATModel | Boolean | 是否是QAT模型 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
FrameworkVersion | String | 加速引擎对应的框架版本 注意:此字段可能返回 null,表示取不到有效值。 |
ModelVersionId | String | 模型版本ID 注意:此字段可能返回 null,表示取不到有效值。 |
ResourceGroupId | String | 资源组id 注意:此字段可能返回 null,表示取不到有效值。 示例值:test-rg-id |
ResourceGroupName | String | 资源组名称 注意:此字段可能返回 null,表示取不到有效值。 |
ModelAccelerateVersion
优化模型版本列表
被如下接口引用:DescribeModelAccelerateVersions。
名称 | 类型 | 描述 |
---|---|---|
ModelId | String | 模型id 注意:此字段可能返回 null,表示取不到有效值。 示例值:m |
ModelVersionId | String | 优化模型版本id 注意:此字段可能返回 null,表示取不到有效值。 |
ModelJobId | String | 优化任务id 注意:此字段可能返回 null,表示取不到有效值。 |
ModelJobName | String | 优化任务名称 注意:此字段可能返回 null,表示取不到有效值。 |
ModelVersion | String | 优化后模型版本 注意:此字段可能返回 null,表示取不到有效值。 |
SpeedUp | String | 加速比 注意:此字段可能返回 null,表示取不到有效值。 |
ModelSource | ModelSource | 模型来源/任务名称/任务版本 注意:此字段可能返回 null,表示取不到有效值。 |
CosPathInfo | CosPathInfo | 模型cos路径 注意:此字段可能返回 null,表示取不到有效值。 |
CreateTime | String | 创建时间 注意:此字段可能返回 null,表示取不到有效值。 |
ModelFormat | String | 模型规范 注意:此字段可能返回 null,表示取不到有效值。 示例值:ONNX |
Status | String | 状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:STATUS_SUCCESS |
Progress | Integer | 进度 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
ErrorMsg | String | 错误信息 注意:此字段可能返回 null,表示取不到有效值。 |
GPUType | String | GPU类型 注意:此字段可能返回 null,表示取不到有效值。 |
ModelCosPath | CosPathInfo | 模型cos路径 注意:此字段可能返回 null,表示取不到有效值。 |
ModelInfo
模型描述信息
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, DescribeModelServiceHotUpdated, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
ModelVersionId | String | 是 | 模型版本id, DescribeTrainingModelVersion查询模型接口时的id 自动学习类型的模型填写自动学习的任务id 示例值:m-dddd-1 |
ModelId | String | 否 | 模型id 示例值:m-dddd |
ModelName | String | 否 | 模型名 示例值:test |
ModelVersion | String | 否 | 模型版本 示例值:1 |
ModelSource | String | 否 | 模型来源 示例值:COS |
CosPathInfo | CosPathInfo | 否 | cos路径信息 示例值:{} |
AlgorithmFramework | String | 否 | 模型对应的算法框架,预留 注意:此字段可能返回 null,表示取不到有效值。 示例值:pmml |
ModelType | String | 否 | 默认为 NORMAL, 已加速模型: ACCELERATE, 自动学习模型 AUTO_ML 注意:此字段可能返回 null,表示取不到有效值。 示例值:ACCELERATE |
ModelFormat | String | 否 | 模型格式 注意:此字段可能返回 null,表示取不到有效值。 |
IsPrivateModel | Boolean | 否 | 是否为私有化大模型 注意:此字段可能返回 null,表示取不到有效值。 |
ModelCategory | String | 否 | 模型的类别 多模态MultiModal, 文本大模型 LLM 示例值:MultiModal |
ModelInputInfo
模型输入信息
被如下接口引用:DescribeModelAccelerateTask。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
ModelInputType | String | 是 | input数据类型 FIXED:固定 RANGE:浮动 注意:此字段可能返回 null,表示取不到有效值。 示例值:RANGE |
ModelInputDimension | Array of String | 是 | input数据尺寸 注意:此字段可能返回 null,表示取不到有效值。 示例值:["nch*w"] |
ModelSource
模型来源
被如下接口引用:DescribeModelAccelerateVersions。
名称 | 类型 | 描述 |
---|---|---|
Source | String | 来源 注意:此字段可能返回 null,表示取不到有效值。 |
JobName | String | 来源任务名称 注意:此字段可能返回 null,表示取不到有效值。 |
JobVersion | String | 来源任务版本 注意:此字段可能返回 null,表示取不到有效值。 |
JobId | String | 来源任务id 注意:此字段可能返回 null,表示取不到有效值。 |
ModelName | String | 模型名称 注意:此字段可能返回 null,表示取不到有效值。 |
AlgorithmFramework | String | 算法框架 注意:此字段可能返回 null,表示取不到有效值。 |
TrainingPreference | String | 训练偏好 注意:此字段可能返回 null,表示取不到有效值。 |
ReasoningEnvironmentSource | String | 推理环境来源,SYSTEM/CUSTOM 注意:此字段可能返回 null,表示取不到有效值。 |
ReasoningEnvironment | String | 推理环境 注意:此字段可能返回 null,表示取不到有效值。 |
ReasoningEnvironmentId | String | 推理环境id 注意:此字段可能返回 null,表示取不到有效值。 |
ReasoningImageInfo | ImageInfo | 自定义推理环境 注意:此字段可能返回 null,表示取不到有效值。 |
MultiModalContent
多模态对话内容,支持图片与文字信息
被如下接口引用:ChatCompletion。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Type | String | 是 | 对话类型,text表示文本对话内容,image_url表示图片对话内容 示例值:text |
Text | String | 否 | 文本对话内容,当Type为text时需要填写该值 示例值:你好 |
ImageUrl | ImageUrl | 否 | 图片对话内容,当Type为image_url时需要填写该值 |
NotebookDetail
类型NotebookDetail
被如下接口引用:DescribeNotebook。
名称 | 类型 | 描述 |
---|---|---|
Id | String | notebook ID 示例值:nb-1188415493581985152 |
Name | String | notebook 名称 示例值:notebook-test |
LifecycleScriptId | String | 生命周期脚本 注意:此字段可能返回 null,表示取不到有效值。 示例值:ls-1007228485705742720 |
PodName | String | Pod-Name 注意:此字段可能返回 null,表示取不到有效值。 示例值:nb-1188415493581985152-911m56fdooow |
UpdateTime | String | Update-Time 示例值:2024-11-14T16:58:00+08 |
DirectInternetAccess | Boolean | 是否访问公网 示例值:true |
ResourceGroupId | String | 预付费专用资源组 注意:此字段可能返回 null,表示取不到有效值。 示例值:trsg-dwpqnjmk |
Tags | Array of Tag | 标签配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:[{"TagKey": "test_key", "TagValue": "good_value"}] |
AutoStopping | Boolean | 是否自动停止 示例值:false |
AdditionalCodeRepoIds | Array of String | 其他GIT存储库,最多3个,单个 长度不超过512字符 注意:此字段可能返回 null,表示取不到有效值。 示例值:["cr-1000669213287070080"] |
AutomaticStopTime | Integer | 自动停止时间,单位小时 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
ResourceConf | ResourceConf | 资源配置 示例值: {"Cpu": 1000, "Memory": 1024, "Gpu": 0, "InstanceType": "TI.S.MEDIUM.POST"} |
DefaultCodeRepoId | String | 默认GIT存储库,长度不超过512字符 示例值:cr-1000669213287070080 |
EndTime | String | 训练输出 注意:此字段可能返回 null,表示取不到有效值。 示例值:2024-11-14T16:58:00+08 |
LogEnable | Boolean | 是否上报日志 示例值:true |
LogConfig | LogConfig | 日志配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:{ "TopicId": "ea8048db-8f97-4abb-9668-f3532b9b61f8", "LogsetId": "4dd0a097-f629-4afc-9b99-888ef99a178f"} |
VpcId | String | VPC ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:vpc-4kq8vlym |
SubnetId | String | 子网ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:subnet-58zkmdob |
Status | String | 任务状态 示例值:Running |
RuntimeInSeconds | Integer | 运行时长 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
CreateTime | String | 创建时间 示例值:2024-11-14T16:58:00+08 |
StartTime | String | 训练开始时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:2024-11-14T16:58:00+08 |
ChargeStatus | String | 计费状态,eg:BILLING计费中,ARREARS_STOP欠费停止,NOT_BILLING不在计费中 注意:此字段可能返回 null,表示取不到有效值。 示例值:BILLING |
RootAccess | Boolean | 是否ROOT权限 示例值:true |
BillingInfos | Array of String | 计贺金额信息,eg:2.00元/小时 注意:此字段可能返回 null,表示取不到有效值。 示例值:["计算资源计费中:折扣价 0.78 元/小时(原价: 1.38元/小时)"] |
VolumeSizeInGB | Integer | 存储卷大小 (单位时GB,最小10GB,必须是10G的倍数) 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
FailureReason | String | 失败原因 注意:此字段可能返回 null,表示取不到有效值。 示例值:errMsg |
ChargeType | String | 计算资源付费模式 (- PREPAID:预付费,即包年包月 - POSTPAID_BY_HOUR:按小时后付费) 示例值:PREPAID |
InstanceTypeAlias | String | 后付费资源规格说明 注意:此字段可能返回 null,表示取不到有效值。 示例值:2C4G |
ResourceGroupName | String | 预付费资源组名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:资源组1 |
VolumeSourceType | String | 存储的类型。取值包含: FREE: 预付费的免费存储 CLOUD_PREMIUM: 高性能云硬盘 CLOUD_SSD: SSD云硬盘 CFS: CFS存储,包含NFS和turbo 注意:此字段可能返回 null,表示取不到有效值。 示例值:CFS |
VolumeSourceCFS | CFSConfig | CFS存储的配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:{"Id":"cfs-abcdefg","Path":"/"} |
DataConfigs | Array of DataConfig | 数据配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:[{"MappingPath":"/home/tione/notebook","DataSourceType":"CFS","WeDataHDFSSource":{"Id":0,"Path":""},"CFSSource":{"Id":"cfs-14cpoxo5","Path":"/"}}] |
Message | String | notebook 信息 注意:此字段可能返回 null,表示取不到有效值。 示例值:message1 |
DataSource | String | 数据源来源,eg:WeData_HDFS 注意:此字段可能返回 null,表示取不到有效值。 示例值:CFS |
ImageInfo | ImageInfo | 镜像信息 示例值:{"ImageType":"SYSTEM","ImageUrl":"tione.tencentcloudcr.com/qcloud-ti-platform/llm-train:24.03-gpu-py310-cu124-tilearn-llm-v1.8.0","ImageName":"tilearn-","ImageId":"35551e3c-b0e310a5613cd3"} |
ImageType | String | 镜像类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:SYSTEM |
SSHConfig | SSHConfig | SSH配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:{"Enable":false,"PublicKey":"","Port":0,"LoginCommand":""} |
VolumeSourceGooseFS | GooseFS | GooseFS存储配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:{"Id":"gs-1234","Type":"GooseFSx","Path":"/", "NameSpace": "test"} |
SubUin | String | 子用户ID 示例值:100032979603 |
ResourceGroupInstanceId | String | 调度节点ID 示例值:ins-pow5jmtf |
SubUinName | String | 子用户名称 示例值:username |
JobCreateTime | String | 任务实例创建时间 示例值:2024-11-14T16:58:00+08 |
AppId | String | Appid 注意:此字段可能返回 null,表示取不到有效值。 示例值:1256704107 |
NotebookSetItem
Notebook列表元素
被如下接口引用:DescribeNotebooks。
名称 | 类型 | 描述 |
---|---|---|
Id | String | notebook ID 示例值:nb-1188415493581985152 |
Name | String | notebook 名称 示例值:notebook-test |
ChargeType | String | 计费模式 示例值:PREPAID |
ResourceConf | ResourceConf | 资源配置 示例值: {"Cpu": 1000, "Memory": 1024, "Gpu": 0, "InstanceType": "TI.S.MEDIUM.POST"} |
ResourceGroupId | String | 预付费资源组 注意:此字段可能返回 null,表示取不到有效值。 示例值:trsg-dwpqnjmk |
VolumeSizeInGB | Integer | 存储卷大小 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
BillingInfos | Array of String | 计费金额信息,eg:2.00元/小时 (for后付费) 注意:此字段可能返回 null,表示取不到有效值。 示例值:["计算资源计费中:折扣价 0.78 元/小时(原价: 1.38元/小时)"] |
Tags | Array of Tag | 标签配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:[{"TagKey": "test_key", "TagValue": "good_value"}] |
CreateTime | String | 创建时间 示例值:2024-11-14T16:58:00+08 |
StartTime | String | 启动时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:2024-11-14T16:58:00+08 |
UpdateTime | String | 更新时间 示例值:2024-11-14T16:58:00+08 |
RuntimeInSeconds | Integer | 运行时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
ChargeStatus | String | 计费状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:BILLING |
Status | String | 状态 示例值:Running |
FailureReason | String | 错误原因 注意:此字段可能返回 null,表示取不到有效值。 示例值:errMsg |
EndTime | String | 结束时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:2024-11-14T16:58:00+08 |
PodName | String | Pod名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:nb-1188415493581985152-911m56fdooow |
InstanceTypeAlias | String | 后付费资源规格名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:2C4G |
ResourceGroupName | String | 预付费资源组名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:资源组1 |
AutoStopping | Boolean | 是否自动终止 示例值:true |
AutomaticStopTime | Integer | 自动停止时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:10 |
VolumeSourceType | String | 存储的类型。取值包含: FREE: 预付费的免费存储 CLOUD_PREMIUM: 高性能云硬盘 CLOUD_SSD: SSD云硬盘 CFS: CFS存储,包含NFS和turbo 注意:此字段可能返回 null,表示取不到有效值。 示例值:CFS |
VolumeSourceCFS | CFSConfig | CFS存储的配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:{"Id":"cfs-abcdefg","Path":"/"} |
Message | String | notebook 信息 注意:此字段可能返回 null,表示取不到有效值。 示例值:message1 |
UserTypes | Array of String | notebook用户类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:["AIMarket"] |
SSHConfig | SSHConfig | SSH配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:{"Enable":false,"PublicKey":"","Port":0,"LoginCommand":""} |
VolumeSourceGooseFS | GooseFS | GooseFS存储配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:{"Id":"gs-1234","Type":"GooseFSx","Path":"/", "NameSpace": "test"} |
SubUinName | String | 子用户名称 示例值:username |
AppId | String | AppId 注意:此字段可能返回 null,表示取不到有效值。 示例值:1256704107 |
Option
键值对
被如下接口引用:CreateModelService, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Name | String | 是 | 指标名 示例值:gpu-util |
Value | Integer | 是 | 指标值 示例值:{0,100} |
Pod
Pod信息展示
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Name | String | 否 | pod名 注意:此字段可能返回 null,表示取不到有效值。 示例值:ms-24xzphkz-1-55cc4779cc-9j6tb |
Uid | String | 否 | pod的唯一id 注意:此字段可能返回 null,表示取不到有效值。 示例值:989e5db6-af8c-4ea0-816a-a97369b36152 |
ChargeType | String | 否 | 服务付费模式 注意:此字段可能返回 null,表示取不到有效值。 示例值:POSTPAID_BY_HOUR |
Phase | String | 否 | pod的状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:Pending |
IP | String | 否 | pod的IP 注意:此字段可能返回 null,表示取不到有效值。 示例值:9.0.0.1 |
CreateTime | String | 否 | pod的创建时间 注意:此字段可能返回 null,表示取不到有效值。 |
ContainerInfos | Array of Container | 否 | 容器列表 注意:此字段可能返回 null,表示取不到有效值。 |
CrossTenantENIInfo | CrossTenantENIInfo | 否 | 容器调用信息 注意:此字段可能返回 null,表示取不到有效值。 |
Status | String | 否 | 实例的状态信息 示例值:Running |
PodInfo
任务建模Pod信息
被如下接口引用:DescribeTrainingTaskPods。
名称 | 类型 | 描述 |
---|---|---|
Name | String | pod名 注意:此字段可能返回 null,表示取不到有效值。 示例值:train-786801095607790976-5z75pr7skj5s-master-0 |
IP | String | pod的IP 注意:此字段可能返回 null,表示取不到有效值。 示例值:9.0.0.1 |
Status | String | pod状态。eg:SUBMITTING提交中、PENDING排队中、RUNNING运行中、SUCCEEDED已完成、FAILED异常、TERMINATING停止中、TERMINATED已停止 注意:此字段可能返回 null,表示取不到有效值。 示例值:RUNNING |
StartTime | String | pod启动时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:2024-12-11T18:36:50+08 |
EndTime | String | pod结束时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:2024-12-11T18:36:50+08 |
ResourceConfigInfo | ResourceConfigInfo | pod资源配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:{ "Role": "WORKER", "Cpu": 180000, "Memory": 921600, "GpuType": "HCC-A100", "Gpu": 800, "InstanceType": "", "InstanceTypeAlias": "", "InstanceNum": 2, "RDMAConfig": { "Enable": true }, "ExtendedResourceList": {}, "ArchType": "" } |
PrivateLinkInfo
私有连接信息
被如下接口引用:DescribeModelServiceCallInfo。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
VpcId | String | 否 | 私有连接所在的VPCID 注意:此字段可能返回 null,表示取不到有效值。 示例值:vpc-2413 |
SubnetId | String | 否 | 私有连接所在的子网ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:subnet-123 |
InnerHttpAddr | Array of String | 否 | HTTP内网调用地址 注意:此字段可能返回 null,表示取不到有效值。 |
InnerHttpsAddr | Array of String | 否 | HTTPS内网调用地址 注意:此字段可能返回 null,表示取不到有效值。 |
State | String | 否 | 私有连接状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:CreateSuccess |
RDMAConfig
RDMA配置
被如下接口引用:DescribeTrainingTask, DescribeTrainingTaskPods, DescribeTrainingTasks。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Enable | Boolean | 否 | 是否开启RDMA 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
ResourceConf
Notebook资源参数
被如下接口引用:CreateNotebook, DescribeNotebook, DescribeNotebooks。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Cpu | Integer | 否 | cpu 处理器资源, 单位为1/1000核 (for预付费) 注意:此字段可能返回 null,表示取不到有效值。 示例值:0 |
Memory | Integer | 否 | memory 内存资源, 单位为1M (for预付费) 注意:此字段可能返回 null,表示取不到有效值。 示例值:0 |
Gpu | Integer | 否 | gpu Gpu卡资源,单位为1/100卡,例如GpuType=T4时,1 Gpu = 1/100 T4卡 (for预付费) 注意:此字段可能返回 null,表示取不到有效值。 示例值:0 |
GpuType | String | 否 | GpuType 卡类型,参考资源组上对应的卡类型。eg: H800,A800,A100,T4,P4,V100等 (for预付费) 注意:此字段可能返回 null,表示取不到有效值。 示例值:P40 |
InstanceType | String | 否 | 计算规格 (for后付费),可选值如下: TI.S.LARGE.POST: 4C8G TI.S.2XLARGE16.POST: 8C16G TI.S.2XLARGE32.POST: 8C32G TI.S.4XLARGE32.POST: 16C32G TI.S.4XLARGE64.POST: 16C64G TI.S.6XLARGE48.POST: 24C48G TI.S.6XLARGE96.POST: 24C96G TI.S.8XLARGE64.POST: 32C64G TI.S.8XLARGE128.POST : 32C128G TI.GN10.2XLARGE40.POST: 8C40G V1001 TI.GN10.5XLARGE80.POST: 18C80G V1002 TI.GN10.10XLARGE160.POST : 32C160G V1004 TI.GN10.20XLARGE320.POST : 72C320G V1008 TI.GN7.8XLARGE128.POST: 32C128G T41 TI.GN7.10XLARGE160.POST: 40C160G T42 TI.GN7.20XLARGE320.POST: 80C320G T4*4 注意:此字段可能返回 null,表示取不到有效值。 示例值:TI.S.LARGE.POST |
ResourceConfigInfo
资源配置
被如下接口引用:DescribeTrainingTask, DescribeTrainingTaskPods, DescribeTrainingTasks。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Role | String | 是 | 角色,eg:PS、WORKER、DRIVER、EXECUTOR 示例值:PS |
Cpu | Integer | 否 | cpu核数,使用资源组时需配置。单位:1/1000,即1000=1核 示例值:1000 |
Memory | Integer | 否 | 内存,使用资源组时需配置。单位为MB 示例值:1 |
GpuType | String | 否 | gpu卡类型,使用资源组时需配置 示例值:V100 |
Gpu | Integer | 否 | gpu卡数,使用资源组时需配置。单位:1/100,即100=1卡 示例值:1 |
InstanceType | String | 否 | 算力规格ID 计算规格 (for后付费),可选值如下: TI.S.LARGE.POST: 4C8G TI.S.2XLARGE16.POST: 8C16G TI.S.2XLARGE32.POST: 8C32G TI.S.4XLARGE32.POST: 16C32G TI.S.4XLARGE64.POST: 16C64G TI.S.6XLARGE48.POST: 24C48G TI.S.6XLARGE96.POST: 24C96G TI.S.8XLARGE64.POST: 32C64G TI.S.8XLARGE128.POST : 32C128G TI.GN10.2XLARGE40.POST: 8C40G V1001 TI.GN10.5XLARGE80.POST: 18C80G V1002 TI.GN10.10XLARGE160.POST : 32C160G V1004 TI.GN10.20XLARGE320.POST : 72C320G V1008 TI.GN7.8XLARGE128.POST: 32C128G T41 TI.GN7.10XLARGE160.POST: 40C160G T42 TI.GN7.20XLARGE320.POST: 80C32 示例值:TI.GN10.2XLARGE40 |
InstanceNum | Integer | 否 | 计算节点数 示例值:4 |
InstanceTypeAlias | String | 否 | 算力规格名称 计算规格 (for后付费),可选值如下: 4C8G 8C16G 8C32G 16C32G 6C64G 24C48G 24C96G 32C64G 32C128G 8C40G V1001 8C80G V1002 32C160G V1004 72C320G V1008 32C128G T41 40C160G T42 80C32 示例值:2核4G |
RDMAConfig | RDMAConfig | 否 | RDMA配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:{"Enable": false} |
ResourceGroup
资源组
被如下接口引用:DescribeBillingResourceGroups。
名称 | 类型 | 描述 |
---|---|---|
ResourceGroupId | String | 资源组id 示例值:ersg-9hw7jfk6 |
ResourceGroupName | String | 资源组名称 示例值:test2 |
FreeInstance | Integer | 可用节点个数(运行中的节点) 示例值:1 |
TotalInstance | Integer | 总节点个数(所有节点) 示例值:1 |
UsedResource | GroupResource | 资资源组已用的资源 注意:此字段可能返回 null,表示取不到有效值。 |
TotalResource | GroupResource | 资源组总资源 注意:此字段可能返回 null,表示取不到有效值。 |
InstanceSet | Array of Instance | 节点信息 注意:此字段可能返回 null,表示取不到有效值。 |
TagSet | Array of Tag | 标签列表 注意:此字段可能返回 null,表示取不到有效值。 |
ResourceInfo
描述资源信息
被如下接口引用:CreateModelService, DescribeBillingResourceGroup, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Cpu | Integer | 是 | 处理器资源, 单位为1/1000核 注意:此字段可能返回 null,表示取不到有效值。 示例值:1000 |
Memory | Integer | 是 | 内存资源, 单位为1M 注意:此字段可能返回 null,表示取不到有效值。 示例值:256 |
Gpu | Integer | 否 | Gpu卡个数资源, 单位为0.01单位的GpuType. Gpu=100表示使用了“一张”gpu卡, 但此处的“一张”卡有可能是虚拟化后的1/4卡, 也有可能是整张卡. 取决于实例的机型 例1 实例的机型带有1张虚拟gpu卡, 每张虚拟gpu卡对应1/4张实际T4卡, 则此时 GpuType=T4, Gpu=100, RealGpu=25. 例2 实例的机型带有4张gpu整卡, 每张卡对应1张实际T4卡, 则 此时 GpuType=T4, Gpu=400, RealGpu=400. 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
GpuType | String | 否 | Gpu卡型号 T4或者V100。仅展示当前 GPU 卡型号,若存在多类型同时使用,则参考 RealGpuDetailSet 的值。 注意:此字段可能返回 null,表示取不到有效值。 示例值:none |
RealGpu | Integer | 否 | 创建或更新时无需填写,仅展示需要关注 后付费非整卡实例对应的实际的Gpu卡资源, 表示gpu资源对应实际的gpu卡个数. RealGpu=100表示实际使用了一张gpu卡, 对应实际的实例机型, 有可能代表带有1/4卡的实例4个, 或者带有1/2卡的实例2个, 或者带有1卡的实力1个. 示例值:50 |
RealGpuDetailSet | Array of GpuDetail | 否 | 创建或更新时无需填写,仅展示需要关注。详细的GPU使用信息。 示例值:{} |
ResourceInstanceRunningJobInfo
资源组节点运行任务信息
被如下接口引用:DescribeBillingResourceInstanceRunningJobs。
名称 | 类型 | 描述 |
---|---|---|
PodName | String | pod名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:xxx--6fb768c5d5-4fh84 |
TaskType | String | 任务类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:Batch |
TaskId | String | 任务id 注意:此字段可能返回 null,表示取不到有效值。 示例值:batch-xxxxx |
TaskName | String | 任务自定义名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:批处理任务 |
SSHConfig
notebook ssh端口配置
被如下接口引用:CreateNotebook, DescribeNotebook, DescribeNotebooks。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Enable | Boolean | 否 | 是否开启ssh 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
PublicKey | String | 否 | 公钥信息 注意:此字段可能返回 null,表示取不到有效值。 示例值:ssh-rsa AAAAB3**8NYTfO0= |
Port | Integer | 否 | 端口号 注意:此字段可能返回 null,表示取不到有效值。 示例值:80 |
LoginCommand | String | 否 | 登录命令 注意:此字段可能返回 null,表示取不到有效值。 示例值:ssh root@127.0.0.1 |
IsAddressChanged | Boolean | 否 | 登录地址是否改变 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
ScheduledAction
定时的事务和行为
被如下接口引用:CreateModelService, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
ScheduleStop | Boolean | 否 | 是否要定时停止服务,true or false。true 则 ScheduleStopTime 必填, false 则 ScheduleStopTime 不生效 示例值:True |
ScheduleStopTime | String | 否 | 要执行定时停止的时间,格式:“2022-01-26T19:46:22+08:00” 示例值:2022-01-26T19:46:22+08:00 |
SchemaInfo
表格数据集表头信息
被如下接口引用:CreateDataset。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Name | String | 是 | 长度30字符内 示例值:f_1 |
Type | String | 是 | 数据类型 示例值:string |
Service
描述在线服务
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 描述 |
---|---|---|
ServiceGroupId | String | 服务组id 示例值:ms-testtest |
ServiceId | String | 服务id 示例值:ms-testtest-0 |
ServiceGroupName | String | 服务组名 示例值:ms-testtest-0 |
ServiceDescription | String | 服务描述 注意:此字段可能返回 null,表示取不到有效值。 示例值:ms-testtest-0 |
ServiceInfo | ServiceInfo | 服务的详细信息 注意:此字段可能返回 null,表示取不到有效值。 示例值:{} |
ClusterId | String | 集群id 注意:此字段可能返回 null,表示取不到有效值。 示例值:cls-sssss |
Region | String | 地域 注意:此字段可能返回 null,表示取不到有效值。 示例值:ap-beijing |
Namespace | String | 命名空间 注意:此字段可能返回 null,表示取不到有效值。 示例值:infer-eeeee |
ChargeType | String | 付费类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:PRE_PAID |
ResourceGroupId | String | 包年包月服务的资源组id,按量计费的服务为空 注意:此字段可能返回 null,表示取不到有效值。 示例值:rr-sssss |
ResourceGroupName | String | 包年包月服务对应的资源组名字 注意:此字段可能返回 null,表示取不到有效值。 示例值:pregroup |
Tags | Array of Tag | 服务的标签 注意:此字段可能返回 null,表示取不到有效值。 示例值:[] |
IngressName | String | 服务所在的 ingress 的 name 注意:此字段可能返回 null,表示取不到有效值。 示例值:my-ingress |
CreatedBy | String | 创建者 注意:此字段可能返回 null,表示取不到有效值。 示例值:1541252152 |
CreateTime | String | 创建时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:ms-testtest |
UpdateTime | String | 更新时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:ms-testtest |
Uin | String | 主账号 注意:此字段可能返回 null,表示取不到有效值。 示例值:1541252152 |
SubUin | String | 子账号 注意:此字段可能返回 null,表示取不到有效值。 示例值:1541252152 |
AppId | Integer | app_id 注意:此字段可能返回 null,表示取不到有效值。 示例值:1541252152 |
BusinessStatus | String | 服务的业务状态 注意:此字段可能返回 null,表示取不到有效值。 示例值:CREATING |
CreateFailedReason | String | 服务创建失败的原因,创建成功后该字段为默认值 CREATE_SUCCEED 注意:此字段可能返回 null,表示取不到有效值。 示例值:api网关注册失败 |
Status | String | 服务状态 CREATING 创建中 CREATE_FAILED 创建失败 Normal 正常运行中 Stopped 已停止 Stopping 停止中 Abnormal 异常 Pending 启动中 Waiting 就绪中 注意:此字段可能返回 null,表示取不到有效值。 示例值:Normal |
BillingInfo | String | 费用信息 注意:此字段可能返回 null,表示取不到有效值。 示例值:模型服务计费中:1.2元/小时 |
Weight | Integer | 模型权重 注意:此字段可能返回 null,表示取不到有效值。 示例值:20 |
CreateSource | String | 服务的创建来源 AUTO_ML: 来自自动学习的一键发布 DEFAULT: 其他来源 注意:此字段可能返回 null,表示取不到有效值。 示例值:AUTO_ML |
Version | String | 版本号 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
LatestVersion | String | 服务组下服务的最高版本号 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
ResourceGroupSWType | String | 资源组类别 托管 NORMAL,纳管 SW 注意:此字段可能返回 null,表示取不到有效值。 示例值:NORMAL |
ArchiveStatus | String | 服务的归档状态 Waiting 等待归档中,Archived 已归档 注意:此字段可能返回 null,表示取不到有效值。 示例值:Archived |
DeployType | String | 服务的部署类型 [STANDARD 标准部署,DIST 分布式多机部署] 默认STANDARD 注意:此字段可能返回 null,表示取不到有效值。 示例值:STANDARD |
InstancePerReplicas | String | 单副本下的实例数,仅在部署类型为DIST时生效,默认1 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
ServiceCallInfo
服务的调用信息,服务组下唯一
被如下接口引用:DescribeModelServiceCallInfo。
名称 | 类型 | 描述 |
---|---|---|
ServiceGroupId | String | 服务组id 注意:此字段可能返回 null,表示取不到有效值。 示例值:ms-ttt |
InnerHttpAddr | String | 内网http调用地址 注意:此字段可能返回 null,表示取不到有效值。 示例值:ttt |
InnerHttpsAddr | String | 内网https调用地址 注意:此字段可能返回 null,表示取不到有效值。 示例值:ttt |
OuterHttpAddr | String | 内网http调用地址 注意:此字段可能返回 null,表示取不到有效值。 示例值:ttt |
OuterHttpsAddr | String | 内网https调用地址 注意:此字段可能返回 null,表示取不到有效值。 示例值:ttt |
AppKey | String | 调用key 注意:此字段可能返回 null,表示取不到有效值。 示例值:ttt |
AppSecret | String | 调用secret 注意:此字段可能返回 null,表示取不到有效值。 示例值:ttt |
AuthorizationEnable | Boolean | 鉴权是否开启 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
ServiceCallInfoV2
V2版本的服务调用信息
被如下接口引用:DescribeModelServiceCallInfo。
名称 | 类型 | 描述 |
---|---|---|
ServiceGroupId | String | 服务组id 注意:此字段可能返回 null,表示取不到有效值。 示例值:ms-ttt |
InternetEndpoint | String | 服务的公网调用地址 注意:此字段可能返回 null,表示取不到有效值。 示例值:http://ms-ttt.tencentcs.com |
AuthorizationEnable | Boolean | 鉴权是否开启 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
AuthToken | String | 鉴权token,仅当AuthorizationEnable为true时有效 注意:此字段可能返回 null,表示取不到有效值。 示例值:ttt |
ServiceEIP
服务共享弹性网卡设置
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
EnableEIP | Boolean | 否 | 是否开启TIONE内网到外部的访问 注意:此字段可能返回 null,表示取不到有效值。 示例值:true |
VpcId | String | 否 | 用户VpcId 注意:此字段可能返回 null,表示取不到有效值。 示例值:vpc-314xh0ko |
SubnetId | String | 否 | 用户subnetId 注意:此字段可能返回 null,表示取不到有效值。 示例值:subnet-8ra6pdq7 |
ServiceEIPInfo
共享弹性网卡信息
被如下接口引用:DescribeModelServiceCallInfo。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
ServiceId | String | 否 | 服务ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:ms-22c9njmt-1 |
VpcId | String | 否 | 用户VpcId 注意:此字段可能返回 null,表示取不到有效值。 示例值:vpc-314xh0ko |
SubnetId | String | 否 | 用户子网Id 注意:此字段可能返回 null,表示取不到有效值。 示例值:subnet-8ra6pdq7 |
ServiceGroup
在线服务一个服务组的信息
被如下接口引用:DescribeModelServiceGroup, DescribeModelServiceGroups。
名称 | 类型 | 描述 |
---|---|---|
ServiceGroupId | String | 服务组id 示例值:ms-testtest |
ServiceGroupName | String | 服务组名 示例值:ms-testtest |
CreatedBy | String | 创建者 示例值:222222 |
CreateTime | String | 创建时间 示例值:2021-09-02T21:32:06+08:00 |
UpdateTime | String | 更新时间 示例值:2021-09-02T21:32:06+08:00 |
Uin | String | 主账号 示例值:555555 |
ServiceCount | Integer | 服务组下服务总数 注意:此字段可能返回 null,表示取不到有效值。 示例值:2 |
RunningServiceCount | Integer | 服务组下在运行的服务数量 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
Services | Array of Service | 服务描述 注意:此字段可能返回 null,表示取不到有效值。 示例值:{} |
Status | String | 服务组状态,与服务一致 CREATING 创建中 CREATE_FAILED 创建失败 Normal 正常运行中 Stopped 已停止 Stopping 停止中 Abnormal 异常 Pending 启动中 Waiting 就绪中 注意:此字段可能返回 null,表示取不到有效值。 示例值:Normal |
Tags | Array of Tag | 服务组标签 注意:此字段可能返回 null,表示取不到有效值。 示例值:{} |
LatestVersion | String | 服务组下最高版本 注意:此字段可能返回 null,表示取不到有效值。 示例值:2 |
BusinessStatus | String | 服务的业务状态 CREATING 创建中 CREATE_FAILED 创建失败 ARREARS_STOP 因欠费被强制停止 BILLING 计费中 WHITELIST_USING 白名单试用中 WHITELIST_STOP 白名单额度不足 注意:此字段可能返回 null,表示取不到有效值。 示例值:ARREARS_STOP |
BillingInfo | String | 服务的计费信息 注意:此字段可能返回 null,表示取不到有效值。 示例值:1.2 元/小时 |
CreateSource | String | 服务的创建来源 注意:此字段可能返回 null,表示取不到有效值。 示例值:NORMAL |
WeightUpdateStatus | String | 服务组的权重更新状态 UPDATING 更新中 UPDATED 更新成功 UPDATE_FAILED 更新失败 注意:此字段可能返回 null,表示取不到有效值。 示例值:UPDATING |
ReplicasCount | Integer | 服务组下运行的pod数量 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
AvailableReplicasCount | Integer | 服务组下期望的pod数 注意:此字段可能返回 null,表示取不到有效值。 示例值:2 |
ServiceInfo
推理服务在集群中的信息
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Replicas | Integer | 是 | 期望运行的Pod数量,停止状态是0 不同计费模式和调节模式下对应关系如下 PREPAID 和 POSTPAID_BY_HOUR: 手动调节模式下对应 实例数量 自动调节模式下对应 基于时间的默认策略的实例数量 HYBRID_PAID: 后付费实例手动调节模式下对应 实例数量 后付费实例自动调节模式下对应 时间策略的默认策略的实例数量 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
ImageInfo | ImageInfo | 是 | 镜像信息 注意:此字段可能返回 null,表示取不到有效值。 示例值:{} |
Env | Array of EnvVar | 是 | 环境变量 注意:此字段可能返回 null,表示取不到有效值。 示例值:{name: "k", value: "v"} |
Resources | ResourceInfo | 是 | 资源信息 注意:此字段可能返回 null,表示取不到有效值。 示例值:{} |
InstanceType | String | 是 | 后付费实例对应的机型规格 注意:此字段可能返回 null,表示取不到有效值。 示例值:TI.S.MEDIUM.POS |
ModelInfo | ModelInfo | 是 | 模型信息 注意:此字段可能返回 null,表示取不到有效值。 示例值:{} |
LogEnable | Boolean | 是 | 是否启用日志 注意:此字段可能返回 null,表示取不到有效值。 示例值:true |
LogConfig | LogConfig | 是 | 日志配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:{} |
AuthorizationEnable | Boolean | 是 | 是否开启鉴权 注意:此字段可能返回 null,表示取不到有效值。 示例值:true |
HorizontalPodAutoscaler | HorizontalPodAutoscaler | 是 | hpa配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:{} |
Status | WorkloadStatus | 是 | 服务的状态描述 注意:此字段可能返回 null,表示取不到有效值。 示例值:Normal |
Weight | Integer | 是 | 权重 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
ResourceTotal | ResourceInfo | 是 | 资源总量 注意:此字段可能返回 null,表示取不到有效值。 示例值:{} |
OldReplicas | Integer | 是 | 历史实例数 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
HybridBillingPrepaidReplicas | Integer | 是 | 计费模式[HYBRID_PAID]时生效, 用于标识混合计费模式下的预付费实例数, 若不填则默认为1 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
OldHybridBillingPrepaidReplicas | Integer | 是 | 历史 HYBRID_PAID 时的实例数,用户恢复服务 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
ModelHotUpdateEnable | Boolean | 是 | 是否开启模型的热更新。默认不开启 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
InstanceAlias | String | 否 | 服务的规格别名 示例值:8核40GB V100*1 |
ScaleMode | String | 否 | 实例数量调节方式,默认为手动 支持:自动 - "AUTO", 手动 - "MANUAL" 注意:此字段可能返回 null,表示取不到有效值。 示例值:AUTO |
CronScaleJobs | Array of CronScaleJob | 否 | 定时伸缩任务 注意:此字段可能返回 null,表示取不到有效值。 |
ScaleStrategy | String | 否 | 定时伸缩策略 注意:此字段可能返回 null,表示取不到有效值。 示例值:HPC |
ScheduledAction | String | 否 | 定时停止的配置 注意:此字段可能返回 null,表示取不到有效值。 |
PodInfos | Array of Pod | 否 | Pod列表信息 注意:此字段可能返回 null,表示取不到有效值。 |
ServiceLimit | ServiceLimit | 否 | 服务限速限流相关配置 注意:此字段可能返回 null,表示取不到有效值。 |
ModelTurboEnable | Boolean | 否 | 是否开启模型的加速, 仅对StableDiffusion(动态加速)格式的模型有效。 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
VolumeMount | VolumeMount | 否 | 挂载 注意:此字段可能返回 null,表示取不到有效值。 |
InferCodeInfo | InferCodeInfo | 否 | 推理代码信息 注意:此字段可能返回 null,表示取不到有效值。 |
Command | String | 否 | 服务的启动命令 注意:此字段可能返回 null,表示取不到有效值。 示例值:sleep 36000 |
ServiceEIP | ServiceEIP | 否 | 开启TIONE内网访问外部设置 注意:此字段可能返回 null,表示取不到有效值。 |
ServicePort | Integer | 否 | 服务端口,默认为8501 注意:此字段可能返回 null,表示取不到有效值。 示例值:8501 |
ServiceLimit
服务的限流限速等配置
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
EnableInstanceRpsLimit | Boolean | 否 | 是否开启实例层面限流限速,true or false。true 则 InstanceRpsLimit 必填, false 则 InstanceRpsLimit 不生效 示例值:True |
InstanceRpsLimit | Integer | 否 | 每个服务实例的 request per second 限速, 0 为不限流 示例值:300 |
EnableInstanceReqLimit | Boolean | 否 | 是否开启单实例最大并发数限制,true or false。true 则 InstanceReqLimit 必填, false 则 InstanceReqLimit 不生效 示例值:True |
InstanceReqLimit | Integer | 否 | 每个服务实例的最大并发 示例值:4 |
Spec
计费项内容
被如下接口引用:DescribeBillingSpecs。
名称 | 类型 | 描述 |
---|---|---|
SpecId | String | 计费项标签 示例值:sv_tio_platform_cloud_post_gpu_8c40g_1v100 |
SpecName | String | 计费项名称 示例值:TI.GN10.2XLARGE40.POST |
SpecAlias | String | 计费项显示名称 示例值:8核40GB V100*1 |
Available | Boolean | 是否售罄 示例值:true |
AvailableRegion | Array of String | 当前资源售罄时,可用的区域有哪些 示例值:["ap-beijing"] |
SpecFeatures | Array of String | 当前计费项支持的特性 注意:此字段可能返回 null,表示取不到有效值。 示例值:["CFS","COS"] |
SpecType | String | 计费项类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:GPU |
GpuType | String | GPU类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:V100 |
CategoryId | String | 计费项CategoryId 注意:此字段可能返回 null,表示取不到有效值。 示例值:1024554 |
SpecPrice
计费项询价结果
被如下接口引用:DescribeBillingSpecsPrice。
名称 | 类型 | 描述 |
---|---|---|
SpecName | String | 计费项名称 示例值:TI.S.MEDIUM.POST |
TotalCost | Integer | 原价,单位:分。最大值42亿,超过则返回0 示例值:70 |
RealTotalCost | Integer | 优惠后的价格,单位:分 示例值:70 |
SpecCount | Integer | 计费项数量 示例值:1 |
SpecUnit
计费项询价单元
被如下接口引用:DescribeBillingSpecsPrice。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
SpecName | String | 是 | 计费项名称 示例值:TI.S.MEDIUM.POST |
SpecCount | Integer | 是 | 计费项数量,建议不超过100万 示例值:1 |
StartCmdInfo
启动命令信息
被如下接口引用:DescribeTrainingTask。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
StartCmd | String | 否 | 启动命令 |
PsStartCmd | String | 否 | ps启动命令 |
WorkerStartCmd | String | 否 | worker启动命令 |
StatefulSetCondition
实例状况
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Message | String | 是 | 信息 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
Reason | String | 是 | 原因 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
Status | String | 是 | Status of the condition, one of True, False, Unknown. 注意:此字段可能返回 null,表示取不到有效值。 示例值:True |
Type | String | 是 | 类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:Ready |
LastTransitionTime | String | 是 | 上次更新的时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:2021-09-02T13:32:06Z |
LastUpdateTime | String | 否 | 上次更新的时间 注意:此字段可能返回 null,表示取不到有效值。 示例值:2021-09-02T13:32:06Z |
TJCallInfo
太极服务的调用信息
被如下接口引用:DescribeModelServiceCallInfo。
名称 | 类型 | 描述 |
---|---|---|
HttpAddr | String | 调用地址 注意:此字段可能返回 null,表示取不到有效值。 示例值:http://xxx.tione.tencentcs.com |
Token | String | token 注意:此字段可能返回 null,表示取不到有效值。 示例值:dsadasdada |
CallExample | String | 调用示例 注意:此字段可能返回 null,表示取不到有效值。 |
Tag
描述腾讯云标签
被如下接口引用:CreateDataset, CreateModelService, CreateNotebook, CreateTrainingModel, DescribeBillingResourceGroups, DescribeDatasets, DescribeModelAccelerateTask, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, DescribeNotebook, DescribeNotebooks, DescribeTrainingTask, DescribeTrainingTasks, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
TagKey | String | 是 | 标签键 注意:此字段可能返回 null,表示取不到有效值。 示例值:type |
TagValue | String | 是 | 标签值 注意:此字段可能返回 null,表示取不到有效值。 示例值:test |
TagFilter
Tag过滤参数
被如下接口引用:DescribeBillingResourceGroups, DescribeDatasets, DescribeModelServiceGroups, DescribeNotebooks, DescribeTrainingTasks。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
TagKey | String | 否 | 标签键 示例值:test |
TagValues | Array of String | 否 | 多个标签值 示例值:{"test","test"} |
TrainingModelVersionDTO
模型版本列表
被如下接口引用:DescribeTrainingModelVersion, DescribeTrainingModelVersions。
名称 | 类型 | 描述 |
---|---|---|
TrainingModelId | String | 模型id 示例值:a1 |
TrainingModelVersionId | String | 模型版本id 示例值:a1 |
TrainingModelVersion | String | 模型版本 示例值:a1 |
TrainingModelSource | String | 模型来源 示例值:a1 |
TrainingModelCreateTime | String | 创建时间 示例值:a1 |
TrainingModelCreator | String | 创建人uin 示例值:a1 |
AlgorithmFramework | String | 算法框架 示例值:a1 |
ReasoningEnvironment | String | 推理环境 示例值:a1 |
ReasoningEnvironmentSource | String | 推理环境来源 示例值:a1 |
TrainingModelIndex | String | 模型指标 示例值:a1 |
TrainingJobName | String | 训练任务名称 示例值:a1 |
TrainingModelCosPath | CosPathInfo | 模型cos路径 |
TrainingModelName | String | 模型名称 示例值:a1 |
TrainingJobId | String | 训练任务id 示例值:a1 |
ReasoningImageInfo | ImageInfo | 自定义推理环境 |
CreateTime | String | 模型版本创建时间 示例值:2021-12-18T12:30:14Z |
TrainingModelStatus | String | 模型处理状态 STATUS_SUCCESS:导入成功,STATUS_FAILED:导入失败 ,STATUS_RUNNING:导入中 注意:此字段可能返回 null,表示取不到有效值。 示例值:STATUS_SUCCESS |
TrainingModelProgress | Integer | 模型处理进度 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
TrainingModelErrorMsg | String | 模型错误信息 注意:此字段可能返回 null,表示取不到有效值。 |
TrainingModelFormat | String | 模型格式 注意:此字段可能返回 null,表示取不到有效值。 示例值:SAVED_MODEL |
VersionType | String | 模型版本类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:NORMAL |
GPUType | String | GPU类型 注意:此字段可能返回 null,表示取不到有效值。 示例值:T4 |
AutoClean | String | 模型自动清理开关 注意:此字段可能返回 null,表示取不到有效值。 示例值:false |
ModelCleanPeriod | Integer | 模型清理周期 注意:此字段可能返回 null,表示取不到有效值。 示例值:1 |
MaxReservedModels | Integer | 模型数量保留上限 注意:此字段可能返回 null,表示取不到有效值。 示例值:24 |
ModelHotUpdatePath | CosPathInfo | 模型热更新目录 注意:此字段可能返回 null,表示取不到有效值。 |
ReasoningEnvironmentId | String | 推理环境id 注意:此字段可能返回 null,表示取不到有效值。 |
TrainingJobVersion | String | 训练任务版本 注意:此字段可能返回 null,表示取不到有效值。 |
TrainingPreference | String | 训练偏好 注意:此字段可能返回 null,表示取不到有效值。 |
AutoMLTaskId | String | 自动学习任务id 注意:此字段可能返回 null,表示取不到有效值。 |
IsQAT | Boolean | 是否QAT模型 注意:此字段可能返回 null,表示取不到有效值。 |
TrainingTaskDetail
训练任务详情
被如下接口引用:DescribeTrainingTask。
名称 | 类型 | 描述 |
---|---|---|
Id | String | 训练任务ID 示例值:train-123311 |
Name | String | 训练任务名称 示例值:test |
Uin | String | 主账号uin 示例值:23131 |
SubUin | String | 子账号uin 示例值:31213 |
SubUinName | String | 创建者名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:user |
Region | String | 地域 示例值:ap-shenzhen |
FrameworkName | String | 训练框架名称,eg:SPARK、PYSARK、TENSORFLOW、PYTORCH 注意:此字段可能返回 null,表示取不到有效值。 示例值:TENSORFLOW |
FrameworkVersion | String | 训练框架版本 注意:此字段可能返回 null,表示取不到有效值。 示例值:1.12 |
FrameworkEnvironment | String | 框架运行环境 注意:此字段可能返回 null,表示取不到有效值。 示例值:tf2.4-py3.8-cpu |
ChargeType | String | 计费模式 |
ResourceGroupId | String | 预付费专用资源组 注意:此字段可能返回 null,表示取不到有效值。 |
ResourceConfigInfos | Array of ResourceConfigInfo | 资源配置 示例值:[{"Role":"WORKER","Cpu":1000,"Memory":1024,"GpuType":"","Gpu":0,"InstanceType":"","InstanceTypeAlias":"","InstanceNum":1,"RDMAConfig":{"Enable":false},"ExtendedResourceList":{},"ArchType":""}] |
Tags | Array of Tag | 标签 注意:此字段可能返回 null,表示取不到有效值。 示例值:["test":"test"] |
TrainingMode | String | 训练模式,eg:PS_WORKER、DDP、MPI、HOROVOD 注意:此字段可能返回 null,表示取不到有效值。 |
CodePackagePath | CosPathInfo | 代码包 |
StartCmdInfo | StartCmdInfo | 启动命令信息 |
DataSource | String | 数据来源,eg:DATASET、COS 注意:此字段可能返回 null,表示取不到有效值。 示例值:DATASET |
DataConfigs | Array of DataConfig | 数据配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:[{"MappingPath":"/opt/ml/output/data","DataSourceType":"CFS","DataSourceUsage":"OUTPUT","CFSSource":{"Id":"cfs-123abcd","Path":"/exp1/output"}}] |
TuningParameters | String | 调优参数 注意:此字段可能返回 null,表示取不到有效值。 |
Output | CosPathInfo | 训练输出 |
LogEnable | Boolean | 是否上报日志 示例值:true |
LogConfig | LogConfig | 日志配置 注意:此字段可能返回 null,表示取不到有效值。 |
VpcId | String | VPC ID 注意:此字段可能返回 null,表示取不到有效值。 |
SubnetId | String | 子网ID 注意:此字段可能返回 null,表示取不到有效值。 |
ImageInfo | ImageInfo | 自定义镜像信息 注意:此字段可能返回 null,表示取不到有效值。 |
RuntimeInSeconds | Integer | 运行时长 注意:此字段可能返回 null,表示取不到有效值。 示例值:1000 |
CreateTime | String | 创建时间 |
StartTime | String | 训练开始时间 注意:此字段可能返回 null,表示取不到有效值。 |
ChargeStatus | String | 计费状态,eg:BILLING计费中,ARREARS_STOP欠费停止,NOT_BILLING不在计费中 |
LatestInstanceId | String | 最近一次实例ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:567233 |
TensorBoardId | String | TensorBoard ID 注意:此字段可能返回 null,表示取不到有效值。 示例值:tensorborad-123311 |
Remark | String | 备注 注意:此字段可能返回 null,表示取不到有效值。 |
FailureReason | String | 失败原因 注意:此字段可能返回 null,表示取不到有效值。 |
UpdateTime | String | 更新时间 |
EndTime | String | 训练结束时间 注意:此字段可能返回 null,表示取不到有效值。 |
BillingInfo | String | 计费金额信息,eg:2.00元/小时 (按量计费) 注意:此字段可能返回 null,表示取不到有效值。 示例值:2.00元/小时 |
ResourceGroupName | String | 预付费专用资源组名称 注意:此字段可能返回 null,表示取不到有效值。 |
Message | String | 任务信息 注意:此字段可能返回 null,表示取不到有效值。 |
Status | String | 任务状态,eg:STARTING启动中、RUNNING运行中、STOPPING停止中、STOPPED已停止、FAILED异常、SUCCEED已完成 |
CallbackUrl | String | 回调地址 注意:此字段可能返回 null,表示取不到有效值。 |
TrainingTaskSetItem
出参类型
被如下接口引用:DescribeTrainingTasks。
名称 | 类型 | 描述 |
---|---|---|
Id | String | 训练任务ID 示例值:train-123311 |
Name | String | 训练任务名称 示例值:test |
FrameworkName | String | 框架名称 注意:此字段可能返回 null,表示取不到有效值。 示例值:TENSORFLOW |
FrameworkVersion | String | 训练框架版本 注意:此字段可能返回 null,表示取不到有效值。 示例值:1.12 |
FrameworkEnvironment | String | 框架运行环境 注意:此字段可能返回 null,表示取不到有效值。 示例值:tf2.4-py3.8-cpu |
ChargeType | String | 计费模式 示例值:PREPAID |
ChargeStatus | String | 计费状态,eg:BILLING计费中,ARREARS_STOP欠费停止,NOT_BILLING不在计费中 示例值:NOT_BILLING |
ResourceGroupId | String | 预付费专用资源组 注意:此字段可能返回 null,表示取不到有效值。 示例值:rsg-xxxxx |
ResourceConfigInfos | Array of ResourceConfigInfo | 资源配置 示例值:[{"Role":"WORKER","Cpu":1000,"Memory":1024,"GpuType":"","Gpu":0,"InstanceType":"","InstanceTypeAlias":"","InstanceNum":1,"RDMAConfig":{"Enable":false},"ExtendedResourceList":{},"ArchType":""}] |
TrainingMode | String | 训练模式eg:PS_WORKER、DDP、MPI、HOROVOD 注意:此字段可能返回 null,表示取不到有效值。 示例值:PS_WORKER |
Status | String | 任务状态,eg:SUBMITTING提交中、PENDING排队中、 STARTING启动中、RUNNING运行中、STOPPING停止中、STOPPED已停止、FAILED异常、SUCCEED已完成 |
RuntimeInSeconds | Integer | 运行时长 注意:此字段可能返回 null,表示取不到有效值。 示例值:100 |
CreateTime | String | 创建时间 |
StartTime | String | 训练开始时间 注意:此字段可能返回 null,表示取不到有效值。 |
EndTime | String | 训练结束时间 注意:此字段可能返回 null,表示取不到有效值。 |
Output | CosPathInfo | 训练输出 |
FailureReason | String | 失败原因 注意:此字段可能返回 null,表示取不到有效值。 |
UpdateTime | String | 更新时间 |
BillingInfo | String | 计费金额信息,eg:2.00元/小时 (按量计费) 示例值:2.00元/小时 |
ResourceGroupName | String | 预付费专用资源组名称 |
ImageInfo | ImageInfo | 自定义镜像信息 注意:此字段可能返回 null,表示取不到有效值。 |
Message | String | 任务信息 注意:此字段可能返回 null,表示取不到有效值。 |
Tags | Array of Tag | 标签配置 注意:此字段可能返回 null,表示取不到有效值。 示例值:["test":"test"] |
CallbackUrl | String | 回调地址 注意:此字段可能返回 null,表示取不到有效值。 |
Usage
大模型生成Token统计
被如下接口引用:ChatCompletion。
名称 | 类型 | 描述 |
---|---|---|
CompletionTokens | Integer | 生成的token数目 示例值:12 |
PromptTokens | Integer | 输入的token数目 示例值:4 |
TotalTokens | Integer | 总共token数目 示例值:16 |
VolumeMount
外部挂载信息
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, DescribeModelServiceHotUpdated, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
CFSConfig | CFSConfig | 是 | cfs的配置信息 |
VolumeSourceType | String | 否 | 挂载源类型,CFS、COS,默认为CFS 示例值:CFS |
WorkloadStatus
工作负载的状态
被如下接口引用:CreateModelService, DescribeModelService, DescribeModelServiceGroup, DescribeModelServiceGroups, ModifyModelService。
名称 | 类型 | 必选 | 描述 |
---|---|---|---|
Replicas | Integer | 是 | 当前实例数 示例值:1 |
UpdatedReplicas | Integer | 是 | 更新的实例数 示例值:0 |
ReadyReplicas | Integer | 是 | 就绪的实例数 示例值:1 |
AvailableReplicas | Integer | 是 | 可用的实例数 示例值:1 |
UnavailableReplicas | Integer | 是 | 不可用的实例数 示例值:0 |
Status | String | 是 | Normal 正常运行中 Abnormal 服务异常,例如容器启动失败等 Waiting 服务等待中,例如容器下载镜像过程等 Stopped 已停止 Pending 启动中 Stopping 停止中 示例值:Normal |
Conditions | Array of StatefulSetCondition | 否 | 工作负载历史的状况信息 示例值:[] |
Reason | String | 否 | 状态异常时,展示原因 注意:此字段可能返回 null,表示取不到有效值。 |