批量修改Spark作业参数配置

最近更新时间:2024-06-13 01:36:12

我的收藏

1. 接口描述

接口请求域名: dlc.tencentcloudapi.com 。

本接口(ModifySparkAppBatch)用于批量修改Spark作业参数配置

默认接口请求频率限制:20次/秒。

推荐使用 API Explorer
点击调试
API Explorer 提供了在线调用、签名验证、SDK 代码生成和快速检索接口等能力。您可查看每次调用的请求内容和返回结果以及自动生成 SDK 调用示例。

2. 输入参数

以下请求参数列表仅列出了接口请求参数和部分公共参数,完整公共参数列表见 公共请求参数

参数名称 必选 类型 描述
Action String 公共参数,本接口取值:ModifySparkAppBatch。
Version String 公共参数,本接口取值:2021-01-25。
Region String 公共参数,详见产品支持的 地域列表
SparkAppId.N Array of String 需要批量修改的Spark作业任务ID列表
示例值:batch_8ec20f53-999a-4ba5-aa6b-15945dssa4ae8,batch_f8a0aa7f-8ed8-4775-9ac0-0c2c9ke23b05d
DataEngine String 引擎ID
示例值:DataEngine-dr6udevq
AppDriverSize String driver规格:small,medium,large,xlarge;内存型(引擎类型):m.small,m.medium,m.large,m.xlarge
示例值:small
AppExecutorSize String executor规格:small,medium,large,xlarge;内存型(引擎类型):m.small,m.medium,m.large,m.xlarge
示例值:small
AppExecutorNums Integer 指定executor数量,最小值为1,最大值小于集群规格
示例值:1
AppExecutorMaxNumbers Integer 指定executor max数量(动态配置场景下),最小值为1,最大值小于集群规格(当ExecutorMaxNumbers小于ExecutorNums时,改值设定为ExecutorNums)
示例值:1
IsInherit Integer 任务资源配置是否继承集群模板,0(默认)不继承,1:继承
示例值:0

3. 输出参数

参数名称 类型 描述
RequestId String 唯一请求 ID,由服务端生成,每次请求都会返回(若请求因其他原因未能抵达服务端,则该次请求不会获得 RequestId)。定位问题时需要提供该次请求的 RequestId。

4. 示例

示例1 批量修改Spark作业参数

批量修改Spark作业参数

输入示例

POST / HTTP/1.1
Host: dlc.tencentcloudapi.com
Content-Type: application/json
X-TC-Action: ModifySparkAppBatch
<公共请求参数>

{
    "SparkAppId": [
        "batch_a7dca867-b941-4294-af9e-3dsefc086f1e"
    ],
    "DataEngine": "DataEngine-dde2f7vq",
    "AppDriverSize": "small",
    "AppExecutorSize": "small",
    "AppExecutorNums": 1,
    "AppExecutorMaxNumbers": 1,
    "IsInherit": 0
}

输出示例

{
    "Response": {
        "RequestId": "b8sd7dd7-ekd4-4e5e-993e-e5db64fa21c1"
    }
}

5. 开发者资源

腾讯云 API 平台

腾讯云 API 平台 是综合 API 文档、错误码、API Explorer 及 SDK 等资源的统一查询平台,方便您从同一入口查询及使用腾讯云提供的所有 API 服务。

API Inspector

用户可通过 API Inspector 查看控制台每一步操作关联的 API 调用情况,并自动生成各语言版本的 API 代码,也可前往 API Explorer 进行在线调试。

SDK

云 API 3.0 提供了配套的开发工具集(SDK),支持多种编程语言,能更方便的调用 API。

命令行工具

6. 错误码

以下仅列出了接口业务逻辑相关的错误码,其他错误码详见 公共错误码

错误码 描述
FailedOperation 操作失败。
InternalError 内部错误。
InternalError.InternalSystemException 业务系统异常,请重试或提工单联系我们。
InvalidParameter 参数错误。
InvalidParameter.InvalidSQL SQL解析失败。
InvalidParameter.ParameterNotFoundOrBeNone 找不到参数或参数为空
InvalidParameter.SparkJobIsInheritTypeNotMatch 指定的Spark任务IsInherit类型不匹配,当前仅支持: 0:继承, 1:不继承
ResourceInsufficient.SparkJobInsufficientResources 指定的spark作业资源不足,请调整driver/executor规格
ResourceNotFound 资源不存在。
ResourceNotFound.DataEngineNotFound 指定的引擎不存在
ResourceNotFound.DataEngineNotUnique 指定的引擎已存在