作业配置用于创建和管理 Ray 作业。您可以在作业配置中指定作业的运行方式、计算资源、作业包、运行参数和存储挂载。
概述
AI DLC 支持三种作业运行方式,您可以根据是否需要复用常驻集群进行选择。
运行方式 | 资源来源 | 适用场景 | 说明 |
按需拉起集群 | 选择资源组 | 离线训练、定时批处理、临时实验 | 作业启动时创建临时集群,运行结束后释放。GPU 场景冷启动通常需要数分钟。 |
提交到指定集群 | 选择运行中的计算集群 | 日常开发、对启动时延敏感的任务 | 需要提前创建并启动集群,作业与集群上其他作业共享资源。 |
提交到集群组 | 选择集群组 | 多集群调度、跨资源组错峰、主备容灾 | 系统按调度策略从集群组内选择集群运行作业。 |
前提条件
已开通 DLC 服务并完成服务授权。
已购买资源包。
使用提交到指定集群或提交到集群组方式时,已创建计算集群。创建方法请参见 计算集群。
AI DLC 目前为白名单开放,如需使用,请 提交申请 。
操作步骤
步骤1:进入创建页面
1. 登录 DLC 控制台,在左侧导航栏选择作业配置。
2. 单击创建作业。
步骤2:填写基本信息
1. 输入作业名称。
2. 根据业务场景选择运行方式,在页面顶部选择运行方式,页面下方的配置项随所选方式变化。
按需拉起集群
选择资源包 、资源组并设置优先级。优先级取值范围为1 - 9,默认值为5,用于资源组内的排队权重。
提交到指定集群
选择目标计算集群。
提交到集群组
选择目标集群组。查看集群组内的成员集群与调度策略。
3. 设置标签。
步骤3:上传作业包
Ray 作业的作业包为单个 ZIP 压缩包,并需指定入口指令。
1. 选择上传方式。
上传方式 | 说明 | 大小上限 |
本地上传 | 从本地计算机选择 ZIP 文件上传。 | 100MB |
从 COS 选择 | 指定已存放于对象存储 COS 中的 ZIP 文件路径。 | 不受100MB 限制,以 COS 的对象大小限制为准 |
注意:
100MB 的大小上限仅适用于本地上传方式。作业包超过100MB 时,请先将 ZIP 文件上传至 COS,再通过从 COS 选择方式指定该文件。
2. 输入入口指令。
入口指令示例:
python main.py --config config.yaml
作业代码示例:
import rayray.init()@ray.remotedef train_task(task_id: int) -> str:return f"Task {task_id} finished on {ray.get_runtime_context().node_id}"futures = [train_task.remote(i) for i in range(10)]results = ray.get(futures)for result in results:print(result)
说明:
建议不要将模型权重、数据集等大文件放入作业包,改为通过 COS 或 CFS 挂载访问,可减少作业包体积并加快作业启动速度。
步骤5:配置计算环境
选择按需拉起集群方式时,需要配置以下内容:
1. 镜像:选择内置镜像,或填写您在容器镜像服务中的自定义镜像地址。
2. 节点配置:配置1个头节点和至少1个工作节点组,工作节点组最多7个。节点组名称需全局唯一,单节点不低于1核 CPU 与2GB 内存。工作节点组支持配置实例数区间实现弹性伸缩。
选择提交到指定集群或提交到集群组方式时,以上信息配置继承所选集群,无需填写。用户可在页面查看继承自集群的详情信息。
步骤6:配置存储挂载
可选,作业级配置。支持挂载 COS、CFS、GooseFS 和 CFS Turbo,可设置子路径、挂载路径和读写权限。
步骤7:配置运行时配置
可选,作业级配置。可在每次提交作业时声明依赖、环境变量、容器等运行时环境,无需修改集群镜像。
步骤8:配置高级参数
高级参数:可选,以键值对形式填写运行时参数。注意:填入的扩展参数会覆盖系统默认配置。计算资源、实例数量、运行镜像、启动命令、环境变量等由平台管理,不支持通过高级参数覆盖,请通过上述对应配置项设置。可配置的高级参数请参见 高级参数配置。
步骤9:保存作业配置
单击确定。系统校验必填项和资源组配额,校验通过后跳转至作业列表页。
管理作业
在作业列表中,您可以查看作业标识、名称、运行方式、关联资源、作业包、运行中的任务数、优先级、标签、创建人和创建时间,并执行以下操作:
操作 | 说明 |
运行 | 按当前作业配置启动一个新的任务实例。 |
编辑 | 修改作业包、入口指令、存储挂载和运行环境,修改后对新建的任务实例生效。 |
复制作业 | 复制当前作业的全部配置并打开创建页面,便于微调后创建新作业。 |
删除作业 | 删除不再使用的作业。 |
注意:
删除作业前,请确认该作业下没有正在运行的任务实例。
使用限制
限制项 | 取值 |
作业包格式 | ZIP |
作业包大小上限(本地上传) | 100MB |
作业包大小上限(从 COS 选择) | 不受100MB 限制,以 COS 的对象大小限制为准 |
作业名称长度 | 100字符 |
工作节点组数量 | 最多7个 |
单节点 CPU 下限 | 1核 |
单节点内存下限 | 2GB |
单节点 GPU 卡数下限 | 1张 |
平台管理的配置 | 运行镜像、启动命令、启动参数、环境变量、计算资源、实例数量与运行时版本不支持自定义 |
常见问题
作业提交后长时间处于等待中状态如何处理?
请根据运行方式排查:
提交到指定集群:目标集群不处于运行中状态,请先启动集群。
提交到集群组:集群组内所有成员集群均异常,请检查集群状态与集群组配置。
按需拉起集群:资源组可分配配额不足,请查看配额使用情况或释放其他实例。
提交到集群组与提交到指定集群有何区别?
提交到指定集群时,您明确指定作业运行的集群。提交到集群组时,系统按调度策略从集群组内选择集群运行作业,适用于跨资源组错峰、异构 GPU 统一入口和主备容灾场景。
作业包上传失败是什么原因?
请确认作业包为 ZIP 格式。使用本地上传方式时,作业包大小不能超过100MB;若文件超过该限制,请先将 ZIP 文件上传至 COS,再通过从 COS 选择方式指定该文件。此外,建议将模型权重、数据集等大文件移出作业包,改为通过 COS 或 CFS 挂载访问。
高级参数中的配置为什么没有生效?
计算资源、实例数量、运行镜像、启动命令、环境变量等由平台管理,不支持通过高级参数覆盖。请通过创建页的资源配置、计算环境或存储挂载等对应配置项设置。