检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
ModelArts集群 训练镜像 八爪鱼训练镜像使用ma-user用户运行,用户需保证镜像内已创建ma-user用户,且训练过程中使用到的python环境或其他依赖对ma-user具有权限,以下分别从“从0到1构建”和“从已有镜像”迁移两种方式说明。
CCE集群 Octopus平台依赖算子镜像内的/bin/bash、stdbuf、tee软件,请确保基础镜像内包含上述软件且能通过PATH找到。 一般情况下,训练与评测定义为同一个引擎,主要包括算法或评测脚本运行所需要的基本依赖环境。
集群纳管 查看集群纳管 资源管理 父主题: 运维配置
其中,cce-user-job集群需强制纳管以适配资源规格。如果用户直接通过后台操作k8s集群及节点造成环境错乱,则需承担责任。 图1 集群纳管列表 集群纳管相关操作 在“集群纳管”列表,可对纳管进行以下操作。
集群信息管理 表1 集群信息管理权限 权限 对应API接口 授权项(Action) IAM项目 (Project) 企业项目 (Enterprise Project) 查询可用资源规格 GET /v1.0/{project_id}/common/clusters/resource-specs
父主题: 集群纳管
购买方式 什么是ECS 创建容器应用基本流程 快速创建一个kubernetes集群 3分钟创建一个游戏类容器应用 快速购买 什么是ECS 创建容器应用基本流程 快速创建一个kubernetes集群 自定义购买 什么是ECS 创建容器应用基本流程 快速创建一个kubernetes集群
资源规格:当前项目中可用的资源规格,资源配置需要平台管理员在集群纳管中创建。 优先级:设定任务的优先级,数值取[-50,50]的整数,数字越大,优先级越高。 环境变量:配置算子的环境变量。允许添加的环境变量个数不超过10个。
注意:如果算法容器的值超过了前端界面提示的最大值,那么需要考虑提升集群节点的CPU或者内存配置。例如:图1显示CPU最大12.19,如果算法占用15核,那么当前集群是无法满足调度的,需要提升集群节点配置。
资源规格:当前项目中可用的资源规格,资源配置需要平台管理员在集群纳管中创建。 优先级:设定任务的优先级,数值取[-50,50]的整数,数字越大,优先级越高。 数据类型:选择“数据包”。 选择数据:选择需要操作的数据包中的数据。 输出目录:选择可输出的通用存储的名称。
资源规格:当前项目中可用的资源规格,资源配置需要平台管理员在集群纳管中创建。 优先级:设定任务的优先级,数值取[-50,50]的整数,数字越大,优先级越高。 环境变量:配置算子的环境变量。允许添加的环境变量个数不超过10个。
运维配置 集群纳管
资源规格:当前项目中可用的资源规格,资源配置需要平台管理员在集群纳管中创建。 优先级:设定任务的优先级,数值取[-50,50]的整数,数字越大,优先级越高。 环境变量:配置算子的环境变量。允许添加的环境变量个数不超过10个。
集群纳管 集群提供多种节点的混合部署,基于高性能网络模型提供全方位、多场景、安全稳定的容器运行环境,平台可以将集群统一纳管,更方便查看节点资源使用量和修改节点用途,以及设置资源规格。其中,cce-user-job集群需强制纳管以适配资源规格。
ModelArts集群 父主题: 镜像仓库
修订记录 发布日期 修订记录 2023-1-31 新增镜像仓库、镜像版本、数据集、数据集版本、数据仓库、数据仓库自定义属性、集群信息管理、数据总览、数据包、数据导入、数据回放、作业管理、算子管理、作业队列、内部作业、数据场景、标签管理相关操作接口。
资源规格:当前项目中可用的资源规格,资源规格需要平台管理员在纳管模型编译用途的任务作业集群后创建。 优先级:设定任务的优先级,数值取[-50,50]的整数,数字越大,优先级越高。 选择镜像。
list √ √ 创建数据包导入任务 POST /v1.0/{project_id}/data/import-records octopus:dataImportRecord:create √ √ 获取导入任务详情 GET /v1.0/{project_id}/data/import-records
权限和授权项 权限及授权项说明 镜像仓库 镜像版本 数据集 数据集版本 数据仓库 数据仓库自定义属性 集群信息管理 数据总览 数据包 数据导入 数据回放 作业管理 算子管理 作业队列 内部作业 数据场景 标签管理 仿真场景 场景地图
启动数据导入任务 功能介绍 启动数据导入任务 URI POST /v1.0/{project_id}/data/import-records/{id}/import 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目id,获取方法请参见获取项目