检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
数据批导 数据批导简介 数据导入 数据包格式 父主题: 数据处理
数据处理 作业总览 作业队列 算子管理 算子示例 父主题: 数据处理
镜像制作(训练) Octopus平台依赖算子镜像内的/bin/bash、stdbuf、tee软件,请确保基础镜像内包含上述软件且能通过PATH找到。 一般情况下,训练与评测定义为同一个引擎,主要包括算法或评测脚本运行所需要的基本依赖环境。用户可使用命令行模式或Dockerfile模式进行构建
镜像制作(仿真) Octopus仿真服务平台定义了一些proto接口,用于支持用户自定义评测等功能。这些自定义功能通常以镜像的形式上传到云仿真平台,然后参与到业务运行流程中。 本文档对常见业务功能的镜像制作进行指导说明。 自定义评测镜像涉及的样例代码,如有需要,请联系相关人员。 算法镜像和评测镜像
集群纳管 查看集群纳管 资源管理 父主题: 运维配置
创建工作空间 新建工作空间 在左侧菜单栏中,单击“工作空间”。 单击“新建工作空间”。 完成工作空间基本信息。 空间名称:输入工作空间的名称,只能包含数字、英文、中文、下划线、中划线。 描述:简单描述空间名称,最大长度为255。 授权类型:当前可选择“Internal”。 工作空间授权类型分为
启动数据导入任务 功能介绍 启动数据导入任务 URI POST /v1.0/{project_id}/data/import-records/{id}/import 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目id,获取方法请参见获取项目
数据片段详情 功能介绍 获取数据片段详情 URI GET /v1.0/{project_id}/data/episodes/{episode_id} 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目id,获取方法请参见获取项目ID episode_id
查询内部作业详情 功能介绍 查询内部作业详情 URI GET /v1.0/{project_id}/data/system-jobs/{id} 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目id,获取方法请参见获取项目ID id 是 Long
终端节点 终端节点即调用API的请求地址,不同服务不同区域的终端节点不同。 Octopus自动驾驶云服务的终端节点如下表所示,请您根据业务需要选择对应区域的终端节点。 表1 自动驾驶云服务的终端节点 区域名称 区域 终端节点(Endpoint) 华北-乌兰察布-汽车一 cn-north
集群信息管理 表1 集群信息管理权限 权限 对应API接口 授权项(Action) IAM项目 (Project) 企业项目 (Enterprise Project) 查询可用资源规格 GET /v1.0/{project_id}/common/clusters/resource-specs
查询作业详情 功能介绍 查询作业详情 URI GET /v1.0/{project_id}/data/jobs/{id} 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目id,获取方法请参见获取项目ID id 是 Long 作业id 最小值
算子示例 Rosbag转OpenData作业(数据回放) 场景挖掘作业(数据标记) 数据提取作业(数据集) Resim作业(回放仿真) 父主题: 数据处理
ModelArts集群 训练镜像 八爪鱼训练镜像使用ma-user用户运行,用户需保证镜像内已创建ma-user用户,且训练过程中使用到的python环境或其他依赖对ma-user具有权限,以下分别从“从0到1构建”和“从已有镜像”迁移两种方式说明。 从0到1构建训练镜像 用户可以
CCE集群 Octopus平台依赖算子镜像内的/bin/bash、stdbuf、tee软件,请确保基础镜像内包含上述软件且能通过PATH找到。 一般情况下,训练与评测定义为同一个引擎,主要包括算法或评测脚本运行所需要的基本依赖环境。用户可使用命令行模式或Dockerfile模式进行构建
作业总览 创建作业 在左侧菜单栏中,单击“数据合规”。 选择“数据脱敏 > 作业总览”页签,单击“创建作业”。 完成创建作业任务信息。 图1 创建作业 处理算子:根据需要选择脱敏算子。 资源规格:当前项目中可用的资源规格,资源配置需要平台管理员在集群纳管中创建。 优先级:设定任务的优先级
算子管理 新建算子 在左侧菜单栏中单击“数据合规”。 选择“数据脱敏 > 算子管理”页签,单击“新建算子”。 完成新建算子相关信息。 图1 新建算子 名称:算子名称,不得超过64个字符。支持中英文、数字、“-”、“_”,不支持特殊字符。 描述:算子内容、用途等的简要描述,不包含“@
数据导入 对象存储导入数据 把原始数据上传至平台前,可将数据包上传至对象存储中,从对象存储导入平台。操作步骤如下: 在左侧菜单栏中,单击“数据处理 > 数据批导”。 选择“数据导入”页签,单击“导入”。 选择“对象存储导入”页签,填写具体信息。 选择目标数据包所在的对象存储路径,平台将自动扫描该目录下所有子目录
算子管理 平台支持自定义创建不同类型的算子,用于不同的数据处理作业。 新建算子 在左侧菜单栏中,单击“数据处理 > 数据处理”。 选择“算子管理”页签,单击“新建算子”。 图1 新建算子 表1 新建算子参数 参数 说明 名称 算子名称,不得超过64个字符。支持中英文、数字、“-”、
批量删除作业 功能介绍 批量删除作业 URI DELETE /v1.0/{project_id}/data/jobs 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目id,获取方法请参见获取项目ID 表2 Query参数 参数 是否必选