检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
华为云MapReduce服务(MRS) 华为云MapReduce服务(MRS)是华为云提供的大数据服务,可以在华为云上部署和管理Hadoop系统,一键即可部署Hadoop集群。
平台对接数据格式有哪些要求? 上传数据格式 转换后数据格式 消息topic格式规范 消息topic格式示例 父主题: 数据服务常见问题
对象存储导入数据:用户需先将数据包上传至对象存储桶(可自定义)中,再导入到Octopus平台。上传速率快,适合上传大数据量(超过2G)的数据包。 单个数据包时长均不可超过10分钟。 目前MP4文件只支持对象存储导入。
} Camera 采集的camera数据通过转换工具可以保存为”.jpg”图片数据。 Lidar 采集的点云数据通过转换工具可以保存为标准的pcd格式数据。 Gnss 对于卫星导航系统数据录制的消息格式,需遵循一定规范,其中部分字段为必选,其他请根据实际需要自由选取。
图1 Octopus基础功能架构图 图2 Octopus高级功能架构图 产品优势 一站式 开箱即用,全托管的自动驾驶云服务,用户无需从零搭建一套复杂的自动驾驶大数据平台、AI平台、仿真平台、标注平台等多个工具平台,只需聚焦于核心价值(自动驾驶算法、标注数据、仿真场景),快速开展自动驾驶业务
} Camera 采集的camera数据通过转换工具可以保存为“.jpg”图片数据。 Lidar 采集的点云数据通过转换工具可以保存为标准的pcd格式数据。 Gnss 对于卫星导航系统数据录制的消息格式,需遵循一定规范,其中部分字段为必选,其他请根据实际需要自由选取。
} Camera 采集的camera数据通过转换工具可以保存为“.jpg”图片数据。 Lidar 采集的点云数据通过转换工具可以保存为标准的pcd格式数据。 Gnss 对于卫星导航系统数据录制的消息格式,需遵循一定规范,其中部分字段为必选,其他请根据实际需要自由选取。
规范管理 规范便于标注和审核人员在标注和审核过程中依据规范进行标注和审核,提高任务完成质量。添加规范的方式有以下两种: 规范管理中添加规范。 添加批次任务时,添加规范。 添加规范 在左侧菜单栏中单击“标注服务 > 项目管理”。 选择“标注项目”页签,单击项目名称,进入项目内任务列表
task_content_json示例 父主题: 数据提取作业(数据集)
资源规格:当前项目中可用的资源规格,资源配置需要平台管理员在集群纳管中创建。 优先级:设定任务的优先级,数值取[-50,50]的整数,数字越大,优先级越高。 环境变量:配置算子的环境变量。允许添加的环境变量个数不超过10个。
父主题: 场景挖掘作业(数据标记)
具体定义参考数据包格式。 示例opendata_to_platform.yaml文件内容如下: 父主题: Rosbag转OpenData作业(数据回放)
|--- perception.pb |--- prediction |--- prediction.pb |--- … opendata_to_platform.yaml内容描述输出的文件夹内的输出内容分别对应哪种数据类型
其中,cce-user-job集群需强制纳管以适配资源规格。如果用户直接通过后台操作k8s集群及节点造成环境错乱,则需承担责任。 图1 集群纳管列表 集群纳管相关操作 在“集群纳管”列表,可对纳管进行以下操作。
ModelArts集群 训练镜像 八爪鱼训练镜像使用ma-user用户运行,用户需保证镜像内已创建ma-user用户,且训练过程中使用到的python环境或其他依赖对ma-user具有权限,以下分别从“从0到1构建”和“从已有镜像”迁移两种方式说明。
一次可以添加多个,标定文件不得超过平台限制的最大数量。每上传一个标定文件,对应一个标定项。 图2 添加文件 请确保上传标定项中标定名称不重名,且文件内容正确,长度不可超过64个字符,否则将上传失败。 创建标定项。
CCE集群 Octopus平台依赖算子镜像内的/bin/bash、stdbuf、tee软件,请确保基础镜像内包含上述软件且能通过PATH找到。 一般情况下,训练与评测定义为同一个引擎,主要包括算法或评测脚本运行所需要的基本依赖环境。
如用户直接通过后台操作k8s集群及节点造成环境错乱,则需承担责任。 查看集群纳管 资源管理 工作空间 在使用Octopus自动驾驶云服务之前,如果您想实现资源隔离管理,您可以创建工作空间,实现资源隔离。
图2 新增规格 资源用途:下拉选择,当前可选择数据转换、回放仿真、训练任务、模型评测、模型编译、预标注和数据脱敏任务。 节点规格:下拉选择,为新建的资源规格定上限,确保资源规格有节点适配,根据用途从集群中查询。
选择数据集。 图2 选择数据集 数据集:选择相对应的数据集或标注导入、导出数据集。 数据集中的标注物如果已经存在,则标注物信息以数据集中为准。 完成“标注设置”。 任务类型为人工标注: 图3 人工标注 任务类型:有人工标注和预标注两种。此处以人工标注为例。
选择数据集。 图2 选择数据集 数据集:选择相对应的数据集或标注导入、导出数据集。 数据集中的标注物如果已经存在,则标注物信息以数据集中为准。 完成“标注设置”。 任务类型为人工标注: 图3 人工标注 任务类型:有人工标注和预标注两种。此处以人工标注为例。