检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
作业队列 平台为算子作业、内部作业和脱敏作业提供作业队列的功能,用户可在此查看任务队列,同时支持对任务优先级的调整。 其他租户的队列作业不允许操作。 在左侧菜单栏中单击“数据服务 > 数据处理”。 选择“作业队列”页签,可根据作业类型(算子作业或内部作业)查看作业。 图1 作业队列
场景展示 前提条件 符合以下两种条件中的其中之一,即可在此模块查看数据场景片段。 选择自定义挖掘算子(数据标记类型)的作业正常运行完毕(自定义场景片段)。 在源数据包详情界面,手动触发“场景挖掘”按钮,并完成数据场景挖掘作业(内置场景片段)。 生成仿真场景 生成仿真场景必须同时依赖以下两个
标签管理 标签管理中的标签分为平台内置的场景挖掘标签和用户自定义标签。平台内置标签详情请查看表1 内置标签列表。用户还可根据实际需求,自定义设置需要的标签。当前支持两种方式添加标签:在线创建和文件上传。 表1 内置标签列表 场景挖掘方式 场景分类 子类 标签 内置场景挖掘规则 道路
回收站 Octopus平台支持用户删除数据包,执行删除操作的数据包将暂存回收站,等待用户可根据项目情况及时恢复或永久删除。具体操作参考如下: 在“数据包”页签,单击指定数据包操作栏内的“删除”。 确认后单击“确认删除”,删除后的数据包将放入回收站。 图1 删除数据包 查看数据包状态
作业输入输出规范 用户完成自定义Rosbag转OpenData算子创建,运行作业容器时Octopus平台向其中注入以下环境变量: rosbag_path: 作为数据源的rosbag存放路径,例如/tmp/data/20220620.bag yaml_path: 启动数据收集任务的yaml
选择数据集。 图2 选择数据集 数据集:选择相对应的数据集或标注导入、导出数据集。 数据集中的标注物如果已经存在,则标注物信息以数据集中为准。 完成“标注设置”。 任务类型为人工标注: 图3 人工标注 任务类型:有人工标注和预标注两种。此处以人工标注为例。
算子示例 Rosbag转OpenData作业(数据回放) 场景挖掘作业(数据标记) 数据提取作业(数据集) Resim作业(回放仿真) 父主题: 数据处理
作业总览 创建作业 在左侧菜单栏中,单击“数据合规”。 选择“数据脱敏 > 作业总览”页签,单击“创建作业”。 完成创建作业任务信息。 图1 创建作业 处理算子:根据需要选择脱敏算子。 资源规格:当前项目中可用的资源规格,资源配置需要平台管理员在集群纳管中创建。 优先级:设定任务的优先级
算子管理 新建算子 在左侧菜单栏中单击“数据合规”。 选择“数据脱敏 > 算子管理”页签,单击“新建算子”。 完成新建算子相关信息。 图1 新建算子 名称:算子名称,不得超过64个字符。支持中英文、数字、“-”、“_”,不支持特殊字符。 描述:算子内容、用途等的简要描述,不包含“@
输出类型 可选择“数据标记”,“数据集”,“数据回放”,“回放仿真”,“数据图表”和“数据脱敏”。 数据标记:用于场景挖掘作业(Rosbag to场景片段)。 数据回放:输出结果是OpenData格式(Rosbag to OpenData)。
场景挖掘 平台支持基于内置场景挖掘算法和场景识别大模型挖掘的能力,对数据包进行场景挖掘。具体操作步骤如下: 在左侧菜单栏中,单击“数据资产 > 源数据包”。 选择“数据包”页签,单击操作栏中的“详情”,进入数据包详情页。 单击数据包信息的“场景挖掘”,后台会自动进行内置场景挖掘。
场景挖掘 场景挖掘 内置场景挖掘规则 父主题: 源数据包
输出类型 可选择“数据标记”,“数据集”,“数据回放”,“回放仿真”,“数据图表”和“数据脱敏”。 数据标记:用于场景挖掘作业(Rosbag to场景片段)。 数据回放:输出结果是OpenData格式(Rosbag to OpenData)。
内置场景挖掘规则 内置场景挖掘算法都是基于规则进行片段挖掘。平台支持的内置场景挖掘规则如下: 道路---道路环境---高速 检验规格: 包含高精地图信息 主车行驶区域road级别type为motorway 道路---道路环境---城市快速路 检验规格: 包含高精地图信息 主车行驶区域
文件内包含所需数据所在的子文件夹名称,用于从全量数据集(OCTPS_DATASET_DIR)中筛选出需要审核的数据。
镜像仓库 镜像仓库 镜像制作(数据集) 镜像制作(标注) 镜像制作(训练) 镜像制作(仿真)
Resim作业(回放仿真) 作业输入输出规范 示例镜像制作 父主题: 算子示例
选择数据集。 用户从数据资产中的数据集和数据缓存中选择数据集,最多支持添加5个数据集。 图5 选择数据集 单击“创建”,在任务列表或分组可查看新建训练任务。
图6 坏例判别详情 保存数据集:单击右上角“保存为数据集”,可将存在坏例判别的数据保存到新数据集中。数据集各属性沿用原始评测数据集,例如“数据类型”、“标注状态”、“数据格式”等。
消息topic格式规范 Vehicle 对于车辆自身基本数据录制的消息格式,需遵循一定规范,其中部分字段为必选,其他请根据实际需要自由选取。 表1 vehicle消息格式规范 格式名称 说明 VehicleInfo 车辆信息 消息格式中部分参数为必选,如使用该数据类型,则不可缺少该参数字段