检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
在使用数据合规服务之前,需要先购买合规服务和数据服务。如何购买服务? 在使用数据合规脱敏能力之前,需要先开通合规脱敏服务。 图1 使用合规服务和数据服务时序图 父主题: 数据合规
详情”,查看订单详情。在订单详情页面,选择数据包创建脱敏作业,对数据包进行脱敏操作。 订单推送 订单推送会将数据包推送到数据服务,您可以到“ 数据处理 > 数据批导”中查看导入任务进度。 查询订单号 在“数据合规”订单列表页面,在搜索输入框中输入搜索条件,按回车键即可查询订单号。 创建脱敏作业 查看数据递送订单详
数据来源为数据集 根据数据来源不同,可分为以下四种形式创建数据集。 本地 在左侧菜单栏中单击“数据资产 > 数据集 ”。 选择“数据集”页签,单击“创建数据集”,填写数据集信息。 图1 创建数据集 名称:不得超过64个字符。支持中英文、数字、“-”、“_”,不支持特殊字符。 描述
数据保护技术 Octopus通过多种数据保护手段和特性,保障存储在Octopus中的数据安全可靠。 表1 表1 多种数据保护手段 数据保护手段 简要说明 传输加密(HTTPS) 支持HTTP和HTTPS两种传输协议,为保证数据传输的安全性,推荐您使用更加安全的HTTPS协议。 数据备份
数据资产简介 在自动驾驶产品的开发过程中,海量的数据存储和管理是当前自动驾驶平台面临的业务挑战之一。 Octopus平台的数据服务模块提供了海量数据采集、存储以及数据并行处理等功能,供后续服务进行统一使用。数据服务开发流程如下: 图1 数据服务开发流程 地图管理:支持上传高精地图数据,可用于数据回放、仿真场景等功能。
数据总览 在数据总览页面可查看平台数据服务的统计数据,帮助用户快速了解各项数据关键指标和业务的健康情况。 进入总览数据页面: 登录Octopus服务平台,在左侧菜单栏中单击“数据资产 > 数据总览”。 图1 数据总览 表1 总览页面说明 序号 区域名称 说明 1 采集数据统计 平
数据导入 对象存储导入数据 把原始数据上传至平台前,可将数据包上传至对象存储中,从对象存储导入平台。操作步骤如下: 在左侧菜单栏中,单击“数据处理 > 数据批导”。 选择“数据导入”页签,单击“导入”。 选择“对象存储导入”页签,填写具体信息。 选择目标数据包所在的对象存储路径,
、100Mbps带宽。 查看数据回放 数据回放页面详细说明如下: 图1 数据回放详情页 表1 数据回放页面详细说明 序号 区域名称 说明 1 主车运行状态数据 自动驾驶和人工接管的相关数据信息。如加速度、速度和方向盘数据,数据随着采集车辆的行驶动态变化。 2 数据列表 回放图层参考回放图层信息。
数据缓存 提供专用高速文件存储功能,加速训练和评测读取数据集的速度。 在数据集列表(数据资产 > 数据集)中,单击操作栏中的“缓存加速”。 在数据缓存界面出现缓存的数据。 父主题: 数据资产
批导数据 原始数据采集完毕之后,需要将原始数据转换成适合Octopus平台的数据格式,以便于更快速地完成数据处理。 创建数据导入任务 在左侧菜单栏中,单击“数据处理 > 数据批导”。 选择“数据导入”页签,单击“导入”。 选择“对象存储导入”页签,填写具体信息。 选择目标数据包所
数据场景 Octopus平台处理完原始采集数据后,平台支持内置和自定义场景挖掘算法,可自动提取对应场景行为的片段,展示在数据场景模块中。用户可将其生成单个仿真场景片段,为后续仿真开发做准备。 数据场景依赖以下三个topic:ego_tf(主车定位)、 object_array_v
数据来源为数据集子集 当数据集形式为数据集子集时,创建步骤如下: 在左侧菜单栏中单击“数据资产 > 数据集”。 选择“数据集”页签,单击“创建数据集”,填写数据集信息。 图1 创建数据集子集 名称:不得超过64个字符。支持中英文、数字、“-”、“_”,不支持特殊字符。 描述:数据
数据总览 获取数据服务总览 获取轨迹统计 父主题: API
数据回放 表1 数据回放权限 权限 对应API接口 授权项(Action) IAM项目 (Project) 企业项目 (Enterprise Project) 获取数据片段统计 GET /v1.0/{project_id}/data/episodes/statistics octopus:dataReplay:get
数据场景 表1 数据场景权限 权限 对应API接口 授权项(Action) IAM项目 (Project) 企业项目 (Enterprise Project) 获取数据场景片段列表 GET /v1.0/{project_id}/data/scenario/segments oct
上传数据格式 在使用Octopus平台收集数据前,请仔细阅读本章节,确保上传数据格式符合平台要求,有助于用户更快速的完成数据收集以及数据格式转换。 上传数据格式:Rosbag包+与数据包同名的yaml文件,单包上传大小小于100G。 转换后数据格式:OpenData格式(内必含O
处理数据 在作业总览中平台支持创建数据标记,数据图表、数据回放、数据集等作业,数据包选择相对应的算子就可以触发相对应的作业。 数据回放类型的算子作业不需要选择输出仓库。 当选择数据集算子时,数据类型可支持选择通用存储。 创建作业 在左侧菜单栏中,单击“数据处理 > 数据处理”。
数据提取作业(数据集) 作业输入输出规范 示例代码 构建镜像 父主题: 算子示例
Octopus平台接收到原始数据(Rosbag包)后,将对数据进行解包、轨迹和接管分析等操作,用于数据总览、数据场景、数据回放、标注服务等模块,请用户结合实际需求,准备好相应模块所需数据。 Octopus平台转换后的OpenData数据服务模块所需数据请见下表: 表2 数据和模块对应关系 类型
数据批导 数据批导简介 数据导入 数据包格式 父主题: 数据处理