检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
√ - 已停止 √ √ - 删除中 - - - 删除失败 - √ - 分布式训练任务 八爪鱼自动驾驶平台的多机分布式训练功能可以帮助用户加快模型训练速度,提高训练效率,并支持更大规模的深度学习任务。通过多机分布式训练,用户可以将训练任务分配到多台计算机或服务器上并行进行,充分利用硬
通用存储 创建存储目录 在左侧菜单栏中,单击“数据资产 > 通用存储”。 选择“通用存储”页签,单击“创建存储目录”,填写基本信息。 图1 创建存储目录 单击“确定”,通用存储列表可查看新建通用存储。 通用存储相关操作 在“通用存储”列表,还可以完成以下操作。 表1 通用存储相关操作
配额说明 本服务应用的基础设施是对象存储服务。 关于如何查看配额,如何申请扩大配额,请参考关于配额。
台,只需聚焦于核心价值(自动驾驶算法、标注数据、仿真场景),快速开展自动驾驶业务,跟上瞬息多变的市场节奏。 海量数据 平台可支持PB级数据存储和亿级数据秒级检索。 软硬件加速 感知算法训练和仿真需要使用大量算力资源,Octopus依托华为自研软硬件能力提供的强大算力支持,满足每天百万公里仿真测试和算法训练。
台,只需聚焦于核心价值(自动驾驶算法、标注数据、仿真场景),快速开展自动驾驶业务,跟上瞬息多变的市场节奏。 海量数据 平台可支持PB级数据存储和亿级数据秒级检索。 软硬件加速 感知算法训练和仿真需要使用大量算力资源,Octopus依托华为自研软硬件能力提供的强大算力支持,满足每天百万公里仿真测试和算法训练。
在使用平台进行自动驾驶开发时,首先需要用户把原始数据上传至Octopus平台,即数据上云。下文介绍了数据导入任务的三种方式,帮助用户把车载平台输出的数据上传至Octopus平台上。 对象存储导入数据:用户需先将数据包上传至对象存储桶(可自定义)中,再导入到Octopus平台。上传速率快,适合上传大数据量(超过2G)的数据包。
通用存储 通用存储 自定义属性 父主题: 数据资产
本设计根据指标的重要程度将其分为三大类: 主要指标(以下简称A类)。 次要指标(以下简称B类)。 未定义重要度指标(以下简称C类)。 本设计提供如下三种内置的评分方案: AB类log函数评分。 AB类均匀权重评分。 C类均匀权重评分。 接下来对三种评分方案进行详细介绍。 父主题:
提供数据批导、源数据包、数据处理、数据缓存、数据集管理。 数据结构化:处理车载硬件平台上输出的传感器数据,详细统计各类传感器信息。 数据集治理:支持PB级海量存储。 提供通用存储、模型仓库,方便集中处理数据以及模型信息。 标注服务 以标注为核心。 平台提供点云和图片的人工标注和预标注。 支持数据预标注功能,节省大量人力成本。
自定义属性 数据处理只能识别带有标签的文件数据,进入通用存储后,用户可以给通用存储中的文件添加key-value映射关系的自定义属性。 创建自定义属性 在左侧菜单栏中,单击“数据资产 > 通用存储 ”。 选择“自定义属性”页签,单击“创建自定义属性”,填写基本信息。 图1 创建自定义属性
数据。 OBS简介 对象存储服务OBS是一个基于对象的海量存储服务,为客户提供海量、安全、高可靠、低成本的数据存储能力。对象存储服务OBS的基本组成是桶和对象。桶是OBS中存储对象的容器,每个桶都有自己的存储类别、访问权限、所属区域等属性,用户在互联网上通过桶的访问域名来定位桶。对象是OBS中数据存储的基本单位。
碰撞(Collision)检测 碰撞检测的目的是判断主车是否与其它交通参与物发生碰撞。 在进行碰撞检测时,根据与主车碰撞的物体类型的不同对碰撞类型进行细分。 具体分为: 车的车碰撞检测 追尾检测 被追尾检测 正面对碰检测 垂直角度碰撞检测 斜角侧碰检测 车人碰撞检测 自行车碰撞检测
S桶中。 数据缓存:提供专用高速文件存储功能,加速训练和评测读取数据集的速度。 模型管理:负责对模型仓库和模型版本进行各种操作,模型仓库可包含多个模型版本,支持上传符合平台规范的模型用于标注或训练任务。 通用存储:支持创建通用存储,用于数据存储。 地图管理 在地图管理中上传的高精
层次科学分类场景。仿真场景库可自建仿真场景库,集合相同场景格式的不同条件仿真场景,检验在特定条件下仿真算法控制质量。 仿真服务场景管理分为三大类型: 场景和场景库。 逻辑场景和逻辑场景库。 测试用例和测试套件。 场景和场景库 其中片段式场景仿真是自动驾驶系统测试的重要手段,当前业
数据导入 对象存储导入数据 把原始数据上传至平台前,可将数据包上传至对象存储中,从对象存储导入平台。操作步骤如下: 在左侧菜单栏中,单击“数据处理 > 数据批导”。 选择“数据导入”页签,单击“导入”。 选择“对象存储导入”页签,填写具体信息。 选择目标数据包所在的对象存储路径,平台
录制所有场景,用户可以下载仿真pb文件。仿真pb文件以osi标准存储了仿真器在整个仿真过程中的数据,用户可以利用该仿真pb进行数据分析。 评测pb下载:任务运行成功后,用户可以下载评测pb文件。评测pb文件用于存储评测输出的结果,支持用户自定义评测指标输出为Octopus的评测pb格式,从而在前端进行展示。
数据缓存 提供专用高速文件存储功能,加速训练和评测读取数据集的速度。 在数据集列表(数据资产 > 数据集)中,单击操作栏中的“缓存加速”。 在数据缓存界面出现缓存的数据。 父主题: 数据资产
仿真器输出的仿真过程数据会按照OSI的GroundTruth格式存储为pb文件,根据创建任务配置时是否选择使用datahub,该仿真pb有两种格式: 使用datahub时,该仿真pb的每帧数据是GroundTruth结构,然后按照OSI标准推荐的存储格式,先按小端顺序存储4个字节,该4个字节表示下一帧Gro
同时在线用户数扩容包 支持20个在线标注用户数。 存储扩容包 自动驾驶数据管理缓存扩容包 当SFS存储剩余容量不足时,购买自动驾驶数据管理缓存扩容包增加SFS存储容量。 自动驾驶数据管理存储扩容包 当OBS存储剩余容量不足时,购买自动驾驶数据管理缓存扩容包增加OBS存储容量。 通用处理节点 octo
数据保护技术 Octopus通过多种数据保护手段和特性,保障存储在Octopus中的数据安全可靠。 表1 表1 多种数据保护手段 数据保护手段 简要说明 传输加密(HTTPS) 支持HTTP和HTTPS两种传输协议,为保证数据传输的安全性,推荐您使用更加安全的HTTPS协议。 数据备份