检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
评测列表 在评测列表,还可以进行以下操作: 表1 评测列表相关操作 任务 操作步骤 搜索评测 在搜索框中输入关键字搜索相关评测。支持通过评测名称、评测ID和评测类型搜索。 查看评测详情 单击评测名称,页面跳转至评测详情页。 编辑评测 单击操作栏中的“编辑”,可编辑评测的信息。 删除评测
逻辑场景库管理 逻辑场景库模块提供逻辑场景库管理功能,支持对逻辑场景库的增删改查功能。 创建逻辑场景库 在左侧菜单栏中单击“仿真服务 > 场景管理”。 选择“逻辑场景库”页签,单击“逻辑场景库分类”后的“新增一级分类”,输入逻辑场景库分类名称,用户将新建一个逻辑场景库分类,目前逻辑场景库分类层级支持四层。
创建任务 Octopus平台提供对评测任务的管理,包括创建、删除、停止评测任务的操作。在评测任务页面, 实时显示多条评测任务的状态、任务创建时间等信息。评测任务创建完毕后,触发任务。评测任务结束后会生成评测任务结果文件,详细展示模型的各项评测指标得分。 创建评测任务 评测任务与评测参数和数据集有关。具体步骤如下:
算法文件说明 用户可将本地算法文件包上传到Octopus平台,算法文件包需要满足一定要求,请详细阅读本节,有助于用户快速完成算法开发。 算法文件基本要求 算法文件目录结构可参考如下,需要包括启动文件“xxx.py”(启动文件名可自定义),以及一些必要的训练文件。 启动文件(必选)
内置评测配置 创建内置评测配置 在左侧菜单栏中单击“仿真服务 > 评测管理”。 单击“新建评测”,填写基本信息。 图1 新建评测 评测名称:只能包含数字、英文、中文、下划线、中划线,不得超过64个字符。 评测描述:不得包含“@#$%^&*< > \”特殊字符,不得超过255个字符。
预审核操作指导 预审核的方式是使用审核模型,生成预审核作业,对标注任务进行审核,可快速得到标注任务的质量指标,通过报告展示预审核结果。 在左侧菜单栏中单击“标注服务 > 项目管理”。 选择“标注项目”页签,单击项目名称。 选择“批次任务列表”,单击批次任务前的。 单击子任务操作栏中的“更多
场景管理分类设计使用逻辑 场景管理提供所有仿真场景、测试用例和泛化场景的管理功能,用户可上传符合平台规范的自定义场景,也可将场景下载至本地开发。Octopus平台自研场景标签分类体系,从多维度深层次科学分类场景。仿真场景库可自建仿真场景库,集合相同场景格式的不同条件仿真场景,检验在特定条件下仿真算法控制质量。
认领验收任务 按照全流程计划,标注任务审核完毕后,进入标注任务的下一个阶段依次验收(初验-终验)。验收员依据标注规范和一定验收标准对标注任务能否通过验收进行把关。验收通过,则该标注任务完成。验收不通过,验收员将标注任务退回至绑定的审核员名下,审核员重新审核该任务,再退回至标注员重
文本标注任务 文本标注任务是指单段文本进行标注,支持分词标注、实体标注、实体关系标注、意图标注及文档属性标注。提供文本标注模板工具,且可以通过管理后台进行标签和属性的配置;支持自定义标签属性及默认标签属性模板;支持多种标签展示类型;支持字体大小和行间距设置;提升项目功能完整性和标
步骤三:创建评测 Octopus支持自定义内置评测配置和自定义评测镜像,并根据评测指标或评测镜像对仿真算法开展评测。 本节以创建内置评测配置为例。 创建内置评测配置 在左侧菜单栏中单击“仿真服务 > 评测管理”。 单击“新建评测”,填写基本信息。 图1 新建评测 评测名称:只能包
审核操作指导 审核是检验标注任务质量的一个手段,审核的方式是从标注任务中抽取一定比例的图片,通过被抽取的图片标注准确率判断该标注任务整体准确率,该标注任务是否通过审核。 在左侧菜单栏中单击“标注服务 > 项目管理”。 选择“标注项目”页签,单击项目名称。 选择“批次任务列表”,单击批次任务前的。
关系管理 前提条件 项目的数据类型为“文本”,需要创建关系,并对关系进行管理。 创建关系 在左侧菜单栏中单击“标注服务 > 项目管理”。 选择“标注项目”页签,单击项目名称,进入项目内任务列表。 选择“关系管理”页签,单击“创建”,填写创建信息。 图1 创建关系 名称:自定义关系
新增标签 Octopus平台提供ODD筛选对场景分类,同时还支持用户根据业务所需创建自定义标签,从其他维度分类场景,更高效管理场景库。在创建仿真评测任务时,基于分类标签体系,可快速筛选出符合评测任务需求的场景。 ODD筛选:每个自动驾驶系统运行的前提条件和适用范围可能不同,因此在
3D回放 3D回放页面支持加载本地OSI,OpenDRIVE文件,以便于回放本地场景。 在左侧菜单栏中单击“仿真服务 > 并行仿真”。 在界面的右上角,单击“3D回放”,进入到3D回放界面。 单击界面右上角“加载本地文件”。 图1 加载本地文件 添加需要加载的本地文件,单击“确认”。界面回放本地文件。
负责完成该项目的标注团队。团队需提前在创建团队中创建完毕。 预计总量 预计项目内所有任务的总量,即图片、3D点云、音频文件或文本总帧数。 数据类型 标注任务的数据类型。当前支持图片、3D点云、音频和文本四种类型。不同数据类型支持的文件格式请参见表2。 项目任务流程 除交付节点为必选之外 ,可自由选择其他任务流程节点。
改。 点云标注框的修改,双击点云标注框后,在标注界面右侧出现该标注对象的三视图,根据下方图像判断标注对象的位置和状态,在三视图中拖拉标注框顶点修改。 图5 点云标注框 联合标注。联合标注分为点云标注以及2d矩形框标注。2d标注与人车标注修改标注框方式一致。 联合标注和点云标注还需
采样方式有几种? 蒙特卡洛采样 蒙特卡洛采样是一种简单的随机抽样,根据概率分布进行采样,如对样本服从µ=0,δ=1的正态分布,通过通过蒙特卡洛采样进行采样,采样得到的点能满足正态分布要求,但如下图所示,采样得到的点会集中µ=0附近,要想采样得到更边界的点,需要进行大量采样。 图1
步骤六:查看仿真评测结果 评测任务结束后,可查看评测任务结果。 单击仿真任务名称,进入该任务的详情页。 查看任务详情。 任务详情包含任务名称、任务使用的仿真算法、任务类型等信息。 查看仿真场景的运行结果。 仿真任务包含的仿真场景运行成功后,用户可以关注该仿真场景的得分,以及是否通
批次子任务 批次任务可以拆分为多个子任务,方便多人进行操作。 前提条件 批次任务被拆分为批次子任务。 拆分批次任务 当样本数量庞大时,平台可对批次任务做拆分处理,具体步骤如下: 在左侧菜单栏中单击“标注服务 > 项目管理”。 选择“标注项目”页签,单击项目名称,进入项目内任务列表。
统计信息 在批次子任务的“统计信息”页面,可查看该任务详情,项目任务流程以及标注对象统计信息。 任务详情:任务名称、数据类型、标注状态、任务包含的标注信息等。 图1 任务详情 项目任务流程:显示任务当前进度情况。 图2 项目任务流程 标注框数统计:人工/预标注对象数量统计。 图3