检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
选择自定义评测和内置指标评测 自定义评测: 评测脚本:可选,如果用户有其他自定义评测脚本,可勾选该项将选择的脚本路径挂载至容器内部,用户可使用${SCRIPT}进行引用。 评测启动指令:用户指定自定义评测的启动命令,根据用户选择注入以下环境变量: 表1 环境变量 类型 启动命令 默认值
算法文件说明 用户可将本地算法文件包上传到Octopus平台,算法文件包需要满足一定要求,请详细阅读本节,有助于用户快速完成算法开发。 算法文件基本要求 算法文件目录结构可参考如下,需要包括启动文件“xxx.py”(启动文件名可自定义),以及一些必要的训练文件。 启动文件(必选)
内置评测配置 创建内置评测配置 在左侧菜单栏中单击“仿真服务 > 评测管理”。 单击“新建评测”,填写基本信息。 图1 新建评测 评测名称:只能包含数字、英文、中文、下划线、中划线,不得超过64个字符。 评测描述:不得包含“@#$%^&*< > \”特殊字符,不得超过255个字符。
其他权限 团队管理员的其他管理权限步骤与平台管理员一致,具体请参考以下: 标注物管理请参考标注管理。 标注模板管理请参考模板管理。 标注脚本管理请参考脚本管理。 父主题: 团队管理员
图1 任务详情 任务视图 根据用户选择“自定义”或“内置”评测方式,详情页会展示以下三种流程图: 自定义评测 图2 自定义评测 内置指标评测 图3 内置指标评测 自定义评测+内置指标评测(组合评测) 图4 自定义评测+内置指标评测(组合评测) 用户单击不同的任务视窗后,结果栏会相
评测分数计算介绍 评分方案介绍 AB类log函数评分方案 AB类均匀权重(Average)评分方案 C类均匀权重评分(Average)方案 父主题: 评测管理
预审核操作指导 预审核的方式是使用审核模型,生成预审核作业,对标注任务进行审核,可快速得到标注任务的质量指标,通过报告展示预审核结果。 在左侧菜单栏中单击“标注服务 > 项目管理”。 选择“标注项目”页签,单击项目名称。 选择“批次任务列表”,单击批次任务前的。 单击子任务操作栏中的“更多
场景管理分类设计使用逻辑 场景管理提供所有仿真场景、测试用例和泛化场景的管理功能,用户可上传符合平台规范的自定义场景,也可将场景下载至本地开发。Octopus平台自研场景标签分类体系,从多维度深层次科学分类场景。仿真场景库可自建仿真场景库,集合相同场景格式的不同条件仿真场景,检验在特定条件下仿真算法控制质量。
准备工作 注册华为账号并开通华为云 创建用户并授权使用服务 创建对象存储服务 申请公测 购买开通Octopus服务
镜像仓库 镜像仓库 镜像制作(数据集) 镜像制作(标注) 镜像制作(训练) 镜像制作(仿真)
审计日志 支持云审计的关键操作 查看审计日志
审核操作指导 审核是检验标注任务质量的一个手段,审核的方式是从标注任务中抽取一定比例的图片,通过被抽取的图片标注准确率判断该标注任务整体准确率,该标注任务是否通过审核。 在左侧菜单栏中单击“标注服务 > 项目管理”。 选择“标注项目”页签,单击项目名称。 选择“批次任务列表”,单击批次任务前的。
关系管理 前提条件 项目的数据类型为“文本”,需要创建关系,并对关系进行管理。 创建关系 在左侧菜单栏中单击“标注服务 > 项目管理”。 选择“标注项目”页签,单击项目名称,进入项目内任务列表。 选择“关系管理”页签,单击“创建”,填写创建信息。 图1 创建关系 名称:自定义关系
新增标签 Octopus平台提供ODD筛选对场景分类,同时还支持用户根据业务所需创建自定义标签,从其他维度分类场景,更高效管理场景库。在创建仿真评测任务时,基于分类标签体系,可快速筛选出符合评测任务需求的场景。 ODD筛选:每个自动驾驶系统运行的前提条件和适用范围可能不同,因此在
3D回放 3D回放页面支持加载本地OSI,OpenDRIVE文件,以便于回放本地场景。 在左侧菜单栏中单击“仿真服务 > 并行仿真”。 在界面的右上角,单击“3D回放”,进入到3D回放界面。 单击界面右上角“加载本地文件”。 图1 加载本地文件 添加需要加载的本地文件,单击“确认”。界面回放本地文件。
创建项目 项目内包含多个标注任务,在创建项目时需绑定标注团队,指定团队完成项目内的标注任务。 在左侧菜单栏中单击“标注服务 > 项目管理”。 选择“标注项目”页签,单击“创建项目”,参考下表填写项目信息。 图1 创建项目 表1 标注项目参数 参数 说明 项目名称 项目名称不支持自
人工标注操作指导 本节主要介绍Octopus标注平台的标注界面操作(以图片和3D点云为例),标注任务的详细操作指导请参考标注样例。语言标注任务的详情操作指导请参考语音标注任务。文本标注任务的详情操作指导请参考文本标注任务。 在左侧菜单栏中单击“标注服务 > 项目管理”。 选择“标注项目”页签,单击项目名称。
工作时长/累计确认有效数。 导出人员标注效率 标注平台支持导出该项目所有标注员,初审员,终审员的标注效率,以Excel形式下载至本地,便于用户查看。单击人员详情页面的导出按钮,即可将当前页面的标注效率导出。 图11 导出人员详细 父主题: 标注项目
规范管理 规范便于标注和审核人员在标注和审核过程中依据规范进行标注和审核,提高任务完成质量。添加规范的方式有以下两种: 规范管理中添加规范。 添加批次任务时,添加规范。 添加规范 在左侧菜单栏中单击“标注服务 > 项目管理”。 选择“标注项目”页签,单击项目名称,进入项目内任务列表。
点云跟踪标注任务 绘制对象 单击点云标注任务,单击任意一帧,进入人工标注。 选择标注工具。 单击左侧工具栏“AI标注”(快捷键b)。 图1 选择标注工具 选择标注类别。 标注下拉列表页选择一标注名,进入标注状态。 图2 选择标注类别 框选标注物。 图3 框选标注物 调整三视图。