华为云用户手册
-
多帧识别场景列表 表2 多帧识别类别 类别 场景 描述 时间 TIME 白天Day - 夜晚Night - 日出Sunrise - 日落Sunset - 天气 WEATHER 晴天Sunny - 晴空Clear sky - 雾天Foggy - 雨天Rainy - 雪天Snowy - 多云Cloudy - 地点 PLACE 城市道路Urban road - 加油站Gas Station - 高速公路Highway - 停车场Parking - 住宅区Residential Area - 隧道Tunnel - 物体 OBJE CTS 小型车Small Vehicle 为个人使用而设计的小型车辆,如轿车,小型货车,suv和吉普车 卡车Truck 主要用于运输货物的车辆,包括皮卡、卡车和半挂车。 工程车Construction Vehicle 用于施工的车辆,如挖掘机、推土机。 摩托车Motorcycle 汽油或电力驱动的两轮车辆,包括所有摩托车、小型摩托车,踏板车,轻型三轮车。 自行车Bicycle 以较低速度在路面、人行道或自行车道上行驶的人力驱动的两轮车辆。 行人Pedestrian 道路上自由行动的所有人员。 交通灯Traffic Lights 交通灯,即红绿灯,标注的一个实例仅包含一个三联装的红绿灯,无论横向或纵向。 拖车Trailer 拖车,被拖拽的车辆或集装箱。 路障Road barrier 临时放置在现场的任何金属、混凝土等路障,以重新引导车辆或行人通行。
-
输出文件格式要求 输出结果在obs下文件组织形式: |--- 4DBEV |--- geojson |--- 0_lane.geojson |--- 0_rect.geojson |--- 2_lane.geojson |--- 1_rect.geojson |--- ... |--- ... |--- laneAndRect.json |--- img |--- 0.jpg |--- 1.jpg |--- ... |--- label_rect_temp |--- 0.jpg |--- 0.json |--- 1.jpg |--- 1.json |--- ... |--- ... |--- lidar |--- 0.ply |--- 1.ply |--- ... |--- lidar_sample |--- 0.ply |--- 1.ply |--- ... |--- merged_data |--- lane.geojson |--- rect.geojson |--- merged.geojson |--- pixel_json |--- 0_lane.json |--- 0_rect.json |--- 2_lane.json |--- 1_rect.json |--- ... |--- ... |--- tiff |--- 0_codeX_codeY_codeZ_codeX_codeY_codeZ.tiff |--- 1_codeX_codeY_codeZ_codeX_codeY_codeZ.tiff |--- ...
-
输入文件格式要求 输入数据在obs下文件组织形式: |--- Alignment |--- 2023-12-21-02-51-43 |--- images |--- cam-0 |--- 0_0_timestamp.jpg |--- 0_1_timestamp.jpg |--- 0_2_timestamp.jpg |--- ... |--- cam-1 |--- 1_0_timestamp.jpg |--- 1_1_timestamp.jpg |--- 1_2_timestamp.jpg |--- ... |--- cam-2 |--- 2_0_timestamp.jpg |--- 2_1_timestamp.jpg |--- 2_2_timestamp.jpg |--- ... |--- cam-3 |--- 3_0_timestamp.jpg |--- 3_1_timestamp.jpg |--- 3_2_timestamp.jpg |--- ... |--- cam-4 |--- 4_0_timestamp.jpg |--- 4_1_timestamp.jpg |--- 4_2_timestamp.jpg |--- ... |--- pano |--- 0_timestamp.jpg |--- 1_timestamp.jpg |--- 2_timestamp.jpg |--- ... |--- lidars |--- local_motion_pcd |--- 0_timestamp.pcd |--- 1_timestamp.pcd |--- 2_timestamp.pcd |--- ... |--- point_cloud_map |--- *.ply |--- Metadata.xml |--- first_global_xyz_lla.txt |--- POS |--- cam-0.ptb |--- cam-1.ptb |--- cam-2.ptb |--- cam-3.ptb |--- cam-4.ptb |--- lidar_pose.ptb |--- pano_pose.ptb |--- 2023-12-21-02-59-46 |--- ... |--- *.ply |--- Metadata.xml
-
智驾模型列表相关操作 智驾模型列表可以进行以下操作。 表1 智驾模型列表相关操作 任务 操作步骤 编辑模型 单击操作栏中的“编辑”,编辑智驾模型。仅支持修改描述信息。初始模型不支持编辑。 删除模型 单击操作栏中的“删除”,删除智驾模型。初始模型不支持删除。 查看模型详情 单击模型名称,查看模型详情。 在模型详情页,查看模型基本信息和模型版本列表。可以对模型版本进行“模型微调”、“创建在线服务”和“删除”操作。 说明: 初始模型不支持“创建在线服务”和“删除”。 只有“创建成功”的模型版本支持“模型微调”和“创建在线服务”。 查询模型 在搜索输入框中输入搜索条件,按回车键即可查询。
-
2D预标注类别列表 表2 2D预标注类别 功能 类别 目标检测 可行驶区域 车道线 车位线 路沿 地面标识 减速带 消防栓 柱子 地锁 限位块 警示物 骑行者 行人 车辆 其他车辆 两轮车 车道线检测 白虚线 黄虚线 白实线 黄实线 路沿线 停止线 语义分割(混合) 成年人 手推车 面包车 工程车 卡车 公交车 小汽车 骑行者 停车线 直行右转箭头 右转导向箭头 左转导向箭头 直行导向箭头 禁停止线 水马 锥桶 矮墙 隔音墙 路面栅栏 消防栓 斑马线 路沿 导流线 路面字符 其它导向箭头 减速带 停止线 双实线 双虚线 虚线 黄实线 实线 柱子 井盖 限位块 地锁 杆状物 臂障
-
2D图像列表相关操作 在2D图像列表,还可以进行以下操作。 表1 2D图像列表相关操作 任务 操作步骤 搜索模型生成的2D图像 在搜索框中输入关键字搜索相关2D图像生成作业名称。 查看模型生成的2D图像详情 单击模型生成的2D图像生成作业名称,即可查看模型生成的2D图像详情页。 图5 2D图像详情 显示位置框:可选择是否显示位置框。 下载图片:鼠标悬停图片,可选择单张下载图片至本地。 删除图片:可选择单张或批量删除图片。 清理失效图片:如果有失效的图片,可选择单击右上角“清理失效图片”,清理失效图片。 终止模型生成2D图像 单击操作栏的“终止”,即可终止状态为“执行中”的模型。 删除模型生成的2D图像 单击操作栏的“删除”,即可删除模型生成的2D图像信息。 说明: 删除后无法恢复,请谨慎操作。(OBS中的图片数据需用户手动清理。)。
-
模型微调任务相关操作 在模型微调任务列表页,还可以完成以下操作。 表1 模型微调任务管理相关操作 任务 操作步骤 查看任务详情 单击任务名称,在任务详情页面查看模型微调任务详情,包括任务基本信息、参数详情以及任务日志。 停止任务 当任务状态为“排队中”或“运行中”时,可单击操作栏内的“停止”,进行停止任务操作。 复制任务 单击操作栏内的“复制”,可基于现有任务创建新任务。 单个删除任务 单击操作栏内的“删除”可单个删除任务。模型微调任务删除后无法恢复,请谨慎操作。 批量删除任务 勾选名称前面的复选框,单击列表左上角的“删除”,可批量删除任务。模型微调任务删除后无法恢复,请谨慎操作。 查询模型微调任务 在搜索输入框中输入搜索条件,按回车键即可查询目标任务。
-
采样结果 如下图1和图2所示,对于某个逻辑场景进行拉丁超立方和蒙特卡洛采样,参数都是符合随机特性,但采样得到的值不相同。 对于同样的采样点数,拉丁超立方采样的结果会更加分散,并且边界值会更多。 图4 蒙特卡洛采样结果 图5 拉丁超立方采样结果 对于离散型参数,联合概率分布采样会根据给定的取值列表进行随机采样。 图6 离散型参数-联合概率分布采样结果 对于连续型参数,联合概率分布采样会根据参数分布和相关系数进行采样。 图7 连续型参数-联合概率分布采样结果 对于重要性采样,联合概率分布采样会在边界附近进行采样。 图8 重要性采样结果
-
回放图层 在回放图层区域,可以选择不同图层,多层次观看3D回放视频。 真值物体:包含选项有真值物体类型及ID、物体模型,可控制真值物体显示或隐藏。 预测算法:可显示或隐藏除主车以外,他车的朝向前的行驶轨迹。 定位算法:可显示或隐藏主车的定位(通过算法计算出的信息)和真值(实际信息)的坐标信息。 规控算法:可显示或隐藏“主车局部规划轨迹”和“主车全局规划轨迹”。 高精地图:显示“路面”、“车道线”、“车道参考线”、“中心车道线”、“交通信号”,可控制对应功能显示或者隐藏。 动态场景:显示场景trigger信息,目前支持设置了Distance,ReachPosition,End Of Road,Collision,OffRoad,Time Head Way,Time To Collision,Acceleration,StandStill,Speed,Relative Speed,Traveled Distance,Relative Distance这几类trigger。地图会以的图标展现,鼠标单击图标时,地图中会出现trigger的详细信息。 当有trigger作用于某个交通参与物时,且该trigger自身没有position。该交通参与物模型上会显示trigger图标。(注:Time To Collision类型的trigger可能包含position信息,但是该position代表目标位置,不是其本身位置,所以此类trigger也会显示在交通参与物上)。 一个trigger作用于多个交通参与物时,涉及到的交通参与物都会带有trigger图标。 一个交通参与物带有多个trigger时,只会显示一个trigger图标,鼠标悬浮上去,会在右上角列出所有trigger的内容。
-
感知物体类型 由于各类仿真器对交通参与物类型的覆盖面不同,可能产生仿真器不支持某种类型,或仿真器与仿真回放中类型不匹配。 以下模型均为副车的颜色,主车ego的颜色为白色,其他车比主车颜色更深。 表2 车辆和行人 类别 标签 三维感知框/未选中 三维感知框/选中 3D模型 未知车辆/其他车辆/小型车/紧凑型轿车/中型车/豪华车 送货车/重型卡车/半挂式拖车/拖车 行人 公交车 未知/其他/轮椅 摩托车/自行车 电车/火车 暂无 动物 暂无 表3 交通信号 类型 名称 图标 信号灯 红黄绿灯 方向灯-箭头向上 方向灯-箭头向左 方向灯-箭头向前向左 方向灯-箭头向右 方向灯-箭头向前向右 交通标识牌 注意安全 人行横道 两侧变窄 右侧变窄 左侧变窄 减速让行 停车让行 禁止驶入 禁止掉头 禁止停车 禁止长时停放 注意落石
-
内置评测信号参数 表1 内置评测信号参数 内置评测信号参数 对应中文 speedX 纵向速度 speedY 侧向速度 accX 纵向加速度 accY 侧向加速度 speedYaw 横摆速度 relativeYaw 相对车道中心线偏离角 lateralOffset 相对车道中心线偏离距离 relativeSpeed 相对前车的速度 relativeDistance 相对前车的距离 TH 相对前车车头时距 TTC 相对前车ttc rmsAccX 纵向加速度均方根值 rmsAccY 侧向加速度均方根值 varianceSpeed 速度方差
-
仿真任务结果 仿真算法的质量由仿真结果呈现,仿真服务模块以自动驾驶过程中关键指标的检测结果为依据对仿真算法进行评测,回放可查看场景,信号查看器是对仿真结果的展示。 仿真任务结果展示可以有以下几种,按钮可单击条件判断为如下:(如果文件不存在,界面会报错提示) 回放按钮:录制模式下即可单击。 算法日志按钮:录制模式下,关联了算法的情况下可单击。 评测日志按钮:录制模式下,关联了自定义评测镜像的情况下可单击。 仿真pb文件按钮:录制模式下可单击。 评测pb文件按钮:任何模式下都可单击。 信号查看器按钮:任何模式下都可单击。 算法pb文件按钮:录制模式下使用使用自定义算法,并开启Datahub才可单击下载。 所有可下载的结果均不建议使用过长场景名称,如果场景名过长,浏览器会有文件名截取行为,具体截取长度因浏览器、操作系统以及文件下载路径不同而有所区别,以实际情况为准。
-
任务配置相关操作 在“任务配置”列表,可对仿真任务配置进行以下操作。 表3 任务配置相关操作 任务 操作步骤 查看算法详情 单击该任务配置所使用的算法名称,即可查看算法详情。无算法接入时页面显示“--”,使用仿真器自带的驾驶员模型控制主车。 查看评测详情 单击该任务配置所使用的评测名称,即可查看评测详情。 查看任务配置详情 单击任务配置名称,可查看任务配置详情。 图6 任务配置详情 查询任务配置 可按照"任务配置ID"、"任务配置名称"、"算法名称"、"评测名称"、"任务配置描述"查询任务配置。 删除任务配置 单击操作栏“ 删除”,删除该任务配置。删除后不可恢复,请谨慎操作。 编辑任务配置 单击操作栏“编辑”,以修改任务配置名称和描述信息。
-
并行仿真 Octopus平台的并行仿真模块分为任务配置和仿真任务两部分。用户在任务配置模块,可使用自研仿真算法,根据Octopus自研仿真评测体系,从行车安全、驾驶行为、乘员舒适性等多维度测评在多种条件下的仿真场景中控制算法控制质量。在仿真任务模块,可将仿真任务运行中关键指标变化绘制成图表,直观形象,也可在仿真任务结束后评测报告可下载至本地查看。 任务配置 仿真任务 3D回放 排队任务管理 信号查看器 场景回放 父主题: 仿真服务
-
标签管理相关操作 在“标签管理”界面,还可以进行以下操作。 表1 标签管理相关操作 任务 操作步骤 新建根标签 单击“新增标签”,输入标签名称。 新建标签 单击标签后的,输入标签名称。 修改标签 单击标签后的,可对标签的名称进行修改。 删除标签 单击标签后的,可删除标签或其子节点标签。 说明: 平台预置场景标签暂不支持编辑、删除。 导出标签 单击根标签后的,可导出标签至本地。 搜索标签 在搜索框输入搜索内容,可模糊搜索标签。 多项搜索:可根据需要决定是否启用多项搜索,输入多个关键字,中间用“;”隔开,可搜索多个关键字。
-
用例管理 在测试用例的详情页,可以进行以下操作: 查看测试用例详情。 单击用例名称查看该用例详细信息。 图1 测试用例详情 编辑测试脚本。 可根据需要添加测试脚本,在测试用例详情页,单击测试脚本后面的“编辑”,编辑脚本类型。 图2 编辑测试脚本 用例发布。 当用例状态为“编辑中”时,用例详情页面,单击用例名称后“发布”,可对用例进行发布。 关闭用例。 当用例状态为“已发布”时,用例详情页面,单击用例名称后“关闭用例”,可对用例进行关闭。 修改用例。 单击用例名称,进入用例详情页,单击右上角“编辑”,即可修改用例信息。 用例状态为"已关闭"和"已发布"时,不支持编辑用例基本信息。 用例编辑中/发布/关闭的使用逻辑: 测试用例在被创建时的默认状态是编辑中,当测试用例中的场景和测试脚本以及其他相关信息都确认达到测试条件时,可以选择发布测试用例,发布后的测试用例才能被用于创建仿真任务,并且用例一旦发布,就不允许删除,从而保证测试结果的可追溯。当发布后的测试用例后续不会再进行测试时,可以选择关闭测试用例,关闭后的测试用例不能用于创建仿真任务,并且同样关闭后的测试用例不能被删除,从而保证结果的可追溯性。 父主题: 测试用例管理
-
套件用例相关操作 在“用例列表”,还可以进行以下操作。 表2 套件用例相关操作 任务 操作步骤 在线查看用例 单击用例列表后的操作栏中的“查看场景”,可选择在线仿真器,在线查看用例。 复用用例 单击操作栏中“另存为”,输入名称,即可生成另一个名称的用例。 删除用例 单击操作栏中“从套件中删除”,删除用例,删除后无法恢复,请谨慎操作。 查询用例 在页面右侧,可按照“用例名称”、“用例ID”查询用例,也可在搜索框中输入搜索内容对用例进行查询。
-
敏感性分析 Octopus平台支持基于参数组合、回归训练、敏捷性评定三个参数空间分析得到的敏感性分析结果,主要对逻辑场景的参数空间进行敏感性分析。在泛化任务完成的批量仿真任务后加上敏感性分析,然后把敏感性分析结果展现在新的泛化任务创建界面上,来帮助客户更好调节参数创建泛化任务。 进入到创建泛化任务界面,参数设置,选择参数设置后的“灵敏度分析”。 图5 灵敏度分析 选择关联到该逻辑场景下泛化任务的仿真任务。 图6 选择仿真任务 单击“确定”,界面出现上次任务的敏感性分析结果,展示每个参数的灵敏度参数,该值的范围在[0,1],该值越大,说明该参数的变化对评测分数的影响越大。 图7 泛化参数 用户可根据敏感性分析结果,设置当前各项参数的数值。
-
逻辑场景相关操作 在“逻辑场景列表”,还可以进行以下操作。 表1 逻辑场景相关操作 任务 操作步骤 查询逻辑场景 选择“逻辑场景名称”、“场景ID”或“创建人”,在搜索输入框中输入搜索条件,按回车键即可查询。也可按照"标签筛选"查询场景具体可参考标签筛选。 删除逻辑场景 单击逻辑场景名称后操作栏内的“ 删除”,删除该场景。 勾选多个逻辑场景前勾选框,单击场景列表上方的“删除”,可批量删除场景。 说明: 被任务使用的逻辑场景不可被删除。 编辑逻辑场景 单击操作栏中的“编辑”,可编辑逻辑场景基本信息。 查看逻辑场景详情 单击逻辑场景名称,可查看逻辑场景详情。 基本信息:场景名称、创建时间,解析状态等信息。 场景参数:包括动态场景、静态场景信息,可单击文件列表后的“下载”或“替换文件”,将文件下载本地或替换场景文件。 泛化任务:平台支持逻辑场景生成泛化任务,具体操作参考泛化任务。 场景预览:根据场景文件的不同情况,场景预览会以不同的方式呈现。详见场景预览。
-
场景预览 场景预览当前有两种呈现方式:动态场景预览和地图场景预览。 动态场景预览:版本为OpenSCENARIO1.1.1的场景预览,存在完整的逻辑场景文件时显示。 地图场景预览:逻辑场景文件缺失或部分缺失,逻辑场景文件解析失败或其他不支持动态场景预览的情况时显示。 动态场景预览 逻辑场景的动态场景预览同具体场景的动态场景预览相同,可参考具体场景的动态场景预览。 地图场景预览 逻辑场景的地图场景预览同具体场景的地图场景预览相同,可参考具体场景的地图场景预览。
-
逻辑场景管理 逻辑场景功能可批量生成仿真场景,扩充仿真场景库,为自动驾驶开发提供海量仿真场景。自定义逻辑场景的可以进行修改、删除操作,并支持仿真器A和仿真器B。创建泛化场景时,由于仿真器A的不同版本之间存在主车id不固定的问题,为了保证规控算法和评测算法能正确判断找到主车,泛化的场景文件的主车名称(name)字段应该为Ego。 逻辑场景中场景是完全独立存储与使用的,在逻辑场景生成的泛化场景非常多,其中有价值的场景比例低,如果存储到场景中会对场景模块造成冲击,当前如果认为逻辑场景中保存的个别场景价值高,可以采用下载场景文件到本地再上传到场景模块的方式保留该逻辑场景。 逻辑场景 泛化场景 父主题: 场景管理
-
逻辑场景库相关操作 在“逻辑场景库”页签,还可进行以下操作。 表1 逻辑场景库相关操作 任务 操作步骤 查看逻辑场景库信息 单击左侧逻辑场景库名称,查看右侧该场景库信息以及场景库包含场景信息。 场景库信息:场景库名称、创建人、描述和创建时间等信息。 场景列表:该逻辑场景库中包含的所有场景。逻辑场景的具体操作请参考逻辑场景管理。 修改逻辑场景库信息/逻辑场景库分类信息 单击场景库名称或场景库分类后的,修改逻辑场景库或场景库分类的信息。 删除逻辑场景库/逻辑场景库分类 单击场景库名称或场景库分类后的,删除指定逻辑场景库或场景库分类。 查询逻辑场景 根据“逻辑场景名称”或“创建人”,输入搜索条件,查询逻辑场景列表中的场景。
-
场景预览 场景预览当前有两种呈现方式:动态场景预览和地图场景预览。 动态场景预览:场景文件中存在完整的地图文件和动态场景文件,且动态场景文件为.xosc格式时显示。 地图场景预览:场景文件缺失或部分缺失,动态场景文件为.xml格式,场景文件解析失败或其他不支持动态场景预览的情况时显示。 动态场景预览 图6 动态场景预览页面 表2 动态场景预览页面详细说明 序号 区 域名 称 说明 1 动态场景预览区域 车辆的行驶轨迹,随着主车的行驶感知在主车辆周围出现的其他物体,如其他车辆、行人和交通信号等。目前可感知的物体类型请见感知物体类型。鼠标移动至道路时,道路会变红。遇到信号灯,车辆会按照红绿灯指示行驶。 2 交通参与物状态 可根据需要选择显示参与物状态。当前支持的参与物有参考线、车道、车道线、中心车道、交通信号、Trigger。 默认勾选Trigger,当出现时,单击图标,地图中会出现trigger的详细信息。 交通信号包含信号灯和交通标识牌。 3 视频播放控件 控制视频播放暂停回放按钮,支持逐帧和倍速播放。地图文件超过1MB不支持高倍速预览。 4 场景切换 视角切换:跟车、俯视、驾驶,自由。当在3D回放页面拖动鼠标时,即可切换为自由视角。 2D/3D切换:可单击“2D/3D”,可切换2D,3D场景。 地图场景预览 图7 地图场景预览页面 表3 地图场景预览页面详细说明 序号 区域名称 说明 1 地图场景预览区域 鼠标上下滚动,可以放大缩小图片,鼠标左键可旋转图片,右键可拖动图片。 2 交通参与物状态 可根据需要选择显示参与物状态。当前支持的参与物有参考线、车道、车道线、中心车道、信号灯。 3 场景刷新 单击右下方加号、减号和刷新按钮,放大、缩小、还原地图。
-
场景库相关操作 在“场景库”页签,可对场景库进行以下操作。 表1 场景库相关操作 任务 操作步骤 查看场景库信息 单击左侧场景库名称,查看右侧该场景库信息以及场景库包含场景信息。 场景库信息:场景库名称、创建人、仿真器、描述、关联仿真任务数和创建时间等信息。 场景列表:该场景库中包含的所有场景。场景的具体操作请参考场景管理。 修改场景库信息/场景库分类信息 单击场景库名称或场景库分类后的,修改场景库或场景库分类的信息。 删除场景库/场景库分类 单击场景库名称或场景库分类后的,删除指定场景库或场景库分类。 查询场景 根据“场景名称”或“创建人”,输入搜索条件,查询场景列表中的场景。
-
场景和场景库 其中片段式场景仿真是自动驾驶系统测试的重要手段,当前业内对于片段式场景普遍遵循ASAM主导的OpenX系列标准。OpenSCENARIO对动态驾驶环境进行了描述,交通参与物之间通过其他物体的状态变化作为触发条件,进而改变自身的状态。 通过OpenX场景可对算法与环境的动态交互能力进行测试,场景库的目的则是将一批有相同测试目的的场景进行汇总,如想测试Acc算法的应对切入功能,可将多个应对切入的测试场景归到一个场景库,进而在创建仿真任务时可直接选择该场景库进行仿真。
-
逻辑场景和逻辑场景库 逻辑场景是基于状态空间变量对功能场景的进一步详细描述,每个逻辑场景都有场景参数,比如前车车速及其加速度,自车与前车距离等参数,这些参数都有一定的取值范围,根据这些参数可以派生出任意数量的具体场景。 逻辑场景库是不同逻辑场景的数据集合,以树状结构的形式表现出来,便于对逻辑场景进行统一的、有效的组织、管理和应用,比如当用户想系统管理和方便查看超车的逻辑场景,可以将所有超车相关的逻辑场景加入一个场景库中。
-
测试用例和测试套件 如上所述,OpenSCENARIO场景能描绘动态环境的,但无法根据主车内部动力学状态、自动驾驶算法状态作为触发条件来驱动各个交通参与物变化,因此为了实现更加精细的测试控制,需要额外提供一个测试脚本实现与仿真器中的交通参与物和算法内部数据的交互。 图1 测试用例和测试套件 如上图所述,测试脚本能同时监听RDB和AD算法的内部数据,如通过RDB判断主车与前车距离小于20m,可发送某个控制信号给算法改变esp状态,也可以通过SCP指令控制场景中的副车改变运动姿态。 测试脚本很大程度上弥补了单纯场景仿真的不足,能够实现以算法内部信号为触发条件,改变仿真场景中交通参与物的状体和算法内部状态。 因此,在场景的基础上,添加与该场景相匹配的测试脚本,就形成了一个测试用例。也就是说,测试用例是一个场景和测试脚本的集合。 同样,测试套件是将测试目的相同的测试用例归到一起,方便创建仿真任务时直接选择。
-
延时评测 图2 延时评测 如上图所示,延时评测以仿真pb文件作为输入,进行评测逻辑处理后,将评测结果写成评测pb。 其中仿真pb是通过八爪鱼提供的sim_osi.proto进行序列化和反序列化,评测pb是通过八爪鱼提供的eva.proto进行序列化和反序列化的。 延时评测算法的实现有如下几个步骤: 在代码内通过SIM_OSI_PATH环境变量获取仿真pb路径,通过EVA_PATH环境变量获取评测pb路径。 通过文件Open的方式打开仿真pb路径,读取字节流,利用sim_osi.proto中的SimData反序列化仿真pb中的内容。该步骤会得到一个SimData的内存对象,用户通过访问对象中的字段即可获取自己关注的数据。 SimData中包含仿真器输出的整个仿真过程数据,用户处理根据自身评测逻辑处理所有帧数据。 用户自定义的评测指标包含通过,不通过等结果,将该结果写入到eva.proto中的Evaluation类中,然后通过文件Open的形式打开评测pb路径,将评测结果写成评测pb文件。 写成评测pb文件后,延时评测镜像的工作就完成了,仿真平台的控制程序在运行自定义评测容器时会主动将评测pb文件上传到对象存储中,前端通过下载该评测pb文件进行解析,可以将自定义评测结果和内置评测结果一样完全兼容地进行展示。 评测算法代码开发完成后,将代码构建成算法镜像上传到仿真平台评测管理模块即可被仿真任务使用。在制作评测算法镜像的Dockerfile中,建议将评测代码编译成的二进制文件COPY到系统的/usr/bin目录下,便于在前端界面填写评测镜像的运行命令时直接填写该二进制文件的名称即可。在镜像中新建一个shell脚本来运行评测代码也是可以接受的方案。
-
实时评测 图1 实时评测 实时评测的基本架构如上图所示,实时评测算法从仿真器和AD算法按帧接收数据,每接收一帧数据,就调用一次评测函数,在最后仿真结束时将评测结果写成评测pb文件。 实时评测的实现包括如下几个步骤: 代码内实现与仿真器的通信,实时接收仿真器的帧数据,也可同时接收仿真器和AD算法的数据。 处理每帧数据,不断更新评测结果。 仿真结束时,将最后一帧的评测结果作为最终的评测结果,通过EVA_PATH环境变量获取评测pb路径,经评测结果写入到评测pb文件中。
-
评分方案介绍 Octopus评测指标共有30多项大类指标,当规控算法未通过某些评测指标后,评测分数应能反映算法的性能表现。 本设计根据指标的重要程度将其分为三大类: 主要指标(以下简称A类)。 次要指标(以下简称B类)。 未定义重要度指标(以下简称C类)。 本设计提供如下三种内置的评分方案: AB类log函数评分。 AB类均匀权重评分。 C类均匀权重评分。 接下来对三种评分方案进行详细介绍。 父主题: 评测分数计算介绍
共100000条
- 1
- ...
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- ...
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
- 45
- 46
- 47
- 48
- 49
- 50
- 51
- 52
- 53
- 54
- 55
- 56
- 57
- 58
- 59
- 60
- 61
- 62
- 63
- 64
- 65
- 66
- 67
- 68
- 69
- 70
- 71
- 72
- 73
- 74
- 75
- 76
- 77
- 78
- 79
- 80
- 81
- 82
- 83
- 84
- 85
- 86
- 87
- 88
- 89
- 90
- 91
- 92
- 93
- 94
- 95
- 96
- 97
- 98
- 99
- 100
- 101
- 102
- 103
- 104
- 105
- 106
- 107
- 108
- 109
- 110
- 111
- 112
- 113
- 114
- 115
- 116
- 117
- 118
- 119
- 120
- 121
- 122
- 123
- 124
- 125
- 126
- 127
- 128
- 129
- 130
- 131
- 132
- 133
- 134
- 135
- 136
- 137
- 138
- 139
- 140
- 141
- 142
- 143
- 144
- 145
- 146
- 147
- 148
- 149
- 150
- 151
- 152
- 153
- 154
- 155
- 156
- 157
- 158
- 159
- 160
- 161
- 162
- 163
- 164
- 165
- 166
- 167
- 168
- 169
- 170
- 171
- 172
- 173
- 174
- 175
- 176
- 177
- 178
- 179
- 180
- 181
- 182
- 183
- 184
- 185
- 186
- 187
- 188
- 189
- 190
- 191
- 192
- 193
- 194
- 195
- 196
- 197
- 198
- 199
- 200
- 201
- 202
- 203
- 204
- 205
- 206
- 207
- 208
- 209
- 210
- 211
- 212
- 213
- 214
- 215
- 216
- 217
- 218
- 219
- 220
- 221
- 222
- 223
- 224
- 225
- 226
- 227
- 228
- 229
- 230
- 231
- 232
- 233
- 234
- 235
- 236
- 237
- 238
- 239
- 240
- 241
- 242
- 243
- 244
- 245
- 246
- 247
- 248
- 249
- 250
- 251
- 252
- 253
- 254
- 255
- 256
- 257
- 258
- 259
- 260
- 261
- 262
- 263
- 264
- 265
- 266
- 267
- 268
- 269
- 270
- 271
- 272
- 273
- 274
- 275
- 276
- 277
- 278
- 279
- 280
- 281
- 282
- 283
- 284
- 285
- 286
- 287
- 288
- 289
- 290
- 291
- 292
- 293
- 294
- 295
- 296
- 297
- 298
- 299
- 300
- 301
- 302
- 303
- 304
- 305
- 306
- 307
- 308
- 309
- 310
- 311
- 312
- 313
- 314
- 315
- 316
- 317
- 318
- 319
- 320
- 321
- 322
- 323
- 324
- 325
- 326
- 327
- 328
- 329
- 330
- 331
- 332
- 333
- 334
- 335
- 336
- 337
- 338
- 339
- 340
- 341
- 342
- 343
- 344
- 345
- 346
- 347
- 348
- 349
- 350
- 351
- 352
- 353
- 354
- 355
- 356
- 357
- 358
- 359
- 360
- 361
- 362
- 363
- 364
- 365
- 366
- 367
- 368
- 369
- 370
- 371
- 372
- 373
- 374
- 375
- 376
- 377
- 378
- 379
- 380
- 381
- 382
- 383
- 384
- 385
- 386
- 387
- 388
- 389
- 390
- 391
- 392
- 393
- 394
- 395
- 396
- 397
- 398
- 399
- 400
- 401
- 402
- 403
- 404
- 405
- 406
- 407
- 408
- 409
- 410
- 411
- 412
- 413
- 414
- 415
- 416
- 417
- 418
- 419
- 420
- 421
- 422
- 423
- 424
- 425
- 426
- 427
- 428
- 429
- 430
- 431
- 432
- 433
- 434
- 435
- 436
- 437
- 438
- 439
- 440
- 441
- 442
- 443
- 444
- 445
- 446
- 447
- 448
- 449
- 450
- 451
- 452
- 453
- 454
- 455
- 456
- 457
- 458
- 459
- 460
- 461
- 462
- 463
- 464
- 465
- 466
- 467
- 468
- 469
- 470
- 471
- 472
- 473
- 474
- 475
- 476
- 477
- 478
- 479
- 480
- 481
- 482
- 483
- 484
- 485
- 486
- 487
- 488
- 489
- 490
- 491
- 492
- 493
- 494
- 495
- 496
- 497
- 498
- 499
- 500
- 501
- 502
- 503
- 504
- 505
- 506
- 507
- 508
- 509
- 510
- 511
- 512
- 513
- 514
- 515
- 516
- 517
- 518
- 519
- 520
- 521
- 522
- 523
- 524
- 525
- 526
- 527
- 528
- 529
- 530
- 531
- 532
- 533
- 534
- 535
- 536
- 537
- 538
- 539
- 540
- 541
- 542
- 543
- 544
- 545
- 546
- 547
- 548
- 549
- 550
- 551
- 552
- 553
- 554
- 555
- 556
- 557
- 558
- 559
- 560
- 561
- 562
- 563
- 564
- 565
- 566
- 567
- 568
- 569
- 570
- 571
- 572
- 573
- 574
- 575
- 576
- 577
- 578
- 579
- 580
- 581
- 582
- 583
- 584
- 585
- 586
- 587
- 588
- 589
- 590
- 591
- 592
- 593
- 594
- 595
- 596
- 597
- 598
- 599
- 600
- 601
- 602
- 603
- 604
- 605
- 606
- 607
- 608
- 609
- 610
- 611
- 612
- 613
- 614
- 615
- 616
- 617
- 618
- 619
- 620
- 621
- 622
- 623
- 624
- 625
- 626
- 627
- 628
- 629
- 630
- 631
- 632
- 633
- 634
- 635
- 636
- 637
- 638
- 639
- 640
- 641
- 642
- 643
- 644
- 645
- 646
- 647
- 648
- 649
- 650
- 651
- 652
- 653
- 654
- 655
- 656
- 657
- 658
- 659
- 660
- 661
- 662
- 663
- 664
- 665
- 666
- 667
- 668
- 669
- 670
- 671
- 672
- 673
- 674
- 675
- 676
- 677
- 678
- 679
- 680
- 681
- 682
- 683
- 684
- 685
- 686
- 687
- 688
- 689
- 690
- 691
- 692
- 693
- 694
- 695
- 696
- 697
- 698
- 699
- 700
- 701
- 702
- 703
- 704
- 705
- 706
- 707
- 708
- 709
- 710
- 711
- 712
- 713
- 714
- 715
- 716
- 717
- 718
- 719
- 720
- 721
- 722
- 723
- 724
- 725
- 726
- 727
- 728
- 729
- 730
- 731
- 732
- 733
- 734
- 735
- 736
- 737
- 738
- 739
- 740
- 741
- 742
- 743
- 744
- 745
- 746
- 747
- 748
- 749
- 750
- 751
- 752
- 753
- 754
- 755
- 756
- 757
- 758
- 759
- 760
- 761
- 762
- 763
- 764
- 765
- 766
- 767
- 768
- 769
- 770
- 771
- 772
- 773
- 774
- 775
- 776
- 777
- 778
- 779
- 780
- 781
- 782
- 783
- 784
- 785
- 786
- 787
- 788
- 789
- 790
- 791
- 792
- 793
- 794
- 795
- 796
- 797
- 798
- 799
- 800
- 801
- 802
- 803
- 804
- 805
- 806
- 807
- 808
- 809
- 810
- 811
- 812
- 813
- 814
- 815
- 816
- 817
- 818
- 819
- 820
- 821
- 822
- 823
- 824
- 825
- 826
- 827
- 828
- 829
- 830
- 831
- 832
- 833
- 834
- 835
- 836
- 837
- 838
- 839
- 840
- 841
- 842
- 843
- 844
- 845
- 846
- 847
- 848
- 849
- 850
- 851
- 852
- 853
- 854
- 855
- 856
- 857
- 858
- 859
- 860
- 861
- 862
- 863
- 864
- 865
- 866
- 867
- 868
- 869
- 870
- 871
- 872
- 873
- 874
- 875
- 876
- 877
- 878
- 879
- 880
- 881
- 882
- 883
- 884
- 885
- 886
- 887
- 888
- 889
- 890
- 891
- 892
- 893
- 894
- 895
- 896
- 897
- 898
- 899
- 900
- 901
- 902
- 903
- 904
- 905
- 906
- 907
- 908
- 909
- 910
- 911
- 912
- 913
- 914
- 915
- 916
- 917
- 918
- 919
- 920
- 921
- 922
- 923
- 924
- 925
- 926
- 927
- 928
- 929
- 930
- 931
- 932
- 933
- 934
- 935
- 936
- 937
- 938
- 939
- 940
- 941
- 942
- 943
- 944
- 945
- 946
- 947
- 948
- 949
- 950
- 951
- 952
- 953
- 954
- 955
- 956
- 957
- 958
- 959
- 960
- 961
- 962
- 963
- 964
- 965
- 966
- 967
- 968
- 969
- 970
- 971
- 972
- 973
- 974
- 975
- 976
- 977
- 978
- 979
- 980
- 981
- 982
- 983
- 984
- 985
- 986
- 987
- 988
- 989
- 990
- 991
- 992
- 993
- 994
- 995
- 996
- 997
- 998
- 999
- 1000
- 1001
- 1002
- 1003
- 1004
- 1005
- 1006
- 1007
- 1008
- 1009
- 1010
- 1011
- 1012
- 1013
- 1014
- 1015
- 1016
- 1017
- 1018
- 1019
- 1020
- 1021
- 1022
- 1023
- 1024
- 1025
- 1026
- 1027
- 1028
- 1029
- 1030
- 1031
- 1032
- 1033
- 1034
- 1035
- 1036
- 1037
- 1038
- 1039
- 1040
- 1041
- 1042
- 1043
- 1044
- 1045
- 1046
- 1047
- 1048
- 1049
- 1050
- 1051
- 1052
- 1053
- 1054
- 1055
- 1056
- 1057
- 1058
- 1059
- 1060
- 1061
- 1062
- 1063
- 1064
- 1065
- 1066
- 1067
- 1068
- 1069
- 1070
- 1071
- 1072
- 1073
- 1074
- 1075
- 1076
- 1077
- 1078
- 1079
- 1080
- 1081
- 1082
- 1083
- 1084
- 1085
- 1086
- 1087
- 1088
- 1089
- 1090
- 1091
- 1092
- 1093
- 1094
- 1095
- 1096
- 1097
- 1098
- 1099
- 1100
- 1101
- 1102
- 1103
- 1104
- 1105
- 1106
- 1107
- 1108
- 1109
- 1110
- 1111
- 1112
- 1113
- 1114
- 1115
- 1116
- 1117
- 1118
- 1119
- 1120
- 1121
- 1122
- 1123
- 1124
- 1125
- 1126
- 1127
- 1128
- 1129
- 1130
- 1131
- 1132
- 1133
- 1134
- 1135
- 1136
- 1137
- 1138
- 1139
- 1140
- 1141
- 1142
- 1143
- 1144
- 1145
- 1146
- 1147
- 1148
- 1149
- 1150
- 1151
- 1152
- 1153
- 1154
- 1155
- 1156
- 1157
- 1158
- 1159
- 1160
- 1161
- 1162
- 1163
- 1164
- 1165
- 1166
- 1167
- 1168
- 1169
- 1170
- 1171
- 1172
- 1173
- 1174
- 1175
- 1176
- 1177
- 1178
- 1179
- 1180
- 1181
- 1182
- 1183
- 1184
- 1185
- 1186
- 1187
- 1188
- 1189
- 1190
- 1191
- 1192
- 1193
- 1194
- 1195
- 1196
- 1197
- 1198
- 1199
- 1200
- 1201
- 1202
- 1203
- 1204
- 1205
- 1206
- 1207
- 1208
- 1209
- 1210
- 1211
- 1212
- 1213
- 1214
- 1215
- 1216
- 1217
- 1218
- 1219
- 1220
- 1221
- 1222
- 1223
- 1224
- 1225
- 1226
- 1227
- 1228
- 1229
- 1230
- 1231
- 1232
- 1233
- 1234
- 1235
- 1236
- 1237
- 1238
- 1239
- 1240
- 1241
- 1242
- 1243
- 1244
- 1245
- 1246
- 1247
- 1248
- 1249
- 1250
- 1251
- 1252
- 1253
- 1254
- 1255
- 1256
- 1257
- 1258
- 1259
- 1260
- 1261
- 1262
- 1263
- 1264
- 1265
- 1266
- 1267
- 1268
- 1269
- 1270
- 1271
- 1272
- 1273
- 1274
- 1275
- 1276
- 1277
- 1278
- 1279
- 1280
- 1281
- 1282
- 1283
- 1284
- 1285
- 1286
- 1287
- 1288
- 1289
- 1290
- 1291
- 1292
- 1293
- 1294
- 1295
- 1296
- 1297
- 1298
- 1299
- 1300
- 1301
- 1302
- 1303
- 1304
- 1305
- 1306
- 1307
- 1308
- 1309
- 1310
- 1311
- 1312
- 1313
- 1314
- 1315
- 1316
- 1317
- 1318
- 1319
- 1320
- 1321
- 1322
- 1323
- 1324
- 1325
- 1326
- 1327
- 1328
- 1329
- 1330
- 1331
- 1332
- 1333
- 1334
- 1335
- 1336
- 1337
- 1338
- 1339
- 1340
- 1341
- 1342
- 1343
- 1344
- 1345
- 1346
- 1347
- 1348
- 1349
- 1350
- 1351
- 1352
- 1353
- 1354
- 1355
- 1356
- 1357
- 1358
- 1359
- 1360
- 1361
- 1362
- 1363
- 1364
- 1365
- 1366
- 1367
- 1368
- 1369
- 1370
- 1371
- 1372
- 1373
- 1374
- 1375
- 1376
- 1377
- 1378
- 1379
- 1380
- 1381
- 1382
- 1383
- 1384
- 1385
- 1386
- 1387
- 1388
- 1389
- 1390
- 1391
- 1392
- 1393
- 1394
- 1395
- 1396
- 1397
- 1398
- 1399
- 1400
- 1401
- 1402
- 1403
- 1404
- 1405
- 1406
- 1407
- 1408
- 1409
- 1410
- 1411
- 1412
- 1413
- 1414
- 1415
- 1416
- 1417
- 1418
- 1419
- 1420
- 1421
- 1422
- 1423
- 1424
- 1425
- 1426
- 1427
- 1428
- 1429
- 1430
- 1431
- 1432
- 1433
- 1434
- 1435
- 1436
- 1437
- 1438
- 1439
- 1440
- 1441
- 1442
- 1443
- 1444
- 1445
- 1446
- 1447
- 1448
- 1449
- 1450
- 1451
- 1452
- 1453
- 1454
- 1455
- 1456
- 1457
- 1458
- 1459
- 1460
- 1461
- 1462
- 1463
- 1464
- 1465
- 1466
- 1467
- 1468
- 1469
- 1470
- 1471
- 1472
- 1473
- 1474
- 1475
- 1476
- 1477
- 1478
- 1479
- 1480
- 1481
- 1482
- 1483
- 1484
- 1485
- 1486
- 1487
- 1488
- 1489
- 1490
- 1491
- 1492
- 1493
- 1494
- 1495
- 1496
- 1497
- 1498
- 1499
- 1500
- 1501
- 1502
- 1503
- 1504
- 1505
- 1506
- 1507
- 1508
- 1509
- 1510
- 1511
- 1512
- 1513
- 1514
- 1515
- 1516
- 1517
- 1518
- 1519
- 1520
- 1521
- 1522
- 1523
- 1524
- 1525
- 1526
- 1527
- 1528
- 1529
- 1530
- 1531
- 1532
- 1533
- 1534
- 1535
- 1536
- 1537
- 1538
- 1539
- 1540
- 1541
- 1542
- 1543
- 1544
- 1545
- 1546
- 1547
- 1548
- 1549
- 1550
- 1551
- 1552
- 1553
- 1554
- 1555
- 1556
- 1557
- 1558
- 1559
- 1560
- 1561
- 1562
- 1563
- 1564
- 1565
- 1566
- 1567
- 1568
- 1569
- 1570
- 1571
- 1572
- 1573
- 1574
- 1575
- 1576
- 1577
- 1578
- 1579
- 1580
- 1581
- 1582
- 1583
- 1584
- 1585
- 1586
- 1587
- 1588
- 1589
- 1590
- 1591
- 1592
- 1593
- 1594
- 1595
- 1596
- 1597
- 1598
- 1599
- 1600
- 1601
- 1602
- 1603
- 1604
- 1605
- 1606
- 1607
- 1608
- 1609
- 1610
- 1611
- 1612
- 1613
- 1614
- 1615
- 1616
- 1617
- 1618
- 1619
- 1620
- 1621
- 1622
- 1623
- 1624
- 1625
- 1626
- 1627
- 1628
- 1629
- 1630
- 1631
- 1632
- 1633
- 1634
- 1635
- 1636
- 1637
- 1638
- 1639
- 1640
- 1641
- 1642
- 1643
- 1644
- 1645
- 1646
- 1647
- 1648
- 1649
- 1650
- 1651
- 1652
- 1653
- 1654
- 1655
- 1656
- 1657
- 1658
- 1659
- 1660
- 1661
- 1662
- 1663
- 1664
- 1665
- 1666
- 1667
- 1668
- 1669
- 1670
- 1671
- 1672
- 1673
- 1674
- 1675
- 1676
- 1677
- 1678
- 1679
- 1680
- 1681
- 1682
- 1683
- 1684
- 1685
- 1686
- 1687
- 1688
- 1689
- 1690
- 1691
- 1692
- 1693
- 1694
- 1695
- 1696
- 1697
- 1698
- 1699
- 1700
- 1701
- 1702
- 1703
- 1704
- 1705
- 1706
- 1707
- 1708
- 1709
- 1710
- 1711
- 1712
- 1713
- 1714
- 1715
- 1716
- 1717
- 1718
- 1719
- 1720
- 1721
- 1722
- 1723
- 1724
- 1725
- 1726
- 1727
- 1728
- 1729
- 1730
- 1731
- 1732
- 1733
- 1734
- 1735
- 1736
- 1737
- 1738
- 1739
- 1740
- 1741
- 1742
- 1743
- 1744
- 1745
- 1746
- 1747
- 1748
- 1749
- 1750
- 1751
- 1752
- 1753
- 1754
- 1755
- 1756
- 1757
- 1758
- 1759
- 1760
- 1761
- 1762
- 1763
- 1764
- 1765
- 1766
- 1767
- 1768
- 1769
- 1770
- 1771
- 1772
- 1773
- 1774
- 1775
- 1776
- 1777
- 1778
- 1779
- 1780
- 1781
- 1782
- 1783
- 1784
- 1785
- 1786
- 1787
- 1788
- 1789
- 1790
- 1791
- 1792
- 1793
- 1794
- 1795
- 1796
- 1797
- 1798
- 1799
- 1800
- 1801
- 1802
- 1803
- 1804
- 1805
- 1806
- 1807
- 1808
- 1809
- 1810
- 1811
- 1812
- 1813
- 1814
- 1815
- 1816
- 1817
- 1818
- 1819
- 1820
- 1821
- 1822
- 1823
- 1824
- 1825
- 1826
- 1827
- 1828
- 1829
- 1830
- 1831
- 1832
- 1833
- 1834
- 1835
- 1836
- 1837
- 1838
- 1839
- 1840
- 1841
- 1842
- 1843
- 1844
- 1845
- 1846
- 1847
- 1848
- 1849
- 1850
- 1851
- 1852
- 1853
- 1854
- 1855
- 1856
- 1857
- 1858
- 1859
- 1860
- 1861
- 1862
- 1863
- 1864
- 1865
- 1866
- 1867
- 1868
- 1869
- 1870
- 1871
- 1872
- 1873
- 1874
- 1875
- 1876
- 1877
- 1878
- 1879
- 1880
- 1881
- 1882
- 1883
- 1884
- 1885
- 1886
- 1887
- 1888
- 1889
- 1890
- 1891
- 1892
- 1893
- 1894
- 1895
- 1896
- 1897
- 1898
- 1899
- 1900
- 1901
- 1902
- 1903
- 1904
- 1905
- 1906
- 1907
- 1908
- 1909
- 1910
- 1911
- 1912
- 1913
- 1914
- 1915
- 1916
- 1917
- 1918
- 1919
- 1920
- 1921
- 1922
- 1923
- 1924
- 1925
- 1926
- 1927
- 1928
- 1929
- 1930
- 1931
- 1932
- 1933
- 1934
- 1935
- 1936
- 1937
- 1938
- 1939
- 1940
- 1941
- 1942
- 1943
- 1944
- 1945
- 1946
- 1947
- 1948
- 1949
- 1950
- 1951
- 1952
- 1953
- 1954
- 1955
- 1956
- 1957
- 1958
- 1959
- 1960
- 1961
- 1962
- 1963
- 1964
- 1965
- 1966
- 1967
- 1968
- 1969
- 1970
- 1971
- 1972
- 1973
- 1974
- 1975
- 1976
- 1977
- 1978
- 1979
- 1980
- 1981
- 1982
- 1983
- 1984
- 1985
- 1986
- 1987
- 1988
- 1989
- 1990
- 1991
- 1992
- 1993
- 1994
- 1995
- 1996
- 1997
- 1998
- 1999
- 2000
- 2001
- 2002
- 2003
- 2004
- 2005
- 2006
- 2007
- 2008
- 2009
- 2010
- 2011
- 2012
- 2013
- 2014
- 2015
- 2016
- 2017
- 2018
- 2019
- 2020
- 2021
- 2022
- 2023
- 2024
- 2025
- 2026
- 2027
- 2028
- 2029
- 2030
- 2031
- 2032
- 2033
- 2034
- 2035
- 2036
- 2037
- 2038
- 2039
- 2040
- 2041
- 2042
- 2043
- 2044
- 2045
- 2046
- 2047
- 2048
- 2049
- 2050
- 2051
- 2052
- 2053
- 2054
- 2055
- 2056
- 2057
- 2058
- 2059
- 2060
- 2061
- 2062
- 2063
- 2064
- 2065
- 2066
- 2067
- 2068
- 2069
- 2070
- 2071
- 2072
- 2073
- 2074
- 2075
- 2076
- 2077
- 2078
- 2079
- 2080
- 2081
- 2082
- 2083
- 2084
- 2085
- 2086
- 2087
- 2088
- 2089
- 2090
- 2091
- 2092
- 2093
- 2094
- 2095
- 2096
- 2097
- 2098
- 2099
- 2100
- 2101
- 2102
- 2103
- 2104
- 2105
- 2106
- 2107
- 2108
- 2109
- 2110
- 2111
- 2112
- 2113
- 2114
- 2115
- 2116
- 2117
- 2118
- 2119
- 2120
- 2121
- 2122
- 2123
- 2124
- 2125
- 2126
- 2127
- 2128
- 2129
- 2130
- 2131
- 2132
- 2133
- 2134
- 2135
- 2136
- 2137
- 2138
- 2139
- 2140
- 2141
- 2142
- 2143
- 2144
- 2145
- 2146
- 2147
- 2148
- 2149
- 2150
- 2151
- 2152
- 2153
- 2154
- 2155
- 2156
- 2157
- 2158
- 2159
- 2160
- 2161
- 2162
- 2163
- 2164
- 2165
- 2166
- 2167
- 2168
- 2169
- 2170
- 2171
- 2172
- 2173
- 2174
- 2175
- 2176
- 2177
- 2178
- 2179
- 2180
- 2181
- 2182
- 2183
- 2184
- 2185
- 2186
- 2187
- 2188
- 2189
- 2190
- 2191
- 2192
- 2193
- 2194
- 2195
- 2196
- 2197
- 2198
- 2199
- 2200
- 2201
- 2202
- 2203
- 2204
- 2205
- 2206
- 2207
- 2208
- 2209
- 2210
- 2211
- 2212
- 2213
- 2214
- 2215
- 2216
- 2217
- 2218
- 2219
- 2220
- 2221
- 2222
- 2223
- 2224
- 2225
- 2226
- 2227
- 2228
- 2229
- 2230
- 2231
- 2232
- 2233
- 2234
- 2235
- 2236
- 2237
- 2238
- 2239
- 2240
- 2241
- 2242
- 2243
- 2244
- 2245
- 2246
- 2247
- 2248
- 2249
- 2250
- 2251
- 2252
- 2253
- 2254
- 2255
- 2256
- 2257
- 2258
- 2259
- 2260
- 2261
- 2262
- 2263
- 2264
- 2265
- 2266
- 2267
- 2268
- 2269
- 2270
- 2271
- 2272
- 2273
- 2274
- 2275
- 2276
- 2277
- 2278
- 2279
- 2280
- 2281
- 2282
- 2283
- 2284
- 2285
- 2286
- 2287
- 2288
- 2289
- 2290
- 2291
- 2292
- 2293
- 2294
- 2295
- 2296
- 2297
- 2298
- 2299
- 2300
- 2301
- 2302
- 2303
- 2304
- 2305
- 2306
- 2307
- 2308
- 2309
- 2310
- 2311
- 2312
- 2313
- 2314
- 2315
- 2316
- 2317
- 2318
- 2319
- 2320
- 2321
- 2322
- 2323
- 2324
- 2325
- 2326
- 2327
- 2328
- 2329
- 2330
- 2331
- 2332
- 2333
- 2334
- 2335
- 2336
- 2337
- 2338
- 2339
- 2340
- 2341
- 2342
- 2343
- 2344
- 2345
- 2346
- 2347
- 2348
- 2349
- 2350
- 2351
- 2352
- 2353
- 2354
- 2355
- 2356
- 2357
- 2358
- 2359
- 2360
- 2361
- 2362
- 2363
- 2364
- 2365
- 2366
- 2367
- 2368
- 2369
- 2370
- 2371
- 2372
- 2373
- 2374
- 2375
- 2376
- 2377
- 2378
- 2379
- 2380
- 2381
- 2382
- 2383
- 2384
- 2385
- 2386
- 2387
- 2388
- 2389
- 2390
- 2391
- 2392
- 2393
- 2394
- 2395
- 2396
- 2397
- 2398
- 2399
- 2400
- 2401
- 2402
- 2403
- 2404
- 2405
- 2406
- 2407
- 2408
- 2409
- 2410
- 2411
- 2412
- 2413
- 2414
- 2415
- 2416
- 2417
- 2418
- 2419
- 2420
- 2421
- 2422
- 2423
- 2424
- 2425
- 2426
- 2427
- 2428
- 2429
- 2430
- 2431
- 2432
- 2433
- 2434
- 2435
- 2436
- 2437
- 2438
- 2439
- 2440
- 2441
- 2442
- 2443
- 2444
- 2445
- 2446
- 2447
- 2448
- 2449
- 2450
- 2451
- 2452
- 2453
- 2454
- 2455
- 2456
- 2457
- 2458
- 2459
- 2460
- 2461
- 2462
- 2463
- 2464
- 2465
- 2466
- 2467
- 2468
- 2469
- 2470
- 2471
- 2472
- 2473
- 2474
- 2475
- 2476
- 2477
- 2478
- 2479
- 2480
- 2481
- 2482
- 2483
- 2484
- 2485
- 2486
- 2487
- 2488
- 2489
- 2490
- 2491
- 2492
- 2493
- 2494
- 2495
- 2496
- 2497
- 2498
- 2499
- 2500
- 2501
- 2502
- 2503
- 2504
- 2505
- 2506
- 2507
- 2508
- 2509
- 2510
- 2511
- 2512
- 2513
- 2514
- 2515
- 2516
- 2517
- 2518
- 2519
- 2520
- 2521
- 2522
- 2523
- 2524
- 2525
- 2526
- 2527
- 2528
- 2529
- 2530
- 2531
- 2532
- 2533
- 2534
- 2535
- 2536
- 2537
- 2538
- 2539
- 2540
- 2541
- 2542
- 2543
- 2544
- 2545
- 2546
- 2547
- 2548
- 2549
- 2550
- 2551
- 2552
- 2553
- 2554
- 2555
- 2556
- 2557
- 2558
- 2559
- 2560
- 2561
- 2562
- 2563
- 2564
- 2565
- 2566
- 2567
- 2568
- 2569
- 2570
- 2571
- 2572
- 2573
- 2574
- 2575
- 2576
- 2577
- 2578
- 2579
- 2580
- 2581
- 2582
- 2583
- 2584
- 2585
- 2586
- 2587
- 2588
- 2589
- 2590
- 2591
- 2592
- 2593
- 2594
- 2595
- 2596
- 2597
- 2598
- 2599
- 2600
- 2601
- 2602
- 2603
- 2604
- 2605
- 2606
- 2607
- 2608
- 2609
- 2610
- 2611
- 2612
- 2613
- 2614
- 2615
- 2616
- 2617
- 2618
- 2619
- 2620
- 2621
- 2622
- 2623
- 2624
- 2625
- 2626
- 2627
- 2628
- 2629
- 2630
- 2631
- 2632
- 2633
- 2634
- 2635
- 2636
- 2637
- 2638
- 2639
- 2640
- 2641
- 2642
- 2643
- 2644
- 2645
- 2646
- 2647
- 2648
- 2649
- 2650
- 2651
- 2652
- 2653
- 2654
- 2655
- 2656
- 2657
- 2658
- 2659
- 2660
- 2661
- 2662
- 2663
- 2664
- 2665
- 2666
- 2667
- 2668
- 2669
- 2670
- 2671
- 2672
- 2673
- 2674
- 2675
- 2676
- 2677
- 2678
- 2679
- 2680
- 2681
- 2682
- 2683
- 2684
- 2685
- 2686
- 2687
- 2688
- 2689
- 2690
- 2691
- 2692
- 2693
- 2694
- 2695
- 2696
- 2697
- 2698
- 2699
- 2700
- 2701
- 2702
- 2703
- 2704
- 2705
- 2706
- 2707
- 2708
- 2709
- 2710
- 2711
- 2712
- 2713
- 2714
- 2715
- 2716
- 2717
- 2718
- 2719
- 2720
- 2721
- 2722
- 2723
- 2724
- 2725
- 2726
- 2727
- 2728
- 2729
- 2730
- 2731
- 2732
- 2733
- 2734
- 2735
- 2736
- 2737
- 2738
- 2739
- 2740
- 2741
- 2742
- 2743
- 2744
- 2745
- 2746
- 2747
- 2748
- 2749
- 2750
- 2751
- 2752
- 2753
- 2754
- 2755
- 2756
- 2757
- 2758
- 2759
- 2760
- 2761
- 2762
- 2763
- 2764
- 2765
- 2766
- 2767
- 2768
- 2769
- 2770
- 2771
- 2772
- 2773
- 2774
- 2775
- 2776
- 2777
- 2778
- 2779
- 2780
- 2781
- 2782
- 2783
- 2784
- 2785
- 2786
- 2787
- 2788
- 2789
- 2790
- 2791
- 2792
- 2793
- 2794
- 2795
- 2796
- 2797
- 2798
- 2799
- 2800
- 2801
- 2802
- 2803
- 2804
- 2805
- 2806
- 2807
- 2808
- 2809
- 2810
- 2811
- 2812
- 2813
- 2814
- 2815
- 2816
- 2817
- 2818
- 2819
- 2820
- 2821
- 2822
- 2823
- 2824
- 2825
- 2826
- 2827
- 2828
- 2829
- 2830
- 2831
- 2832
- 2833
- 2834
- 2835
- 2836
- 2837
- 2838
- 2839
- 2840
- 2841
- 2842
- 2843
- 2844
- 2845
- 2846
- 2847
- 2848
- 2849
- 2850
- 2851
- 2852
- 2853
- 2854
- 2855
- 2856
- 2857
- 2858
- 2859
- 2860
- 2861
- 2862
- 2863
- 2864
- 2865
- 2866
- 2867
- 2868
- 2869
- 2870
- 2871
- 2872
- 2873
- 2874
- 2875
- 2876
- 2877
- 2878
- 2879
- 2880
- 2881
- 2882
- 2883
- 2884
- 2885
- 2886
- 2887
- 2888
- 2889
- 2890
- 2891
- 2892
- 2893
- 2894
- 2895
- 2896
- 2897
- 2898
- 2899
- 2900
- 2901
- 2902
- 2903
- 2904
- 2905
- 2906
- 2907
- 2908
- 2909
- 2910
- 2911
- 2912
- 2913
- 2914
- 2915
- 2916
- 2917
- 2918
- 2919
- 2920
- 2921
- 2922
- 2923
- 2924
- 2925
- 2926
- 2927
- 2928
- 2929
- 2930
- 2931
- 2932
- 2933
- 2934
- 2935
- 2936
- 2937
- 2938
- 2939
- 2940
- 2941
- 2942
- 2943
- 2944
- 2945
- 2946
- 2947
- 2948
- 2949
- 2950
- 2951
- 2952
- 2953
- 2954
- 2955
- 2956
- 2957
- 2958
- 2959
- 2960
- 2961
- 2962
- 2963
- 2964
- 2965
- 2966
- 2967
- 2968
- 2969
- 2970
- 2971
- 2972
- 2973
- 2974
- 2975
- 2976
- 2977
- 2978
- 2979
- 2980
- 2981
- 2982
- 2983
- 2984
- 2985
- 2986
- 2987
- 2988
- 2989
- 2990
- 2991
- 2992
- 2993
- 2994
- 2995
- 2996
- 2997
- 2998
- 2999
- 3000
- 3001
- 3002
- 3003
- 3004
- 3005
- 3006
- 3007
- 3008
- 3009
- 3010
- 3011
- 3012
- 3013
- 3014
- 3015
- 3016
- 3017
- 3018
- 3019
- 3020
- 3021
- 3022
- 3023
- 3024
- 3025
- 3026
- 3027
- 3028
- 3029
- 3030
- 3031
- 3032
- 3033
- 3034
- 3035
- 3036
- 3037
- 3038
- 3039
- 3040
- 3041
- 3042
- 3043
- 3044
- 3045
- 3046
- 3047
- 3048
- 3049
- 3050
- 3051
- 3052
- 3053
- 3054
- 3055
- 3056
- 3057
- 3058
- 3059
- 3060
- 3061
- 3062
- 3063
- 3064
- 3065
- 3066
- 3067
- 3068
- 3069
- 3070
- 3071
- 3072
- 3073
- 3074
- 3075
- 3076
- 3077
- 3078
- 3079
- 3080
- 3081
- 3082
- 3083
- 3084
- 3085
- 3086
- 3087
- 3088
- 3089
- 3090
- 3091
- 3092
- 3093
- 3094
- 3095
- 3096
- 3097
- 3098
- 3099
- 3100
- 3101
- 3102
- 3103
- 3104
- 3105
- 3106
- 3107
- 3108
- 3109
- 3110
- 3111
- 3112
- 3113
- 3114
- 3115
- 3116
- 3117
- 3118
- 3119
- 3120
- 3121
- 3122
- 3123
- 3124
- 3125
- 3126
- 3127
- 3128
- 3129
- 3130
- 3131
- 3132
- 3133
- 3134
- 3135
- 3136
- 3137
- 3138
- 3139
- 3140
- 3141
- 3142
- 3143
- 3144
- 3145
- 3146
- 3147
- 3148
- 3149
- 3150
- 3151
- 3152
- 3153
- 3154
- 3155
- 3156
- 3157
- 3158
- 3159
- 3160
- 3161
- 3162
- 3163
- 3164
- 3165
- 3166
- 3167
- 3168
- 3169
- 3170
- 3171
- 3172
- 3173
- 3174
- 3175
- 3176
- 3177
- 3178
- 3179
- 3180
- 3181
- 3182
- 3183
- 3184
- 3185
- 3186
- 3187
- 3188
- 3189
- 3190
- 3191
- 3192
- 3193
- 3194
- 3195
- 3196
- 3197
- 3198
- 3199
- 3200
- 3201
- 3202
- 3203
- 3204
- 3205
- 3206
- 3207
- 3208
- 3209
- 3210
- 3211
- 3212
- 3213
- 3214
- 3215
- 3216
- 3217
- 3218
- 3219
- 3220
- 3221
- 3222
- 3223
- 3224
- 3225
- 3226
- 3227
- 3228
- 3229
- 3230
- 3231
- 3232
- 3233
- 3234
- 3235
- 3236
- 3237
- 3238
- 3239
- 3240
- 3241
- 3242
- 3243
- 3244
- 3245
- 3246
- 3247
- 3248
- 3249
- 3250
- 3251
- 3252
- 3253
- 3254
- 3255
- 3256
- 3257
- 3258
- 3259
- 3260
- 3261
- 3262
- 3263
- 3264
- 3265
- 3266
- 3267
- 3268
- 3269
- 3270
- 3271
- 3272
- 3273
- 3274
- 3275
- 3276
- 3277
- 3278
- 3279
- 3280
- 3281
- 3282
- 3283
- 3284
- 3285
- 3286
- 3287
- 3288
- 3289
- 3290
- 3291
- 3292
- 3293
- 3294
- 3295
- 3296
- 3297
- 3298
- 3299
- 3300
- 3301
- 3302
- 3303
- 3304
- 3305
- 3306
- 3307
- 3308
- 3309
- 3310
- 3311
- 3312
- 3313
- 3314
- 3315
- 3316
- 3317
- 3318
- 3319
- 3320
- 3321
- 3322
- 3323
- 3324
- 3325
- 3326
- 3327
- 3328
- 3329
- 3330
- 3331
- 3332
- 3333
- 3333
推荐文章