检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
性能测试服务测试时申请的带宽大小对测试有什么影响? 用户压测的请求和响应的模型不一样,所需带宽也不一样。 例如5000TPS,每个请求包大小是1KB,那么总的上行带宽是5000KB,下行带宽也是一样的估算方式。 对于带宽的限制是限制上行带宽,因此POST/PUT等带Body的请求会比较消耗带宽资源。
创建测试事件 功能介绍 创建测试事件 调用方法 请参见如何调用API。 URI POST /v2/{project_id}/fgs/functions/{function_urn}/events 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String
管理JMeter测试计划 创建测试计划 测试计划是指基于已定义的JMeter文件和依赖的jar包和变量文件发起一次性能测试的活动。 登录性能测试服务控制台,在左侧导航栏中选择“JMeter测试工程”,单击待操作工程后的。 在“测试计划”页签中,单击“创建测试计划”。 在弹出的窗口中单击“添加文件”,选择格式为*
平台介绍 一站式开发平台,包括训练云、调试云和应用云(即好望商城),帮助开发者进行算法开发和调试,加快算法上线。 训练云:即ModelArts平台,提供全自动和半自动的算法训练和模型开发。 调试云:包含模型转换、打包和调试,供开发者进行算法APP基本功能验证。 应用云:即好望商城,算法APP上线发布和交易平台。
高级配置 操作步骤 登录性能测试服务控制台,在左侧导航栏中选择“PerfTest测试工程”。 在待编辑PerfTest测试工程所在行,单击工程名称进入测试工程详情页面。 选择“测试用例”页签,在左侧“用例列表”下选择待配置的测试用例。 选择页面右侧的“高级配置”。 设置执行器:执
推理精度测试 本章节介绍如何进行推理精度测试,数据集是ceval_gen、mmlu_gen。 前提条件 确保容器可以访问公网。 Step1 配置精度测试环境 获取精度测试代码。精度测试代码存放在代码包AscendCloud-LLM的llm_tools/llm_evaluation目录中,代码目录结构如下。
推理精度测试 本章节介绍如何进行推理精度测试,数据集是ceval_gen、mmlu_gen、math_gen、gsm8k_gen、humaneval_gen。 前提条件 确保容器可以访问公网。 Step1 配置精度测试环境 获取精度测试代码。精度测试代码存放在代码包AscendC
查看测试报告 操作步骤 登录性能测试服务控制台,选择左侧导航栏的“PerfTest测试工程”。 在PerfTest测试工程所在行,单击测试工程名称,例如前面创建的测试工程“Web-test”,进入测试工程详情页面。 在“测试任务”页签,选择测试任务,如前面创建的测试任务“taskA”,单击操作栏的。
推理精度测试 本章节介绍两个精度测评工具。如何使用opencompass工具开展语言模型的推理精度测试,数据集是ceval_gen、mmlu_gen、math_gen、gsm8k_gen、humaneval_gen;以及使用lm-eval工具开展语言模型的推理精度测试,数据集包含
推理精度测试 本章节介绍两个精度测评工具。如何使用opencompass工具开展语言模型的推理精度测试,数据集是ceval_gen、mmlu_gen、math_gen、gsm8k_gen、humaneval_gen;以及使用lm-eval工具开展语言模型的推理精度测试,数据集包含
推理精度测试 本章节介绍如何使用lm-eval工具开展语言模型的推理精度测试,数据集包含mmlu、ARC_Challenge、GSM_8k、Hellaswag、Winogrande、TruthfulQA等。 约束限制 确保容器可以访问公网。 当前的精度测试仅适用于语言模型精度验证
查看离线测试报告 压测结束后,系统会生成离线测试结果报告。 前提条件 测试任务已结束。 操作步骤 登录性能测试服务控制台,在左侧导航栏中选择“PerfTest测试工程”,单击待操作工程后的。 在“性能报告”页签下,选择需要查看报告的任务。 单击“任务名称”,或单击操作栏的,在左侧
推理精度测试 本章节介绍如何使用opencompass工具开展语言模型的推理精度测试,数据集是ceval_gen、mmlu_gen、math_gen、gsm8k_gen、humaneval_gen。 约束限制 确保容器可以访问公网。 当前的精度测试仅适用于语言模型精度验证,不适用
配置测试用例(可扩展测试工程) 填写用例详情 配置用例步骤 添加测试步骤 压力配置 高级配置 SLA配置 关键字库管理 父主题: PerfTest测试用例管理
查看实时测试报告 压测过程中,可以通过实时测试报告查看压测过程中各项指标的监控数据。 前提条件 测试任务已启动。 操作步骤 登录性能测试服务控制台,在左侧导航栏中选择“PerfTest测试工程”,单击待操作工程后的。 在“性能报告”页签下选择需要查看测试报告的任务,此任务需正在执行中。
管理JMeter测试报告 测试报告说明 JMeter测试报告提供实时、离线两种类型的测试报告,供用户随时查看和分析测试数据。 JMeter测试报告说明如表1所示。 测试报告展现了测试过程中被测系统在模拟高并发用户的响应性能,为了更好阅读测试报告,请参考以下信息: 统计维度:测试报告的RP
推理精度测试 本章节介绍如何进行推理精度测试。 前提条件 确保容器可以访问公网。 Step1 配置精度测试环境 获取精度测试代码。精度测试代码存放在代码包AscendCloud-3rdLLM-xxx.zip的llm_tools/llm_evaluation(6.3.905版本)目
全局变量概述(高性能测试工程) 全局变量用于构造数据集合,使测试数据更加丰富。 在报文事务请求信息的报文内容中引用全局变量,执行压测任务过程会将报文内容中的变量值动态替换为指定的值。 全局变量适用于很多场景,例如需要用户名密码的业务,需要使用不同的用户名以及对应密码模拟多用户场景进行压测。
推理精度测试 本章节介绍如何进行推理精度测试,数据集是ceval_gen、mmlu_gen、math_gen、gsm8k_gen、humaneval_gen。 前提条件 确保容器可以访问公网。 Step1 配置精度测试环境 获取精度测试代码。精度测试代码存放在代码包AscendC
创建测试任务 操作步骤 登录性能测试服务控制台,选择左侧导航栏的“PerfTest测试工程”。 在PerfTest测试工程所在行,单击测试工程名称,例如前面创建的测试工程“Web-test”,进入测试工程详情页面。 选择“测试任务”页签,单击“创建任务”。 输入任务名称,例如“taskA”,选择执行方式。