检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
AscendCloud-LLM的llm_tools/llm_evaluation目录中，代码目录结构如下。目前使用的opencompass版本是0.2.6。 benchmark_eval ├──opencompass.sh #运行opencompass脚本 ├──install
作。 如果勾选了“同时删除OBS源文件”，删除图片操作将删除对应OBS目录下存储的图片，此操作可能会影响已使用此源文件的其他数据集或数据集版本，有可能导致展示异常或训练/推理异常。删除后，数据将无法恢复，请谨慎操作。 父主题： 通过人工标注方式标注数据
AscendCloud-LLM的llm_tools/llm_evaluation目录中，代码目录结构如下。目前使用的opencompass版本是0.2.6 benchmark_eval ├──opencompass.sh #运行opencompass脚本 ├──install
AscendCloud-LLM的llm_tools/llm_evaluation目录中，代码目录结构如下。目前使用的opencompass版本是0.2.6 benchmark_eval ├──opencompass.sh #运行opencompass脚本 ├──install
Notebook鉴权使用的token信息。 url String 实例访问的URL。 volume VolumeRes object 实例存储信息。 workspace_id String 工作空间ID。未创建工作空间时默认值为“0”，存在创建并使用的工作空间，以实际取值为准。 feature String
Notebook鉴权使用的token信息。 url String 实例访问的URL。 volume VolumeRes object 实例存储信息。 workspace_id String 工作空间ID。未创建工作空间时默认值为“0”，存在创建并使用的工作空间，以实际取值为准。 feature String
配置后重启推理服务生效。 Matmul_all_reduce融合算子 使用Matmul_all_reduce融合算子能提升全量推理性能，该算子对驱动和固件版本要求较高，默认不开启。如需开启，配置以下环境变量。 export USE_MM_ALL_REDUCE_OP=1 关闭Matmul_all_reduce融合算子的命令：
Notebook鉴权使用的token信息。 url String 实例访问的URL。 volume VolumeRes object 实例存储信息。 workspace_id String 工作空间ID。未创建工作空间时默认值为“0”，存在创建并使用的工作空间，以实际取值为准。 feature String
Notebook鉴权使用的token信息。 url String 实例访问的URL。 volume VolumeRes object 实例存储信息。 workspace_id String 工作空间ID。未创建工作空间时默认值为“0”，存在创建并使用的工作空间，以实际取值为准。 feature String
e_encoder模型为例，在pipeline代码中查找vae_encoder推理调用的地方，然后修改为对应的MindSpore Lite版本的推理接口模型。 使用MindSpore Lite Runtime接口替换onnx Runtime接口。 # pipeline_onnx_
ndError: No module named 'multipart'"关键字异常，可更新python-multipart为0.0.12版本，具体请参考6-问题6：No module named 'multipart'"报错： 。 父主题： 主流开源大模型基于DevServer适配LlamaFactory
兆字节（Megabytes） NA NA NA NPU整体利用率 ma_container_npu_general_util 昇腾系列AI处理器NPU整体利用率（驱动版本24.1.RC2及其以后支持) 百分比（Percent） 0～100% NA NA NA AI处理器 AI处理器错误码 ma_contai
DPO偏好训练、Reward奖励模型训练、PPO强化学习目前仅限制支持llama3系列。 PPO训练暂不支持llama3-70B，存在已知的内存OOM问题，待社区版本修复。 训练策略类型 全参full，配置如下： finetuning_type: full lora，如dpo仅支持此策略；配置如下： finetuning_type:
查询AI应用详情，根据AI应用ID查询AI应用的详细信息。 删除AI应用 删除AI应用，根据AI应用ID删除指定AI应用，可以级联删除该AI应用下的所有版本。 APP认证管理接口 表11 APP认证管理接口 API 说明 获取APP列表 获取APIG APP基本信息列表，用户只能获取自己创建的APP信息。
用户项目ID。获取方法请参见获取项目ID和名称。 workflow_id 是 String 工作流的ID。 表2 Query参数 参数 是否必选 参数类型 描述 workspace_id 否 String 工作空间ID。获取方法请参见查询工作空间列表。未创建工作空间时默认值为“0”，存在创建并使用的工作空间，以实际取值为准。
AscendCloud-LLM的llm_tools/llm_evaluation目录中，代码目录结构如下。目前使用的opencompass版本是0.2.6 benchmark_eval ├──opencompass.sh #运行opencompass脚本 ├──install
search_content 否 String 指定要查询的文字信息，例如可视化作业名字，默认为空，字符串的长度为[0，64]。 workspace_id 否 String 指定作业所处的工作空间，默认值为“0”。 请求消息 无请求参数。 响应消息 响应参数如表3所示。 表3 响应参数
content_id 是 String AI Gallery中数据集资产的ID。 version_id 是 String AI Gallery中数据集资产的版本ID。 表4 AnnotationConfig参数 参数 是否必选 参数类型 描述 scene 是 String 支持的标注格式场景，可选值如下：
AscendCloud-LLM的llm_tools/llm_evaluation目录中，代码目录结构如下。目前使用的opencompass版本是0.2.6 benchmark_eval ├──opencompass.sh #运行opencompass脚本 ├──install
app_name：应用名称。 created_at：应用创建时间。 updated_at：应用更新时间。 默认为app_name。 workspace_id 否 String 工作空间ID。获取方法请参见查询工作空间列表。未创建工作空间时默认值为“0”，存在创建并使用的工作空间，以实际取值为准。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
