检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
可通过编辑 1_preprocess_data.sh 、2_convert_mg_hf.sh 中的具体python指令运行。本代码中有许多环境变量的设置，在下面的指导步骤中，会展开进行详细的解释。 若用户希望自定义参数进行训练，可直接编辑对应模型的训练脚本，可编辑参数以及详细介绍如下。以
置。 --num-requests：输出数据集的数量，可以根据实际需求设置。 进入benchmark_tools目录下，切换一个conda环境。 cd benchmark_tools conda activate python-3.9.10 执行脚本benchmark_serving
取值可以为自定义的任何值，其中label为参数名称，value为参数值，该样例请参考请求示例；当为自定义镜像训练作业的时候，此参数为容器环境变量。详细请参见表8。 data_url 否 String 训练作业需要的数据集OBS路径URL，默认为空。如：“/usr/data/”。
支持FP16和BF16数据类型推理。 适配的CANN版本是cann_8.0.rc3。 Server驱动版本要求23.0.6。 资源规格要求 本文档中的模型运行环境是ModelArts Lite的Server。推荐使用“西南-贵阳一”Region上的资源和Ascend Snt9B。 如果使用Server资源，请参考Lite
置。 --num-requests：输出数据集的数量，可以根据实际需求设置。 进入benchmark_tools目录下，切换一个conda环境。 cd benchmark_tools conda activate python-3.9.10 执行脚本benchmark_serving
/MBS的值能够被NPU/(TP×PP×CP)的值进行整除。 Step4 开启训练故障自动重启功能 创建训练作业时，可开启自动重启功能。当环境问题导致训练作业异常时，系统将自动修复异常或隔离节点，并重启训练作业，提高训练成功率。为了避免丢失训练进度、浪费算力。此功能已适配断点续训练。
建和管理等。一般用户选择此项即可。 如何获取访问密钥AK/SK？ 如果在其他功能（例如PyCharmtoolKit/VSCode登录，访问在线服务等）中使用到访问密钥AK/SK认证，获取AK/SK方式请参考如何获取访问密钥章节。 如何删除已有委托列表下面的委托名称？ 图8 已有委托
description 否 String 模型备注信息，1-100位长度，不能包含&!'"<>=。公共参数 runtime 否 String 模型运行时环境，runtime可选值与model_type相关，详细见推理支持的常用引擎及其Runtime。 model_metrics 否 String
支持FP16和BF16数据类型推理。 适配的CANN版本是cann_8.0.rc3。 Server驱动版本要求23.0.6。 资源规格要求 本文档中的模型运行环境是ModelArts Lite的Server。推荐使用“西南-贵阳一”Region上的资源和Ascend Snt9B。 如果使用Server资源，请参考Lite
dataset：数据集 obs：OBS swr：SWR model_list：AI应用列表 label_task：标注任务 service：在线服务 conditions Array of Constraint objects 数据约束条件。 value Map<String,Object>
支持FP16和BF16数据类型推理。 适配的CANN版本是cann_8.0.rc3。 DevServer驱动版本要求23.0.6。 资源规格要求 本文档中的模型运行环境是ModelArts Lite的DevServer。推荐使用“西南-贵阳一”Region上的资源和Ascend Snt9B。 如果使用De
environments 否 Map<String,String> 训练作业的环境变量。格式："key":"value"。其中key最大允许填写8192字符，value最大允许填写4096字符，最多允许100对环境变量。变量名应该仅包含字母、数字、下划线（），且以字母或下划线（）开头。
n_id+item_version_id创建作业时，无需填写。 environments Map<String,String> 训练作业的环境变量。格式："key":"value"，无需填写。 表7 Parameter 参数 参数类型 描述 name String 参数名称。 value
n_id+item_version_id创建作业时，无需填写。 environments Map<String,String> 训练作业的环境变量。格式："key":"value"，无需填写。 表7 Parameter 参数 参数类型 描述 name String 参数名称。 value
dataset：数据集 obs：OBS swr：SWR model_list：AI应用列表 label_task：标注任务 service：在线服务 conditions 否 Array of Constraint objects 数据约束条件。 value 否 Map<String
Notebook里使用）。 debug 在ECS上调试SWR镜像是否能在ModelArts Notebook中使用 （只支持已安装docker环境的ECS）。 使用ma-cli image get-template命令查询镜像构建模板 ma-cli提供了一些常用的镜像构建模板，模板中包含了在ModelArts
增加。 注意： 版本不可以出现例如01.01.01等以0开头的版本号形式。 否 str、Placeholder runtime 模型运行时环境，runtime可选值与model_type相同。 否 str、Placeholder description 模型备注信息，1-100位长度，不能包含&
dataset：数据集 obs：OBS swr：SWR model_list：AI应用列表 label_task：标注任务 service：在线服务 conditions Array of Constraint objects 数据约束条件。 value Map<String,Object>
dataset：数据集 obs：OBS swr：SWR model_list：AI应用列表 label_task：标注任务 service：在线服务 conditions Array of Constraint objects 数据约束条件。 value Map<String,Object>
n_id+item_version_id创建作业时，无需填写。 environments Map<String,String> 训练作业的环境变量。格式："key":"value"，无需填写。 表9 Parameter 参数 参数类型 描述 name String 参数名称。 value
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
