检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
训练脚本说明参考 训练参数配置说明【旧】 训练tokenizer文件说明 断点续训和故障快恢说明 父主题： 主流开源大模型基于Lite Server适配ModelLink PyTorch NPU训练指导（6.3.912）
的路径。 输入指定的目录在训练开始时，平台会自动将指定的OBS路径下的文件copy到容器内 输出指定的目录在训练过程中，平台会自动将容器内的文件copy到指定的OBS路径下 在“输入”框内设置超参配置：dataset、processed_data_dir、user_convert
ain/AscendSpeed 下执行启动脚本。先修改以下命令中的参数，再复制执行 启动训练脚本可使用以下两种启动命令，二选一即可，其中区别如下： 传递参数形式：将主节点IP地址、节点个数、节点RANK的参数传递至运行的脚本中执行。 # 单机执行命令为：sh scripts/llama2/0_pl_lora_13b
ain/AscendSpeed 下执行启动脚本。先修改以下命令中的参数，再复制执行 启动训练脚本可使用以下两种启动命令，二选一即可，其中区别如下： 传递参数形式：将主节点IP地址、节点个数、节点RANK的参数传递至运行的脚本中执行。 # 单机执行命令为：sh scripts/llama2/0_pl_lora_13b
ain/AscendSpeed 下执行启动脚本。先修改以下命令中的参数，再复制执行 启动训练脚本可使用以下两种启动命令，二选一即可，其中区别如下： 传递参数形式：将主节点IP地址、节点个数、节点RANK的参数传递至运行的脚本中执行。 # 单机执行命令为：sh scripts/llama2/0_pl_lora_13b
ain/AscendSpeed 下执行启动脚本。先修改以下命令中的参数，再复制执行 启动训练脚本可使用以下两种启动命令，二选一即可，其中区别如下： 传递参数形式：将主节点IP地址、节点个数、节点RANK的参数传递至运行的脚本中执行。 # 单机执行命令为：sh scripts/llama2/0_pl_lora_13b
执行训练任务 执行训练任务（推荐） 执行训练任务（历史版本） 父主题： 主流开源大模型基于Lite Server适配ModelLink PyTorch NPU训练指导（6.3.912）
执行训练任务 执行训练任务（推荐） 执行训练任务（历史版本） 父主题： 主流开源大模型基于Standard+OBS适配ModelLink PyTorch NPU训练指导（6.3.912）
执行训练任务 执行训练任务【新】 执行训练任务【旧】 父主题： 主流开源大模型基于Standard+OBS+SFS适配ModelLink PyTorch NPU训练指导（6.3.912）
执行训练任务 ascendfactory-cli方式启动（推荐） demo.sh方式启动（历史版本） 父主题： 主流开源大模型基于Lite Server适配LlamaFactory PyTorch NPU训练指导（6.3.912）
in/AscendSpeed 下执行启动脚本，先修改以下命令中的参数，再复制执行。 启动训练脚本可使用以下两种启动命令，二选一即可，其中区别如下： 传递参数形式：将主节点IP地址、节点个数、节点RANK的参数传递至运行的脚本中执行。 # 单机执行命令为：sh scripts/llama2/0_pl_sft_13b
（此参数目前仅适用于Llama3系列模型长序列训练） LR 2.5e-5 学习率设置。 MIN_LR 2.5e-6 最小学习率设置。 SEQ_LEN 4096 要处理的最大序列长度。 MAX_PE 8192 设置模型能够处理的最大序列长度。 TRAIN_ITERS 100 表示训练step迭代次数，根据实际需要修改。
falcon-11b，参考falcon-11B模型替换文件。 否，忽略此步骤，执行下一步。 如需其他配置参数，可参考表1按照实际需求修改。 Step3 启动训练脚本 修改完yaml配置文件后，启动训练脚本。模型不同最少NPU卡数不同，NPU卡数建议值可参考表1。 修改启动脚本demo.sh 进入代码目录{work_d
自定义脚本代码示例 从OBS中导入模型文件创建模型时，模型文件包需符合ModelArts的模型包规范，推理代码和配置文件也需遵循ModelArts的要求。 本章节提供针对常用AI引擎的自定义脚本代码示例（包含推理代码示例）。模型推理代码编写的通用方法及说明请见模型推理代码编写说明。
l） 启动脚本，用法无切换，一般就是到达执行目录，然后python xxx.py。 训练结果、日志、checkpoints上传。（本地使用硬盘挂载或者docker cp，在ModelArts上使用OBSutil） 可以用一个run脚本把整个流程包起来。run.sh脚本的内容可以参考如下示例：
in/AscendSpeed 下执行启动脚本，先修改以下命令中的参数，再复制执行。 启动训练脚本可使用以下两种启动命令，二选一即可，其中区别如下： 传递参数形式：将主节点IP地址、节点个数、节点RANK的参数传递至运行的脚本中执行。 # 单机执行命令为：sh scripts/llama2/0_pl_sft_13b
in/AscendSpeed 下执行启动脚本，先修改以下命令中的参数，再复制执行。 启动训练脚本可使用以下两种启动命令，二选一即可，其中区别如下： 传递参数形式：将主节点IP地址、节点个数、节点RANK的参数传递至运行的脚本中执行。 # 单机执行命令为：sh scripts/llama2/0_pl_sft_13b
in/AscendSpeed 下执行启动脚本，先修改以下命令中的参数，再复制执行。 启动训练脚本可使用以下两种启动命令，二选一即可，其中区别如下： 传递参数形式：将主节点IP地址、节点个数、节点RANK的参数传递至运行的脚本中执行。 # 单机执行命令为：sh scripts/llama2/0_pl_sft_13b
使用ma-user用户执行如下命令运行训练脚本。 sh diffusers_lora_train.sh 启动SDXL LoRA训练服务 使用ma-user用户执行如下命令运行训练脚本。 sh diffusers_sdxl_lora_train.sh 训练执行成功如下图所示。 图1 训练执行成功 父主题：
ue时允许执行的节点列表，存储的是节点名称；此时else_then_steps中的step跳过不执行。 else_then_step表示的是当Condition比较的结果为false时允许执行的节点列表，存储的是节点名称；此时if_then_steps中的step跳过不执行。 使用案例
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
