检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
在ModelArts中数据标注完成后，标注结果存储在哪里？ ModelArts管理控制台，提供了数据可视化能力，您可以在控制台查看详细数据以及标注信息。如需了解标注结果的存储路径，请参见如下说明。 背景说明 针对ModelArts中的数据集，在创建数据集时，需指定“数据集输入位置
train /home/ma-user/ws/llm_train/LLaMAFactory/demo.yaml 执行多机启动命令（可选） 多台机器执行训练启动命令如下。 多机执行命令为：sh demo.sh <MASTER_ADDR=xx.xx.xx.xx> <NNODES=4> <NODE_RANK=0>
train /home/ma-user/ws/llm_train/LLaMAFactory/demo.yaml 执行多机启动命令（可选） 多台机器执行训练启动命令如下。 多机执行命令为：sh demo.sh <MASTER_ADDR=xx.xx.xx.xx> <NNODES=4> <NODE_RANK=0>
train /home/ma-user/ws/llm_train/LLaMAFactory/demo.yaml 执行多机启动命令（可选） 多台机器执行训练启动命令如下。 多机执行命令为：sh demo.sh <MASTER_ADDR=xx.xx.xx.xx> <NNODES=4> <NODE_RANK=0>
在ModelArts中智能标注完成后新加入数据需要重新训练吗？ 智能标注完成后，需要对标注结果进行确认。 如果未确认标注结果，直接加入新数据，重新智能标注，会将待确认的数据和新加入的数据全部重新训练。 如果确认标注结果后，再加入新数据，只重新训练标注新的数据。 父主题： Standard数据准备
scendFactory 下执行启动脚本，先修改以下命令中的参数，再复制执行。 启动训练脚本可使用以下两种启动命令，二选一即可，其中区别如下： 方法一：传递参数形式：将主节点IP地址、节点个数、节点RANK的参数传递至运行的脚本中执行。 # 单机执行命令为：sh scripts_
执行训练任务 执行训练任务【新】 执行训练任务【旧】 父主题： 主流开源大模型基于Standard+OBS+SFS适配ModelLink PyTorch NPU训练指导（6.3.912）
执行训练任务 执行训练任务（推荐） 执行训练任务（历史版本） 父主题： 主流开源大模型基于Lite Server适配ModelLink PyTorch NPU训练指导（6.3.912）
执行训练任务 ascendfactory-cli方式启动（推荐） demo.sh方式启动（历史版本） 父主题： 主流开源大模型基于Lite Server适配LlamaFactory PyTorch NPU训练指导（6.3.912）
执行训练任务 执行训练任务（推荐） 执行训练任务（历史版本） 父主题： 主流开源大模型基于Standard+OBS适配ModelLink PyTorch NPU训练指导（6.3.912）
执行训练任务（历史版本） 权重文件支持以下组合方式，用户根据自己实际要求选择： 训练stage 不加载权重 增量训练：加载权重，不加载优化器 断点续训：加载权重+优化器 pt sft CKPT_LOAD_TYPE=0 CKPT_LOAD_TYPE=1 USER_CONVERTED_CKPT_PATH=xxx
ellink 【必修改】ModelLink脚本相对或绝对路径，用于方便加载脚本 ckpt_load_type 1 【可选】默认为1 0，不加载权重 1，加载权重不加载优化器状态【增量训练】 2，加载权重且加载优化器状态【断点续训】详见断点续训和故障快恢说明 user_converted_ckpt_path
ellink 【必修改】ModelLink脚本相对或绝对路径，用于方便加载脚本 ckpt_load_type 1 【可选】默认为1 0，不加载权重 1，加载权重不加载优化器状态【增量训练】 2，加载权重且加载优化器状态【 断点续训】详见断点续训和故障快恢说明 user_converted_ckpt_path
sft：代表监督微调； pt：代表预训练； ckpt_load_type 1 可选【0、1、2】，默认为1 0： 不加载权重 1：加载权重不加载优化器状态【增量训练】 2：加载权重且加载优化器状态【 断点续训】详见断点续训和故障快恢说明 handler-name GeneralInstructionHandler
【必修改】训练任务结束生成日志及权重文件目录 ckpt_load_type 1 【可选】默认为1 0，不加载权重 1，加载权重不加载优化器状态【增量训练】 2，加载权重且加载优化器状态【 断点续训】详见断点续训和故障快恢说明 user_converted_ckpt_path /home/ma-user/ws/xxx
执行训练任务【旧】 前提条件 已上传训练代码、训练权重文件和数据集到SFS Turbo中。 Step1 修改训练超参配置 以llama2-13b SFT全参微调为例，执行脚本 0_pl_sft_13b.sh 。 修改模型训练脚本中的配置，参数详解可查看训练参数说明，其中【GBS、
32卡训练。 多机启动 以 Llama2-70B 为例，多台机器执行训练启动命令如下。多机启动需要在每个节点上执行。 进入代码目录 /home/ma-user/ws/llm_train/AscendSpeed 下执行启动脚本。xxx-Ascend请根据实际目录替换。 启动训练脚本
32卡训练。 多机启动 以 Llama2-70B 为例，多台机器执行训练启动命令如下。多机启动需要在每个节点上执行。 进入代码目录 /home/ma-user/ws/llm_train/AscendSpeed 下执行启动脚本。xxx-Ascend请根据实际目录替换。 启动训练脚本
32卡训练。 多机启动 以 Llama2-70B 为例，多台机器执行训练启动命令如下。多机启动需要在每个节点上执行。 进入代码目录 /home/ma-user/ws/llm_train/AscendSpeed 下执行启动脚本。xxx-Ascend请根据实际目录替换。 启动训练脚本
32卡训练。 多机启动 以 Llama2-70B 为例，多台机器执行训练启动命令如下。多机启动需要在每个节点上执行。 进入代码目录 /home/ma-user/ws/llm_train/AscendSpeed 下执行启动脚本。xxx-Ascend请根据实际目录替换。 启动训练脚本
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
