检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
本文档适配昇腾云ModelArts 6.3.907版本，请参考表1获取配套版本的软件包和镜像，请严格遵照版本配套关系使用本文档。 确保容器可以访问公网。 资源规格要求 推荐使用“西南-贵阳一”Region上的DevServer资源和Ascend Snt9B。 软件配套版本 表1 获取软件 分类 名称 获取路径
copy_parallel(local_data_dir, obs_data_dir) 模型推荐的参数与NPU卡数设置 不同模型推荐的训练参数和计算规格要求如表1所示。规格与节点数中的1*节点 & 4*Ascend表示单机4卡，以此类推。 表1 不同模型推荐的参数与NPU卡数设置 序号 支持模型 支持模型参数量 训练策略类型
参数说明: --model-path：原始模型权重路径。 --quan-path：转换后权重保存路径。 --calib-data：数据集路径，推荐使用：https://huggingface.co/datasets/mit-han-lab/pile-val-backup/resolve/main/val
ModelArts.5306 The maximum depth of files has been exceeded 文件最大深度超过最大值 请选择其他源数据或减少数据深度。 400 ModelArts.5309 Only allow edge service published to AIHub
co/meta-llama/Llama-2-70b-hf https://huggingface.co/meta-llama/Llama-2-70b-chat-hf (推荐) 7 llama3-8b √ √ √ √ √ https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct
参数说明: --model-path：原始模型权重路径。 --quan-path：转换后权重保存路径。 --calib-data：数据集路径，推荐使用：https://huggingface.co/datasets/mit-han-lab/pile-val-backup，注意需指定到val
据Commit码和Notebook实例镜像架构下载。 如果下载报错“Not Found”，请下载别的版本VS Code重新在本地安装，目前推荐: Vscode-1.86.2。 如果实例的架构是x86_64的，通过下面的链接，手动修改Commit码（Commit码替换时去掉尖括号）
SMN开关。 subscription_id 否 String SMN消息订阅ID。 exeml_template_id 否 String 自动学习模板ID。 last_modified_at 否 String 最近一次修改的时间。 package 否 WorkflowServicePackege
0_pl_sft_13b.sh 。 修改模型训练脚本中的配置，参数详解可查看训练参数说明，其中【GBS、MBS、TP、PP】参数值可参考模型推荐参数、NPU卡数设置。 对于Yi系列模型、ChatGLMv3-6B和Qwen系列模型，还需要手动修改训练参数和tokenizer文件，具体请参见训练tokenizer文件说明。
当user_id为all时，表示对所有IAM子用户进行授权，如果已有部分用户已授权，则更新授权。 仅当授权类型为委托时，需要该字段。 type String 授权类型。推荐使用委托方式。 可选值： agency：委托 credential：访问密钥（AK/SK） content String 授权内容。 当授权类型是委托，该字段为委托名称。
--max-num-batched-tokens：prefill阶段，最多会使用多少token，必须大于或等于--max-model-len，推荐使用4096或8192。 --dtype：模型推理的数据类型。支持FP16和BF16数据类型推理。float16表示FP16，bfloat16表示BF16。
授予子账号使用ModelArts服务的权限。 ModelArts CommonOperations没有任何专属资源池的创建、更新、删除权限，只有使用权限。推荐给子账号配置此权限。 ModelArts CommonOperations 必选 如果需要给子账号开通专属资源池的创建、更新、删除权限，此处要勾选ModelArts
据Commit码和Notebook实例镜像架构下载。 如果下载报错“Not Found”，请下载别的版本VS Code重新在本地安装，目前推荐: Vscode-1.86.2。 如果实例的架构是x86_64的，通过下面的链接，手动修改comment-id（commit-id替换时去
据Commit码和Notebook实例镜像架构下载。 如果下载报错“Not Found”，请下载别的版本VS Code重新在本地安装，目前推荐: Vscode-1.86.2。 如果实例的架构是x86_64的，通过下面的链接，手动修改Commit码（Commit码替换时去掉尖括号）
像的制作。 购买ECS服务器的具体操作请参考购买并登录Linux弹性云服务器。“CPU架构”选择“x86计算”，“镜像”选择“公共镜像”，推荐使用Ubuntu18.04的镜像。 Step5 制作自定义镜像 目标：构建安装好如下软件的容器镜像，并使用ModelArts训练服务运行。
认选择，或进行自定义。创建完成后，单击“远程登录”，后续安装Docker等操作均在该ECS上进行。 注意：CPU架构必须选择鲲鹏计算，镜像推荐选择EulerOS。 图1 购买ECS Step2 安装Docker 检查docker是否安装。 docker -v #检查docker是否安装
据Commit码和Notebook实例镜像架构下载。 如果下载报错“Not Found”，请下载别的版本VS Code重新在本地安装，目前推荐: Vscode-1.86.2。 如果实例的架构是x86_64的，通过下面的链接，手动修改comment-id（commit-id替换时去
co/meta-llama/Llama-2-70b-hf https://huggingface.co/meta-llama/Llama-2-70b-chat-hf (推荐) 7 llama3-8b √ √ √ √ √ https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct
true, "default": 0.001, "help": "学习率" }, { "name": "
Boolean SMN开关。 subscription_id String SMN消息订阅ID。 exeml_template_id String 自动学习模板ID。 last_modified_at String 最近一次修改的时间。 package WorkflowServicePackege
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
