华为云首页 用户手册

AI开发平台MODELARTS-模型NPU卡数、梯度累积值取值表

AI开发平台MODELARTS-模型NPU卡数、梯度累积值取值表

时间：2024-11-12 16:42:41
AI开发平台MODELARTS

模型NPU卡数、梯度累积值取值表

不同模型推荐的训练参数和计算规格要求如表1所示。规格与节点数中的1*节点 & 4*Ascend表示单机4卡，以此类推。

表1 NPU卡数、加速框架、梯度配置取值表

模型

模型参数量

训练类型

序列长度cutoff_len

梯度累积值

优化工具(Deepspeed)

规格与节点数

llama2

7B

lora/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-1

1*节点 & 1*Ascend

sft

gradient_accumulation_steps: 8

ZeRO-2

1*节点 & 8*Ascend

13B

lora/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-2

1*节点 & 1*Ascend

sft

gradient_accumulation_steps: 8

ZeRO-3

1*节点 & 8*Ascend

70B

lora/dpo

4096

gradient_accumulation_steps: 8

ZeRO-3

2*节点 & 8*Ascend

8192

gradient_accumulation_steps: 8

ZeRO-3-Offload

2*节点 & 8*Ascend

sft

4096/8192

gradient_accumulation_steps: 4

ZeRO-3-Offload

4*节点 & 8*Ascend

llama3

70B

lora/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-3

2*节点 & 8*Ascend

sft

gradient_accumulation_steps: 4

ZeRO-3-Offload

4*节点 & 8*Ascend

8B

lora/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-2

1*节点 & 1*Ascend

sft

gradient_accumulation_steps: 8

ZeRO-2

1*节点 & 8*Ascend

llama3.1

8B

lora

4096/8192

gradient_accumulation_steps: 8

ZeRO-1

1*节点 & 1*Ascend

sft

4096/8192

gradient_accumulation_steps: 8

ZeRO-2

1*节点 & 8*Ascend

70B

lora/dpo

4096

gradient_accumulation_steps: 8

ZeRO-3

2*节点 & 8*Ascend

8192

gradient_accumulation_steps: 8

ZeRO-3-Offload

2*节点 & 8*Ascend

sft

4096/8192

gradient_accumulation_steps: 4

ZeRO-3-Offload

4*节点 & 8*Ascend

Qwen2

72B

lora/dpo

4096

gradient_accumulation_steps: 8

ZeRO-3

2*节点 & 8*Ascend

8192

gradient_accumulation_steps: 8

ZeRO-3-Offload

2*节点 & 8*Ascend

sft

4096/8192

gradient_accumulation_steps: 4

ZeRO-3-Offload

4*节点 & 8*Ascend

7B

lora/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-0

1*节点 & 1*Ascend

sft

4096/8192

gradient_accumulation_steps: 8

ZeRO-2

1*节点 & 8*Ascend

0.5/1.5B

lora/sft/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-0

1*节点 & 1*Ascend

Qwen1.5

0.5/1.8B

lora/sft/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-0

1*节点 & 1*Ascend

4B

lora/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-1

1*节点 & 1*Ascend

sft

4096/8192

gradient_accumulation_steps: 8

ZeRO-1

1*节点 & 4*Ascend

7B

lora/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-1

1*节点 & 1*Ascend

sft

4096/8192

gradient_accumulation_steps: 8

ZeRO-2

1*节点 & 8*Ascend

14B

lora/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-3

1*节点 & 1*Ascend

sft

4096/8192

gradient_accumulation_steps: 8

ZeRO-3

1*节点 & 8*Ascend

32B

lora/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-3

1*节点 & 4*Ascend

sft

4096

gradient_accumulation_steps: 8

ZeRO-3

2*节点 & 8*Ascend

sft

8192

gradient_accumulation_steps: 4

ZeRO-3-Offload

2*节点 & 8*Ascend

72B

lora/dpo

4096

gradient_accumulation_steps: 8

ZeRO-3

2*节点 & 8*Ascend

lora

8192

gradient_accumulation_steps: 8

ZeRO-3-Offload

2*节点 & 8*Ascend

sft

4096/8192

gradient_accumulation_steps: 4

ZeRO-3-Offload

4*节点 & 8*Ascend

falcon2

11B

lora/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-2

1*节点 & 1*Ascend

sft

4096/8192

gradient_accumulation_steps: 8

ZeRO-2

1*节点 & 8*Ascend

GLM4

9B

lora

4096/8192

gradient_accumulation_steps: 8

ZeRO-2

1*节点 & 1*Ascend

sft

4096/8192

gradient_accumulation_steps: 8

ZeRO-3

1*节点 & 8*Ascend

Yi

6B

lora/dpo

4096/8192

gradient_accumulation_steps: 8

ZeRO-1

1*节点 & 1*Ascend

sft

4096/8192

gradient_accumulation_steps: 8

ZeRO-1

1*节点 & 4*Ascend

34B

sft

4096

gradient_accumulation_steps: 8

ZeRO-3

2*节点 & 8*Ascend

lora/dpo

gradient_accumulation_steps: 8

ZeRO-3

1*节点 & 2*Ascend

sft

8192

gradient_accumulation_steps: 8

ZeRO-3

2*节点 & 8*Ascend

lora/dpo

gradient_accumulation_steps: 8

ZeRO-3

1*节点 & 4*Ascend

以上参数为未开启NPU FlashAttention融合算子，上述参数值仅供参考，请根据自己实际要求合理配置其他加速框架或ZeRO (Zero Redundancy Optimizer)优化器、NPU节点数即其他配置。

具体优化工具使用说明可参考如何选择最佳性能的zero-stage和-offloads。

父主题： 训练脚本说明
support.huaweicloud.com/bestpractice-modelarts/modelarts_llm_train_90831.html

华为云11.11 2核1G 2M 云服务器

29元/年

立即注册 领万元上云礼券

抽奖赢11111元免单

续费同价 L实例 2核2G 4M

98元/年

热门域名 1元 随心购

1元/年

看了此文的人还看了
CDN加速 GaussDB 文字转换成语音 免费的服务器 如何创建网站 域名网站购买 私有云桌面 云主机哪个好 域名怎么备案 手机云电脑 SSL证书申请 云点播服务器 免费OCR是什么 电脑云桌面 域名备案怎么弄 语音转文字 文字图片识别 云桌面是什么 网址安全检测 网站建设搭建 国外CDN加速 SSL免费证书申请 短信批量发送 图片OCR识别 云数据库MySQL 个人域名购买 录音转文字 扫描图片识别文字 OCR图片识别 行驶证识别 虚拟电话号码 电话呼叫中心软件 怎么制作一个网站 Email注册网站 华为VNC 图像文字识别 企业网站制作 个人网站搭建 华为云计算 免费租用云托管 云桌面云服务器 ocr文字识别免费版 HTTPS证书申请 图片文字识别转换 国外域名注册商 使用免费虚拟主机 云电脑主机多少钱 鲲鹏云手机 短信验证码平台 OCR图片文字识别 SSL证书是什么 申请企业邮箱步骤 免费的企业用邮箱 云免流搭建教程 域名价格
热门活动
AI开发平台MODELARTS-模型NPU卡数、梯度累积值取值表

搜索反馈

您搜索到想要的结果了吗?

是的 没有

意见反馈

0/200

提交 取消

提交成功！非常感谢您的反馈，我们会继续努力做到更好 反馈提交失败！请稍后重试！
产品专区
推荐文章
更多内容
云硬盘存储EVS Web应用防火墙 人机语音识别 云计算入门 云数据库选择 HDC大会 华为云计算 响应式建站是什么 智慧班牌系统