检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
SSH登录机器后，检查NPU卡状态。运行如下命令，返回NPU设备信息。
SSH登录机器后，检查NPU卡状态。运行如下命令，返回NPU设备信息。
父主题： 主流开源大模型基于DevServer适配LlamaFactory PyTorch NPU训练指导（6.3.909）
SSH登录机器后，检查NPU设备检查。运行如下命令，返回NPU设备信息。
SSH登录机器后，检查NPU卡状态。运行如下命令，返回NPU设备信息。
SSH登录机器后，检查NPU设备检查。运行如下命令，返回NPU设备信息。
Step1 检查环境 SSH登录机器后，检查NPU设备检查。运行如下命令，返回NPU设备信息。
FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因其与FP32相似的数值范围和稳定性，在大模型训练中提供了优势。
FP16：用于深度学习训练和推理过程中，可以加速计算并减少内存的占用，对模型准确性的影响在大多数情况下较小。与BF16相比在处理非常大或非常小的数值时遇到困难，导致数值的精度损失。 综上所述，BF16因其与FP32相似的数值范围和稳定性，在大模型训练中提供了优势。
准备工作 准备资源 准备权重 准备代码 准备镜像 准备Notebook 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.905）
准备工作 准备资源 准备数据 准备权重 准备代码 准备镜像 准备Notebook 父主题： 主流开源大模型基于Standard适配PyTorch NPU训练指导（6.3.905）
SSH登录机器后，检查NPU卡状态。运行如下命令，返回NPU设备信息。
npu-smi info # 在每个实例节点上运行此命令可以看到NPU卡状态 npu-smi info -l | grep Total # 在每个实例节点上运行此命令可以看到总卡数 如出现错误，可能是机器上的NPU设备没有正常安装，或者NPU
SSH登录机器后，检查NPU卡状态。运行如下命令，返回NPU设备信息。
SSH登录机器后，检查NPU卡状态。运行如下命令，返回NPU设备信息。
如何获得华为云开发者认证证书 开发者认证总流程如图1和表1所示。购买认证后，仅需完成在线学习和实验练习，并通过理论和实验考试，即可获得开发者认证证书。 图1 开发者认证流程 表1 开发者认证流程说明 步骤 说明 1 购买认证 进入华为云开发者认证页面选择自己需要的开发者认证，在认证详情页面单击
主流开源大模型基于Standard+OBS适配PyTorch NPU训练指导（6.3.907） 场景介绍 准备工作 预训练 SFT全参微调训练 LoRA微调训练 查看日志和性能 训练脚本说明 常见错误原因和解决方法 父主题： LLM大语言模型训练推理
主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.909） 推理场景介绍 部署推理服务 推理性能测试 推理精度测试 推理模型量化 附录：基于vLLM不同模型推理支持最小卡数和最大序列说明 附录：大模型推理常见问题 父主题： LLM大语言模型训练推理
npu-smi info # 在每个实例节点上运行此命令可以看到NPU卡状态 npu-smi info -l | grep Total # 在每个实例节点上运行此命令可以看到总卡数 如出现错误，可能是机器上的NPU设备没有正常安装，或者NPU
npu-smi info # 在每个实例节点上运行此命令可以看到NPU卡状态 npu-smi info -l | grep Total # 在每个实例节点上运行此命令可以看到总卡数 如出现错误，可能是机器上的NPU设备没有正常安装，或者NPU
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
