AI开发平台MODELARTS-Hunyuan-DiT基于DevServer部署适配PyTorch NPU推理指导(6.3.909):步骤一:检查环境
步骤一:检查环境
- 请参考DevServer资源开通,购买DevServer资源,并确保机器已开通,密码已获取,能通过SSH登录,不同机器之间网络互通。
购买DevServer资源时如果无可选资源规格,需要联系华为云技术支持申请开通。
当容器需要提供服务给多个用户,或者多个用户共享使用该容器时,应限制容器访问Openstack的管理地址(169.254.169.254),以防止容器获取宿主机的元数据。具体操作请参见禁止容器获取宿主机元数据。
- SSH登录机器后,检查NPU卡状态。运行如下命令,返回NPU设备信息。
npu-smi info # 在每个实例节点上运行此命令可以看到NPU卡状态 npu-smi info -l | grep Total # 在每个实例节点上运行此命令可以看到总卡数
如出现错误,可能是机器上的NPU设备没有正常安装,或者NPU镜像被其他容器挂载。请先正常安装固件和驱动,或释放被挂载的NPU。
- 检查是否安装docker。
docker -v #检查docker是否安装
如尚未安装,运行以下命令安装docker。
yum install -y docker-engine.aarch64 docker-engine-selinux.noarch docker-runc.aarch64
- 配置IP转发,用于容器内的网络访问。执行以下命令查看net.ipv4.ip_forward配置项的值,如果为1,可跳过此步骤。
sysctl -p | grep net.ipv4.ip_forward
如果net.ipv4.ip_forward配置项的值不为1,执行以下命令配置IP转发。sed -i 's/net\.ipv4\.ip_forward=0/net\.ipv4\.ip_forward=1/g' /etc/sysctl.conf sysctl -p | grep net.ipv4.ip_forward
- AI训练加速存储_高性能数据存储_AI数据存储内存不足怎么办
- ModelArts是什么_AI开发平台_ModelArts功能
- ModelArts分布式训练_分布式训练介绍_分布式调测
- 什么是RPA_RPA产品有哪些_RPA技术
- ModelArts模型训练_模型训练简介_如何训练模型
- ModelArts推理部署_纳管Atlas 500_边缘服务-华为云
- ModelArts推理部署_OBS导入_模型包规范-华为云
- ModelArts模型训练_创建训练作业_如何创建训练作业
- 华为云ModelArts_ModelArts开发_AI全流程开发
- 华为云IEF_华为云智能边缘平台_智能边缘平台IEF应用场景