检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
方式二：通过命令accelerate config进行配置，如下图所示。 图1 通过命令accelerate config进行配置 （可选）文件替换。
sh prepare.sh 修改accelerate库中的accelerator.py文件，文件路径为/home/ma-user/anaconda3/envs/PyTorch-2.1.0/lib/python3.9/site-packages/accelerate/accelerator.py
检查是否安装docker。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
在ModelArts控制台购买Lite Cluster集群时，ModelArts的资源池会先纳管这个CCE集群，然后根据用户设置的规格创建相应的计算节点（BMS/ECS）。
检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
检查是否安装docker。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
图1 购买ECS 安装Docker。 检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。 yum install -y docker 配置IP转发，用于容器内的网络访问。
--host ${docker_ip}：服务部署的IP地址，${docker_ip}替换为宿主机实际的IP地址。 --port：推理服务端口8080。 --tokenizer：tokenizer路径，HuggingFace的权重路径。
检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
登录成功会显示“Login Succeeded”。 拉取基础镜像或第三方镜像（此处以基础镜像举例，第三方镜像直接替换镜像地址）。 拉取ModelArts提供的公共镜像（请参考预置镜像）。
检查是否安装docker。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
npu-smi info -t board -i 1 | egrep -i "software|firmware" 检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
