检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
${image_name} 为docker镜像的ID，在宿主机上可通过docker images查询得到。 --shm-size：表示共享内存，用于多进程间通信。由于需要转换较大内存的模型文件，因此大小要求200g及以上。 通过容器名称进入容器中。
${image_name} 为docker镜像的ID，在宿主机上可通过docker images查询得到。 --shm-size：表示共享内存，用于多进程间通信。由于需要转换较大内存的模型文件，因此大小要求200g及以上。 通过容器名称进入容器中。
curl -fsSL get.docker.com -o get-docker.sh sh get-docker.sh 如果docker images命令可以执行成功，表示Docker已安装，此步骤可跳过。 执行如下命令确认Docker Engine版本。
install -r /home/ma-user/llm_inference/requirements.txt RUN chmod -R 755 /home/ma-user/anaconda3/envs/PyTorch-2.1.0/lib/python3.9/site-packages
${image_name} 为docker镜像的ID，在宿主机上可通过docker images查询得到。 --shm-size：表示共享内存，用于多进程间通信。由于需要转换较大内存的模型文件，因此大小要求200g及以上。 通过容器名称进入容器中。
${image_name} 为docker镜像的ID，在宿主机上可通过docker images查询得到。 --shm-size：表示共享内存，用于多进程间通信。由于需要转换较大内存的模型文件，因此大小要求200g及以上。 通过容器名称进入容器中。
在${container_work_dir}目录下载以上数据集，并将其放置在${container_work_dir}路径下； cd ${container_work_dir} wget http://images.cocodataset.org/zips/train2014.zip
* from c:\users\xxx\appdata\local\programs\python\python**\lib\site-packages\pip (python *.*) 在Windows环境中，如果提示“不是内部或外部命令”，请您在“环境变量”中设置“Path”
如果docker images命令可以执行成功，表示Docker已安装，此步骤可跳过。 以linux x86_64架构的操作系统为例，获取Docker安装包。您可以使用以下指令安装Docker。
desc="this is a test workflow", steps=[condition_step, job_step_1, job_step_2, model_step], storages
${image_name} 为docker镜像的ID，在宿主机上可通过docker images查询得到。 --shm-size：表示共享内存，用于多进程间通信。由于需要转换较大内存的模型文件，因此大小要求200g及以上。 通过容器名称进入容器中。
curl -fsSL get.docker.com -o get-docker.sh sh get-docker.sh 如果docker images命令可以执行成功，表示Docker已安装，此步骤可跳过。 执行如下命令确认Docker Engine版本。
/home/ma-user/diffusers && sh prepare.sh RUN cp attention_processor.py /home/ma-user/anaconda3/envs/PyTorch-2.1.0/lib/python3.9/site-packages
curl -fsSL get.docker.com -o get-docker.sh sh get-docker.sh 如果docker images命令可以执行成功，表示Docker已安装，此步骤可跳过。 确认Docker Engine版本。执行如下命令。
/home/ma-user/diffusers && sh prepare.sh RUN cp attention_processor.py /home/ma-user/anaconda3/envs/PyTorch-2.1.0/lib/python3.9/site-packages
{image_id} 为docker镜像的ID，即第四步中生成的新镜像id，在宿主机上可通过docker images查询得到。 步骤六 启动推理服务 进入容器。
{image_id} 为docker镜像的ID，即第四步中生成的新镜像id，在宿主机上可通过docker images查询得到。 进入容器。
{image_id} 为docker镜像的ID，即第四步中生成的新镜像id，在宿主机上可通过docker images查询得到。 步骤六：进入容器 进入容器。
1、如训练过程中遇到“NPU out of memory”“Permission denied” 问题可参考 附录：指令微调训练常见问题解决 2、训练中遇到"ImportError: This modeling file requires the following packages
{image_id} 为docker镜像的ID，即第四步中生成的新镜像id，在宿主机上可通过docker images查询得到。 进入容器。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
