AI开发平台MODELARTS-Open-Sora-Plan1.0基于DevServer适配PyTorch NPU训练推理指导（6.3.907）:Step10 推理部署
下载AI开发平台MODELARTS用户手册完整版
Step10 推理部署
- 使用官方权重文件推理
官方权重下载链接：https://huggingface.co/LanguageBind/Open-Sora-Plan-v1.0.0/tree/main
创建文件夹存放官方权重文件，
mkdir weights_inference cd weights_inference mkdir vae mkdir 65x512x512
以65x512x512为例：
1，进入链接https://huggingface.co/LanguageBind/Open-Sora-Plan-v1.0.0/tree/main
2，手动下载65x512x512目录下的权重文件diffusion_pytorch_model.safetensors和配置文件config.json，并放到weights_inference/65x512x512目录下
3，手动下载vae目录下的权重文件diffusion_pytorch_model.safetensors和配置文件config.json，并放到weights_inference/vae目录下。
4，执行如下命令使用官方权重推理。
bash sample_video_65.sh
- 使用训练生成的权重文件推理
在Step7 启动训练服务完成后，会在工作目录/home/ma-user/Open-Sora-Plan1.0/下自动生成一个t2v-f17-256-img4-videovae488-bf16-ckpt-xformers-bs4-lr2e-5-t5文件夹，训练后生成的权重文件存放在t2v-f17-256-img4-videovae488-bf16-ckpt-xformers-bs4-lr2e-5-t5文件夹中，例如t2v-f17-256-img4-videovae488-bf16-ckpt-xformers-bs4-lr2e-5-t5/010-F16S3-STDiT-XL-2/checkpoint-2000/model。
修改推理配置文件中的权重文件sample_video_65.sh中的路径参数：--model_path，并执行如下推理命令。
bash sample_video_65.sh
