AI开发平台MODELARTS-Open-Sora1.2基于DevServer适配PyTorch NPU训练推理指导(6.3.907):Step10 推理

时间:2024-09-24 10:50:23

Step10 推理

对与大尺寸、长时间的视频强制需要多卡推理,具体要求见下图,绿色允许只用单卡推理,蓝色至少双卡推理。

图5 推理视频要求

单卡推理

python inference.py configs/opensora-v1-2/inference/sample.py --num-frames 4s --resolution 720p --aspect-ratio 9:16 --prompt "a beautiful waterfall"

多卡推理

torchrun --nproc_per_node 2 scripts/inference.py configs/opensora-v1-2/inference/sample.py --num-frames 16s --resolution 720p --aspect-ratio 9:16 --prompt "a beautiful waterfall"

最终结果保存在samples/samples/sample_0000.mp4。

support.huaweicloud.com/bestpractice-modelarts/modelarts_aigc_9078.html