AI开发平台MODELARTS-Yolov8基于DevServer适配MindSpore Lite推理指导(6.3.909):步骤六:开始推理
步骤六:开始推理
执行如下命令开始推理,推理完成后会生产*_result.jpg,即检测结果。
python infer.py --model yolov8n.mindir
infer.py是NPU上使用MindSpore Lite推理的样例,与GPU推理代码区别主要参考infer函数,不同业务场景需根据实际情况做相应修改。infer.py文件预置在AscendCloud-CV-6.3.909-xxx.zip软件包中。
模型每次推理的图片数量必须是支持的batchsize,比如当前转换的mindir模型batchsize仅支持1,那么模型推理输入的图片数只能是1张;如果当前转换的mindir模型的batchsize支持多个,比如1,2,4,8,那么模型推理输入的图片数可以是1,2,4,8。
如果使用动态batch模型,需要将infer.py中如下图红框中的两行代码取消注释。