华为云首页用户手册

AI开发平台MODELARTS-基于MindSpore Lite的模型转换:转换关键参数准备

AI开发平台MODELARTS-基于MindSpore Lite的模型转换:转换关键参数准备

时间：2024-09-14 22:29:27

AI开发平台MODELARTS 模型适配

转换关键参数准备

对应的模型转换成MindIR格式，通过后端绑定的编译形式来运行以达到更好的性能（类似静态图的运行模式），所以需要提前准备以下几个重点参数。

输入的inputShape，包含batch信息。
MSLite涉及到编译优化的过程，不支持完全动态的权重模式，需要在转换时确定对应的inputShape，用于模型的格式的编译与转换，可以在netron官网进行查看，或者对于模型结构中的输入进行shape的打印，并明确输入的batch。

一般来说，推理时指定的inputShape是和用户的业务及推理场景是紧密相关的，可以通过原始模型推理脚本或者网络模型进行判断。需要把Notebook中的模型下载到本地后，再放入netron官网中，查看其inputShape。

如果netron中没有显示inputShape，可能由于使用了动态shape模型导致，请确保使用的是静态shape模型，静态shape模型文件导出方法请参考模型准备。

图1 netron中查看inputShape
精度选择。
精度选择需要在模型转换阶段进行配置，执行converter_lite命令式通过--configFile参数指定配置文件路径，配置文件通过precision_mode参数指定精度模式。可选的参数有“enforce_fp32”，“preferred_fp32”，“enforce_fp16”，“enforce_origin”或者“preferred_optimal”，默认为“enforce_fp16”。
```
[ascend_context]
precision_mode= preferred_fp32
```

上一篇：AI开发平台MODELARTS-基于MindSpore Lite的模型转换:推理应用适配

下一篇：AI开发平台MODELARTS-基于MindSpore Lite的模型转换:推理应用适配

AI开发平台MODELARTS-基于MindSpore Lite的模型转换:转换关键参数准备

意见反馈

0/200

提交成功！非常感谢您的反馈，我们会继续努力做到更好反馈提交失败！请稍后重试！

推荐文章

解决方案
相关专题