AI开发平台MODELARTS-模型精度调优

时间:2023-11-13 08:49:19

模型精度调优

本小节通过一个具体问题案例,介绍模型精度调优的过程。

如下图所示,使用MindSpore Lite生成的图像和onnx模型的输出结果有明显的差异,因此需要对MindSpore Lite pipeline进行精度诊断。

图1 结果对比

在MindSpore Lite 2.0.0版本中,Stable Diffusion的五个模型的精度都能够保证一致性,但是在最新的2.1.0版本中,会出现text_encoder模型精度不一致的情况。该问题后续会发布补丁进行修复。

support.huaweicloud.com/bestpractice-modelarts/modelarts_10_2007.html