AI开发平台MODELARTS-AOE的自动性能调优使用上完全没有效果怎么办?

时间:2024-09-24 10:50:18

AOE的自动性能调优使用上完全没有效果怎么办?

在MindSpore Lite Convertor2.1版本之前可能出现的调优不生效的场景,建议直接使用MindSpore Lite Convertor2.1及以后的版本。配置文件指定选项进行AOE调优。使用转换工具配置config参数,具体如下所示,其中“subgraph tuning”表示子图调优,“operator tuning”表示算子调优。

其中,“ge.op_compiler_cache_mode”在该场景下必须设置为“force”,表示该场景下要强制刷新缓存,保证AOE调优后的知识库能够命中,实现模型调优。示例如下:

# config.ini

[ascend_context]
aoe_mode="subgraph tuning, operator tuning"
[acl_init_options]
ge.op_compiler_cache_mode="force"
support.huaweicloud.com/bestpractice-modelarts/modelarts_10_2017.html