模型转换,即将 开源 框架的网络模型(如Caffe、TensorFlow等),通过ATC(Ascend Tensor Compiler)模型转换工具,将其转换成昇腾AI处理器支持的离线模型,模型转换过程中可以实现算子调度的优化、权值数据重排、内存使用优化等,可以脱离设备完成模型的预处理。
另外,离线模型转换过程中,80%左右的问题,集中在算子不支持。
1、新网络,其中算子未开发或发布;
2、原框架自定义算子,需要在新框架重新适配开发;
3、算子泛化不够,某些数据大小不支持。
在模型转换过程中出现了算子不支持的情况,例如昇腾AI软件栈不支持模型中的算子、开发者想修改现有算子中的计算逻辑、或者开发者想自己开发算子来提高计算性能,这时就需要进行自定义算子的开发了。