AI开发平台ModelArts-剪枝:安装AscendModelNano

时间:2025-01-26 10:50:43

安装AscendModelNano

AscendModelNano是FASP剪枝工具,适配代码存放在代码包AscendCloud-LLM-x.x.x.zip的llm_tools/ModelNano目录下。

AscendModelNano工具需要安装,执行命令如下。

cd ModelNano  # 进入ModelNano工具目录 bash build.sh AscendModelNano   # 编译 pip install dist/AscendModelNano-0.1.0-py3-none-any.whl  #安装
support.huaweicloud.com/bestpractice-modelarts/modelarts_llm_infer_91213.html