检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
如果用户需要将Hugging Face权重与tokenizer文件分开存放时，则需要修改参数。
昇腾上使用int8对权重进行打包，在线转换会增加启动时间，可以提前对权重进行转换以减少启动时间，转换步骤如下： 进入llm_tools/AutoAWQ代码目录下执行以下脚本： 执行时间预计10分钟。执行完成后会将权重路径下的原始权重替换成转换后的权重。
昇腾上使用int8对权重进行打包，在线转换会增加启动时间，可以提前对权重进行转换以减少启动时间，转换步骤如下： 进入llm_tools/AutoAWQ代码目录下执行以下脚本： 执行时间预计10分钟。执行完成后会将权重路径下的原始权重替换成转换后的权重。
如果用户需要将Hugging Face权重与tokenizer文件分开存放时，则需要修改参数。
若用户需要将Hugging Face权重与tokenizer文件分开存放时，则需要修改参数。
如果用户需要将Hugging Face权重与tokenizer文件分开存放时，则需要修改参数。
昇腾上使用int8对权重进行打包，在线转换会增加启动时间，可以提前对权重进行转换以减少启动时间，转换步骤如下： 进入llm_tools/AutoAWQ代码目录下执行以下脚本： 执行时间预计10分钟。执行完成后会将权重路径下的原始权重替换成转换后的权重。
昇腾上使用int8对权重进行打包，在线转换会增加启动时间，可以提前对权重进行转换以减少启动时间，转换步骤如下： 进入llm_tools/AutoAWQ代码目录下执行以下脚本： 执行时间预计10分钟。执行完成后会将权重路径下的原始权重替换成转换后的权重。
昇腾上使用int8对权重进行打包，在线转换会增加启动时间，可以提前对权重进行转换以减少启动时间，转换步骤如下： 进入llm_tools/AutoAWQ代码目录下执行以下脚本： 执行时间预计10分钟。执行完成后会将权重路径下的原始权重替换成转换后的权重。
如果用户需要将Hugging Face权重与tokenizer文件分开存放时，则需要修改参数。
若用户需要将Hugging Face权重与tokenizer文件分开存放时，则需要修改参数。
在推理生产环境中部署推理服务 介绍如何在创建AI应用，部署并启动推理服务，在线预测在线服务。 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.908）
详细工具的使用指导请参考离线预检和在线预检介绍。 父主题： msprobe工具使用指导
使用子账号用户登录ModelArts控制台，选择“模型部署 > 在线服务”，单击“部署”，在部署服务页面，资源池规格只能选择专属资源池。 父主题： 典型场景配置实践
昇腾上使用int8对权重进行打包，在线转换会增加启动时间，可以提前对权重进行转换以减少启动时间，转换步骤如下： 进入llm_tools/AutoAWQ代码目录下执行以下脚本： 执行时间预计10分钟。执行完成后会将权重路径下的原始权重替换成转换后的权重。
如果用户需要将Hugging Face权重与tokenizer文件分开存放时，则需要修改参数。
如果用户需要将Hugging Face权重与tokenizer文件分开存放时，则需要修改参数。
如果用户需要将Hugging Face权重与tokenizer文件分开存放时，则需要修改参数。
如果用户需要将Hugging Face权重与tokenizer文件分开存放时，则需要修改参数。
20 在对话框中输入问题，查看返回结果，在线体验对话问答。 图6 体验模型服务 后续操作 如果不再需要使用此模型服务，建议清除相关资源，避免产生不必要的费用。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
