AI开发平台MODELARTS-更新MaaS模型服务的模型权重:步骤1：验证模型权重文件

时间：2024-11-15 09:43:56

AI开发平台MODELARTS

在进行模型服务升级之前，必须先确认模型权重文件能够成功完成推理任务。只有当验证成功，确保了模型权重的功能性和准确性后，才可以进行模型权重的滚动升级。

参考创建我的模型，用待更新的模型权重文件新建一个我的模型。关键参数请参见表1。

表1 创建模型的关键参数说明
参数	说明
来源模型	选择和待升级的模型服务的“部署模型”同一个模型框架。
权重设置与词表	选择“自定义权重”。
选择自定义权重路径	选择存放待更新的模型权重文件的OBS路径，必须选择到模型文件夹。
权重校验	开启权重文件校验。

参考部署模型服务，用新建的模型部署模型服务。
- “模型设置”选择上一步新建的模型。
- “资源设置”和待升级的模型服务保持一致。
- 其他参数自定义。
参考调用MaaS部署的模型服务，用上一步部署的模型服务验证推理效果。
- 如果推理结果正确，则使用该模型权重完成执行步骤2：滚动升级模型权重。
- 如果推理结果不正确，请先排查原因，待能正常完成推理任务后再用该模型权重文件升级。