AI开发平台MODELARTS-更新MaaS模型服务的模型权重:场景描述
场景描述
用户在运用大型模型进行推理任务时,需定期对模型进行迭代和优化。为适应模型权重的更新和迭代,必须对已部署的服务执行相应的升级操作,以确保服务使用的是最新模型。
ModelArts Studio大模型即服务平台支持滚动升级模型权重,允许模型服务在运行时进行权重的迭代升级,该操作不会影响部署服务的正常运行。滚动升级模型权重的功能避免了重新部署整个模型服务的必要性,从而确保了服务的连续性,无需执行任何业务迁移操作。
- ModelArts模型训练_模型训练简介_如何训练模型
- GaussDB数据库模型_GaussDB是什么_高斯数据库模型
- ModelArts推理部署_OBS导入_模型包规范-华为云
- 华为云盘古大模型_华为云AI大模型_盘古人工智能
- TMS开发_金蝶TMS系统_TMS技术系统_信息化管理_视频
- ModelArts Workflow_什么是Workflow_工作流
- ModelArts推理部署_模型_AI应用来源-华为云
- ModelArts计费说明_计费简介_ModelArts怎么计费
- ModelArts是什么_AI开发平台_ModelArts功能
- 华为云CodeArts API_API设计支持公共模型