AI开发平台MODELARTS-修改MaaS模型服务:场景描述
场景描述
修改任务 |
任务介绍 |
参考信息 |
---|---|---|
修改流量限制QPS |
ModelArts Studio大模型即服务平台支持手动修改模型服务的实例流量限制QPS,该操作不会影响部署服务的正常运行。 |
修改QPS |
扩缩容实例数 |
ModelArts Studio大模型即服务平台支持手动扩缩容模型服务的实例数,该操作不会影响部署服务的正常运行。 |
扩缩容实例数 |
更新模型权重 |
ModelArts Studio大模型即服务平台支持滚动升级模型权重,允许模型服务在运行时进行权重的迭代升级,该操作不会影响部署服务的正常运行。 |