AI开发平台MODELARTS-1个节点的专属资源池,能否部署多个服务?

时间:2024-11-06 21:52:46

1个节点的专属资源池,能否部署多个服务?

支持。

在部署服务时,选择专属资源池,在选择“计算节点规格”时选择“自定义规格”,设置小一些或者选择小规格的服务节点规格,当资源池节点可以容纳多个服务节点规格时,就可以部署多个服务。如果使用此方式进行部署推理,选择的规格务必满足模型的要求,当设置的规格过小,无法满足模型的最小推理要求时,则会出现部署失败或预测失败的情况。

图1 设置自定义规格
support.huaweicloud.com/modelarts_faq/modelarts_05_0229.html