AI开发平台MODELARTS-在Notebook中通过Dockerfile从0制作自定义镜像用于推理:场景说明

时间:2025-01-10 09:54:12

场景说明

针对ModelArts目前不支持的AI引擎,您可以通过 自定义镜像 的方式将编写的模型导入ModelArts,创建为模型。

本文详细介绍如何在ModelArts的开发环境Notebook中使用基础镜像构建一个新的推理镜像,并完成模型的创建,部署为在线服务。本案例仅适用于华为云北京四和上海一站点。

操作流程如下:

  1. Step1 在Notebook中构建一个新镜像:在ModelArts的开发环境Notebook中制作自定义镜像,镜像规范可参考创建模型的自定义镜像规范
  2. Step2 构建成功的镜像注册到镜像管理模块:将构建成功的自定义镜像注册到ModelArts的镜像管理模块中,方便下一步调试。
  3. Step3 在Notebook中变更镜像并调试:在Notebook中调试镜像。
  4. Step4 使用调试成功的镜像用于推理部署:将调试完成的镜像导入ModelArts的模型管理中,并部署上线。
support.huaweicloud.com/usermanual-standard-modelarts/docker-modelarts_0031.html