AI开发平台MODELARTS-在ECS中通过Dockerfile从0制作自定义镜像用于推理:将自定义镜像创建为AI应用

时间:2024-10-16 17:00:44

自定义镜像 创建为AI应用

参考从容器镜像中选择元模型导入元模型,您需要特别关注以下参数:
  • 元模型来源:选择“从容器镜像中选择”
    • 容器镜像所在的路径:选择已制作好的自有镜像
      图4 选择已制作好的自有镜像
    • 容器调用接口:指定模型启动的协议和端口号。请确保协议和端口号与自定义镜像中提供的协议和端口号保持一致。
    • 镜像复制:选填,选择是否将容器镜像中的模型镜像复制到ModelArts中。
    • 健康检查:选填,用于指定模型的健康检查。仅当自定义镜像中配置了健康检查接口,才能配置“健康检查”,否则会导致AI应用创建失败。
  • apis定义:选填,用于编辑自定义镜像的apis定义。模型apis定义需要遵循ModelArts的填写规范,参见模型配置文件说明
    本样例的配置文件如下所示:
    [{
            "url": "/",
            "method": "post",
            "request": {
                "Content-type": "application/json"
            },
            "response": {
                "Content-type": "application/json"
            }
        },
    {
            "url": "/greet",
            "method": "post",
            "request": {
                "Content-type": "application/json"
            },
            "response": {
                "Content-type": "application/json"
            }
        },
    {
            "url": "/goodbye",
            "method": "get",
            "request": {
                "Content-type": "application/json"
            },
            "response": {
                "Content-type": "application/json"
            }
        }
    ]
support.huaweicloud.com/usermanual-standard-modelarts/modelarts_23_0270.html