华为云首页用户手册

AI开发平台MODELARTS-自定义引擎创建模型规范:在本地机器调试

AI开发平台MODELARTS-自定义引擎创建模型规范:在本地机器调试

时间：2024-10-28 19:26:27

AI开发平台MODELARTS 创建AI应用规范参考

在本地机器调试

自定义引擎的规范可以在安装有docker的本地机器上通过以下步骤提前验证：

将自定义引擎镜像下载至本地机器，假设镜像名为custom_engine:v1。
将模型包文件夹复制到本地机器，假设模型包文件夹名字为model。
在模型包文件夹的同级目录下验证如下命令拉起服务：
```
docker run --user 1000:100 -p 8080:8080 -v model:/home/mind/model    custom_engine:v1
```
该指令无法完全模拟线上，主要是由于-v挂载进去的目录是root权限。在线上，模型文件从OBS下载到/home/mind/model目录之后，文件owner将统一修改为ma-user。
在本地机器上启动另一个终端，执行以下验证指令，得到符合预期的推理结果。
```
curl https://127.0.0.1:8080/${推理服务的请求路径}
```

上一篇：AI开发平台MODELARTS-自定义引擎创建模型规范:https示例

下一篇：AI开发平台MODELARTS-自定义引擎创建模型规范:https示例

华为云11.11 2核1G 2M 云服务器

29元/年

立即注册领万元上云礼券

抽奖赢11111元免单

续费同价 L实例 2核2G 4M

98元/年

热门域名 1元随心购

1元/年

AI开发平台MODELARTS-自定义引擎创建模型规范:在本地机器调试

意见反馈

0/200

提交成功！非常感谢您的反馈，我们会继续努力做到更好反馈提交失败！请稍后重试！

推荐文章

解决方案
相关专题