AI开发平台MODELARTS-在线服务运行中但是预测失败时,如何排查报错是不是模型原因导致的:处理方法
处理方法
不管是用方式1还是方式2,要判断是否是模型服务返回的不合预期的结果都需要获取到本次推理请求的response header及response body。
- 如果是方式1,可以通过浏览器的 开发者工具 获取到推理请求的response信息。以Chrome浏览器为例,可以使用快捷键F12打开开发者工具,然后选择“Network”页签,再单击“预测”,可以在Network页签窗口中看到本次推理请求的response信息如下图。
图1 推理请求的response信息
在name栏找到推理请求,其中推理请求的URL包含“/v1/infers”的关键字,可以在header栏中的url看到完整url,分别在Headers页签及Response页签中查看response的信息。
- 如果是方式2可以根据不同的工具查看response header及body信息,比如CURL命令可以通过-I选项查看response header。
如果查看到的response header中Server字段为ModelArts且response body中没有显示ModelArts.XXXX的错误码,此时收到的response信息为模型服务返回的response信息,如果不符合预期,可以判断为模型服务返回的结果不符合预期。
- ModelArts推理部署_AI应用_部署服务-华为云
- ModelArts开发环境_开发环境简介_开发环境怎么使用
- ModelArts推理部署_在线服务_访问在线服务-华为云
- ModelArts自定义镜像_自定义镜像简介_如何使用自定义镜像
- ModelArts自动学习是什么_自动学习简介_零代码完成AI开发
- ModelArts分布式训练_分布式训练介绍_分布式调测
- ModelArts推理部署_OBS导入_模型包规范-华为云
- GaussDB集群搭建_SQL数据库是谁发明的_高斯数据库集群搭建_华为云
- mysql数据库免费吗_mysql在线数据库_mysql数据库下载
- ModelArts计费说明_计费简介_ModelArts怎么计费