AI开发平台MODELARTS-在线服务处于运行中状态时,如何填写推理请求的request header和request body:原因分析

时间:2024-11-06 21:52:50

原因分析

在线服务部署完成且服务处于运行中状态后,可以通过调用指南页签的调用地址对模型发起预测请求,出于安全考虑,ModelArts会通过相关的认证鉴权机制避免在线服务被无关人员非法调用。所以在预测请求的header信息中包含的是调用者的身份信息,在body部分是需要进行预测的内容。

header的部分需要按照华为云的相关机制进行认证,body部分需要根据模型的要求如前处理脚本的要求,如 自定义镜像 的要求进行输入。

support.huaweicloud.com/modelarts_faq/modelarts_05_3136.html