AI开发平台MODELARTS-访问在线服务简介

时间:2024-09-05 08:29:59

访问在线服务简介

在线服务的状态处于“运行中”,则表示在线服务已部署成功,部署成功的在线服务,将为用户提供一个可调用的API,此API为标准Restful API。在集成至生产环境之前,需要对此API进行调测。

在线服务的API默认为HTTPS访问,同时还支持WebSocket访问。在线服务部署时如果选择了“升级为WebSocket”,服务部署完成后,API接口公网地址将是一个WebSocket协议地址。请参见Websocket访问在线服务

当前ModelArts支持访问在线服务的认证方式有以下方式(均以HTTPS请求为例):

ModelArts支持通过以下几种方式调用API访问在线服务:

调用API访问在线服务时,对预测请求体大小和预测时间有限制:
  • 请求体的大小不超过12MB,超过后请求会被拦截。
  • 因APIG(API网关)限制,平台每次请求预测的时间不超过40秒。
support.huaweicloud.com/inference-modelarts/inference-modelarts-0097.html