-
部署为在线服务 - AI开发平台ModelArts
部署为在线服务 AI应用准备完成后，您可以将AI应用部署为在线服务，对在线服务进行预测和调用。 约束与限制 单个用户最多可创建20个在线服务。 前提条件 数据已完成准备：已在ModelArts中创建状态“正常”可用的AI应用。 由于在线运行需消耗资源，确保账户未欠费。 操作步骤
-
集成在线服务 - AI开发平台ModelArts
集成在线服务 针对已完成调测的API，可以将在线服务API集成至生产环境中应用。 前提条件 确保在线服务一直处于“运行中”状态，否则会导致生产环境应用不可用。 集成方式 ModelArts在线服务提供的API是一个标准的Restful API，可使用HTTPS协议访问。Model
-
访问在线服务（Token认证） - AI开发平台ModelArts
访问在线服务（Token认证） 若在线服务的状态处于“运行中”，则表示在线服务已部署成功，部署成功的在线服务，将为用户提供一个可调用的API，此API为标准Restful API。在集成至生产环境之前，需要对此API进行调测，您可以使用以下方式向在线服务发起预测请求： 方式一：使
-
在线服务的API接口组成规则是什么？ - AI开发平台ModelArts
在线服务的API接口组成规则是什么？ AI应用部署成在线服务后，用户可以获取API接口用于访问推理。 API接口组成规则如下： https://域名/版本/infer/服务ID 示例如下： https://6ac81cdfac4f4a30be95xxxbb682.apig.xxx
-
在线服务预测报错MR.0105 - AI开发平台ModelArts
在线服务预测报错MR.0105 问题现象 部署为在线服务，服务处于运行中状态，预测时报错：{ "erno": "MR.0105", "msg": "Recognition failed","words_result": {}}。 图1 预测报错 原因分析 请在“在线服务”详情页面
-
访问方式 - AI开发平台ModelArts
访问方式 访问在线服务（公网访问通道） 访问在线服务（VPC高速访问通道） 父主题： 访问在线服务
-
测试服务 - AI开发平台ModelArts
通道的图片。 该功能为调测使用，实际生产建议使用API调用。根据鉴权方式的不同，可以根据实际情况选择访问在线服务（Token认证）、访问在线服务（AK/SK认证）或者访问在线服务（APP认证）。 了解服务的输入参数 针对您部署上线的服务，您可以在服务详情页面的“调用指南”中，了解
-
认证方式 - AI开发平台ModelArts
认证方式 访问在线服务（Token认证） 访问在线服务（AK/SK认证） 访问在线服务（APP认证） 父主题： 访问在线服务
-
访问在线服务简介 - AI开发平台ModelArts
访问在线服务简介 在线服务的状态处于“运行中”，则表示在线服务已部署成功，部署成功的在线服务，将为用户提供一个可调用的API，此API为标准Restful API。在集成至生产环境之前，需要对此API进行调测。 在线服务的API默认为HTTPS访问，同时还支持WebSocket访
-
访问在线服务（APP认证） - AI开发平台ModelArts
口。 在线服务授权管理 如果您需要使用支持APP认证功能，建议您在部署在线服务之前进行授权管理操作完成应用创建。进入“部署上线>在线服务”页面，单击“授权管理”，进入“在线服务授权管理”对话框。在此页面您可以实现应用的创建和管理，包括查看、重置或删除应用，解绑应用对应的在线服务，
-
WebSocket访问在线服务 - AI开发平台ModelArts
传输。 前提条件 在线服务部署时需选择“升级为WebSocket”。 在线服务中的AI应用导入选择的镜像需支持WebSocket协议。 约束与限制 WebSocket协议只支持部署在线服务。 只支持自定义镜像导入AI应用部署的在线服务。 WebSocket在线服务调用 WebSo
-
访问在线服务（公网访问通道） - AI开发平台ModelArts
访问在线服务（公网访问通道） 背景描述 ModelArts推理默认使用公网访问在线服务。在线服务部署成功后，将为用户提供一个可调用的API，此API为标准Restful API。您可以在服务详情页面，调用指南页签中查看API接口公网地址。 图1 API接口公网地址 访问在线服务
-
访问在线服务 - AI开发平台ModelArts
访问在线服务 访问在线服务简介 认证方式 访问方式 WebSocket访问在线服务 Server-Sent Events访问在线服务 父主题： 部署AI应用（在线服务）
-
Server-Sent Events访问在线服务 - AI开发平台ModelArts
Socket（双向实时），它更加轻量级且易于实现。 前提条件 在线服务中的AI应用导入选择的镜像需支持SSE协议。 约束与限制 SSE协议只支持部署在线服务。 只支持自定义镜像导入AI应用部署的在线服务。 SSE在线服务调用 SSE协议本身不提供额外的认证方式，和HTTP请求方式一致。
-
在线服务 - AI开发平台ModelArts
在线服务 部署在线服务时，自定义预测脚本python依赖包出现冲突，导致运行出错 在线服务预测时，如何提高预测速度？ 调整模型后，部署新版本AI应用能否保持原API接口不变？ 在线服务的API接口组成规则是什么？ 在线服务运行中但是预测失败时，如何排查报错是不是模型原因导致的 在
-
部署在线服务 - AI开发平台ModelArts
部署在线服务 部署在线服务包括： 已部署为在线服务的初始化。 部署在线服务predictor。 部署批量服务transformer。 部署服务返回服务对象Predictor，其属性包括服务管理章节下的所有功能。 示例代码 在ModelArts notebook平台，Session
-
访问在线服务（AK/SK认证） - AI开发平台ModelArts
根据提示完成身份验证，下载密钥，并妥善保管。 获取在线服务信息 在调用接口时，需获取在线服务的调用地址，以及在线服务的输入参数信息。步骤如下： 登录ModelArts管理控制台，在左侧导航栏中选择“部署上线 > 在线服务”，默认进入“在线服务”列表。 单击目标服务名称，进入服务详情页面。 在“在线服务”的详情页面
-
访问在线服务（VPC高速访问通道） - AI开发平台ModelArts
访问在线服务（VPC高速访问通道） 背景说明 访问在线服务的实际业务中，用户可能会存在如下需求： 高吞吐量、低时延 TCP或者RPC请求 因此，ModelArts提供了VPC直连的高速访问通道功能以满足用户的需求。 使用VPC直连的高速访问通道，用户的业务请求不需要经过推理平台，而
-
在线服务预测时，如何提高预测速度？ - AI开发平台ModelArts
在线服务预测时，如何提高预测速度？ 部署在线服务时，您可以选择性能更好的“计算节点规格”提高预测速度。例如使用GPU资源代替CPU资源。 部署在线服务时，您可以增加“计算节点个数”。 如果节点个数设置为1，表示后台的计算模式是单机模式；如果节点个数设置大于1，表示后台的计算模式为分布式的。您可以根据实际需求进行选择。
-
专属资源池下的在线服务停止后，启动新的在线服务，提示资源不足 - AI开发平台ModelArts
专属资源池下的在线服务停止后，启动新的在线服务，提示资源不足 停止在线服务后，需要等待几分钟等待资源释放。 父主题： 资源池
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
