检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
完成标注后，图片预览时，其右上角将显示为“难例”。 图2 确认为难例 父主题： 通过智能标注方式标注数据
设置为text/plain，返回临时预览链接。设置为application/octet-stream，返回临时下载链接。 X-Auth-Token 是 String 用户token。
请求示例 请求示例，创建在线服务。
具体参考本文单机场景下OpenAI服务的API接口启动在线推理服务方式。 推理请求测试 使用命令测试推理服务是否正常启动。服务启动命令中的参数设置请参见启动在线推理服务。 通过OpenAI服务API接口启动服务使用以下推理测试命令。
部署类型： 在线服务。 请求模式：同步请求。
ModelArts SDK不支持在训练作业和在线服务中使用。 ModelArts SDK已经集成在ModelArts开发环境Notebook中，可以直接使用，无需进行Session鉴权。
添加资源标签 功能介绍 给指定服务添加标签（目前只支持在线服务），当添加的标签key已存在，则覆盖该标签的value。 调试 您可以在API Explorer中调试该接口，支持自动认证鉴权。API Explorer可以自动生成SDK代码示例，并提供SDK代码示例调试功能。
若没有授权，ModelArts训练管理、开发环境、数据管理、在线服务等功能将不能正常使用。该API支持管理员给IAM子用户设置委托，支持设置当前用户的访问密钥。调用该API需要在IAM系统里配置Security Administrator权限。
常见报错： 在线服务预测报错ModelArts.4302 在线服务预测报错ModelArts.4206 在线服务预测报错ModelArts.4503 当使用推理的镜像并且出现MR.XXXX类型的错误时，表示已进入模型服务，一般是模型推理代码编写有问题。
停止在线服务：在“在线服务”列表，单击对应服务操作列的“更多 > 停止”。 删除在线服务：在“在线服务”列表，单击对应服务操作列的“更多 > 删除”。 父主题： 历史待下线案例
停止在线服务：在“在线服务”列表，单击对应服务操作列的“更多 > 停止”。 删除在线服务：在“在线服务”列表，单击对应服务操作列的“更多 > 删除”。 常见问题 订阅的模型一直处于等待同步状态 服务预测失败
更新模型服务的单个属性 功能介绍 更新模型服务的单个属性，目前只支持instance_count(更新模型服务实例数量)，仅运行中、告警、异常状态下的在线服务可以执行该操作。 调试 您可以在API Explorer中调试该接口，支持自动认证鉴权。
Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“模型部署 > 在线服务 > 部署”，开始部署在线服务。 设置部署服务名称，选择Step2 部署模型中创建的AI应用。
执行命令示例如下，直接访问在线服务。
创建模型 部署模型 部署服务 ModelArts支持将模型部署为在线服务、批量服务和边缘服务。 部署为在线服务 部署为批量服务 访问服务 服务部署完成后，针对在线服务和边缘服务，您可以访问并使用服务，针对批量服务，您可以查看其预测结果。 访问在线服务 查看批量服务预测结果
取值范围：1~1000 默认值：20 在对话框中输入问题，查看返回结果，在线体验模型服务。 图2 体验模型服务
（可选）本地服务器安装ModelArts SDK 如果需要在个人PC或虚拟机上使用ModelArts SDK，则需要在本地环境中安装ModelArts SDK，安装后可直接调用ModelArts SDK轻松管理数据集、创建ModelArts训练作业及创建AI应用，并将其部署为在线服务
可选值如下： asc：递增排序 desc：递减排序（默认值） preview 否 Boolean 是否支持预览。可选值如下： true：支持预览 false：不支持预览 process_parameter 否 String 图像缩略设置，同OBS缩略图设置，详见OBS缩略图设置。
服务运维阶段，先利用镜像构建模型，接着部署模型为在线服务，然后可在云监控服务（CES）中获得ModelArts推理在线服务的监控数据，最后可配置告警规则实现实时告警通知。 业务运行阶段，先将业务系统对接在线服务请求，然后进行业务逻辑处理和监控设置。
确认信息无误后，单击“提交”部署在线服务。 父主题： Standard推理部署
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
