检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
在线部署:将服务或技能部署为在线推理服务,可以实现高并发,低延时,弹性伸缩,并且支持多模型灰度发布、A/B测试。将应用部署为一个Web Service,并且提供在线的测试与监控能力。 HiLens部署:将服务或技能部署在边缘设备HiLens Kit上。
图1 应用基本信息 在线测试应用 在“应用监控”页面,您可以针对“运行中”的应用使用在线测试功能,在“上传测试图片”右侧单击“选择文件”,上传本地的测试图片,下侧会显示预测结果。
HiLens套件 HiLens为端云协同AI应用开发平台,提供简单易用的开发框架、开箱即用的开发环境、丰富的AI技能市场和云上管理平台,帮助用户高效开发多模态AI技能,并将其快速部署到端侧计算设备。
“在线服务”:将服务部署为在线服务,进而在线使用服务,也可以直接调用对应的API。 “边缘服务”:将服务部署至边缘设备。当前边缘服务部署支持的智能边缘设备为Atlas 500。
查看应用监控 如果应用的部署方式是在线部署,您可以在“应用详情”页的“应用监控”页签下查看当前版本应用的“基本信息”、“在线测试”、“历史版本”和“调用指南”,详情请见监控应用。 父主题: 视觉套件
灵活开放 灵活的部署方式:支持在线部署、边缘部署、Hilens部署等多种部署方式。 自定义工作流编排:结合行业知识,编排AI应用开发流程。 开放的生态:用户间快速共享、交易。
操作步骤 在工业智能体控制台界面,在左侧导航栏选择“工业AI开发>工业AI开发工作流”。 默认进入“工业AI开发工作流”页签。 图1 工作台 在“工业AI开发工作流”页面下,单击“新建”。 进入“新建应用”页面。 根据业务需求填写“基本信息”、“工作流配置”和“资源配置”。
服务部署方式 当前只支持在线部署方式。 计算节点规格 界面选择计算规格。 服务自动停止 设置服务自动停止的时间,在线服务运行状态在所选的时间点后自动停止,同时在线服务也停止计费。 部署成功后,页面显示“服务部署成功”。
“部署方式”:选择应用的部署方式,当前仅支持“在线部署”。 确认信息后,单击“确定”。 进入“应用开发”页面,您可以根据流程指引,基于您选择的工作流开发应用。 图4 开发应用 后续操作 根据所选的预置工作流开发应用。
部署服务(在线服务) 工作流中部署在线服务时,会使用到计算型实例资源。 计费模式 按需购买。购买方式比较灵活,可以即开即停。
图2 应用基本信息 在线测试应用 在“应用监控”页面,您可以针对“运行中”的应用使用在线测试功能,在“请输入文本”下方输入测试文本,然后单击“测试”,右侧会显示预测结果。
服务自动停止 当新建应用时,服务部署方式选择“在线部署”时,设置服务自动停止的时间,在线服务运行状态在所选的时间点后自动停止,同时在线服务也停止计费。 部署成功后,页面显示“服务部署成功”,您可以单击“查看应用监控”,进入“应用监控”页面,监控应用的相关信息,详情请见监控应用。
在ModelArts Pro使用预置工作流部署服务后,可通过调用API和SDK调用已部署的在线服务。如果调用API失败,可根据返回的错误码及错误信息解决问题,具体的错误码说明请见表1。
ModelArts Pro应用开发套件包括自然语言处理套件、文字识别套件等,能够快速响应不同行业、不同场景的AI落地需求。 工作流 工作流指在具体行业场景下固定开发流程所构建的开发流水线,无需深究AI知识,按照工作流指引即可开发AI应用,解决特定场景问题。
配额说明 本服务在使用数据集、在线服务、训练任务资源时涉及配额限制。 其配额查看及修改请参见关于配额。
行业套件介绍 HiLens为端云协同AI应用开发平台,提供简单易用的开发框架、开箱即用的开发环境、丰富的AI技能市场和云上管理平台,帮助用户高效开发多模态AI技能,并将其快速部署到端侧计算设备。
在“设备管理”页面选择“设备状态”为“在线”,“应用运行状态”为“停止”的设备,单击“操作”列的“启用”。 待启用应用成功,页面右上角显示“启动成功”,同时“应用运行状态”更新为“运行中”。
部署服务(在线服务) 工作流中部署在线服务时,会使用到计算型实例资源。 计费模式 按需购买。购买方式比较灵活,可以即开即停。
评估模型 在“模型评估”页面,您可以针对当前版本的模型进行模型评估,查看评估参数对比和详细评估,也可以模拟在线测试。 图1 评估模型 模型评估 “模型评估”下侧显示当前模型的版本、验证集数量。