检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
(可选)配置智能边缘平台使用权限。ModelArts的边缘服务依赖智能边缘平台,要求配置Tenant Administrator权限。 注意:Tenant Administrator权限比较大,包含全部云服务的管理权限,而不仅是使用ModelArts服务。请谨慎配置。
服务管理 通过patch操作对服务进行更新 查询服务监控信息 查询服务列表 部署服务 查询支持的服务部署规格 查询服务详情 更新服务配置 删除服务 更新模型服务的单个属性 查询专属资源池列表 查询服务事件日志 启动停止边缘节点服务实例 查询服务更新日志 添加资源标签 删除资源标签
按边缘化程度统计框数量的分布 Marginalization Value of Bounding Boxes 横坐标:边缘化程度,即目标框中心点距离图片中心点的距离占图片总距离的比值,值越大表示物体越靠近边缘。
node:list 通过IEF部署边缘服务。
框内包含整个物体的全部,画框边缘不可与待标注的物体的边缘轮廓相交,在此基础之上确保边缘和待标注物体间不要留着空隙,避免背景对模型训练造成干扰。 针对图像分割场景,开始标注前,您需要了解: 图片中需要提取轮廓的物体都要标注。 支持使用多边形标注和极点标注。
表4 result结构 参数 参数类型 描述 node_id String 待查询的边缘节点ID,仅当infer_type为edge时存在。 node_name String 边缘节点名称。 operation String 操作类型,取值deploy/delete。
edge表示边缘服务,通过华为云智能边缘平台,在边缘节点将模型部署为一个Web Service,需提前在IEF(智能边缘服务)创建好节点。
模型使用CV2包部署在线服务报错 服务状态一直处于“部署中” 服务启动后,状态断断续续处于“告警中” 服务部署失败,报错No Module named XXX IEF节点边缘服务部署失败 批量服务输入/输出obs目录不存在或者权限不足 部署在线服务出现报错No CUDA runtime
ModelArts在线服务和边缘服务有什么区别? 在ModelArts中部署模型时,为什么无法选择Ascend Snt3资源? ModelArts线上训练得到的模型是否支持离线部署在本地? ModelArts在线服务预测请求体大小限制是多少?
node_name String 边缘节点名称。 operation String 操作类型,取值: deploy:部署 delete:删除 node_id String 边缘节点ID。在IEF上创建边缘节点后可得到。
边缘节点ID数组,节点ID为IEF(智能边缘平台)的边缘节点ID,在IEF上创建边缘节点后可得到。 mapping_rule 否 Object batch服务类型可选。输入参数与csv数据的映射关系,仅当mapping_type为csv时需要填写。
支持在线推理、批量推理、边缘推理多形态部署。 AI工程化能力,支持AI全流程生命周期管理 支持MLOps能力,提供数据诊断、模型监测等分析能力,训练智能日志分析与诊断。 容错能力强,故障恢复快 提供机柜、节点、加速卡、任务多场景故障感知和检测。
modelarts:service:delete - √ √ 启动停止服务 PUT /v1/{project_id}/services/{service_id} (request body携带status信息) modelarts:service:action - √ √ 启动停止边缘节点服务实例
对于在线/批量/边缘服务,因资源ID与账单中上报的资源ID不一致,所以需通过如下方法查询账单停止计费: 使用公共资源池创建的在线/批量/边缘服务,通过此方式停止服务后,即可停止计费。 使用专属资源池创建的在线/批量/边缘服务,需删除对应的专属资源池。删除后,即可停止计费。
KMS CMKFullAccess 可选 IEF智能边缘平台 授予子用户智能边缘平台使用权限,ModelArts的边缘服务依赖智能边缘平台,要求配置Tenant Administrator权限。
进入“ModelArts>模型部署>边缘服务”页面,检查是否有“运行中”的推理作业。如果有,单击该作业列表右方操作下的“停止”即可停止计费。 父主题: 计费FAQ
操作 部署:将模型发布为在线服务、批量服务或边缘服务。 发布:将模型发布至AI Gallery,详情请参见发布ModelArts模型。 删除:针对模型的某一版本进行删除。 查看模型详情 当模型创建成功后,您可以进入模型详情页查看模型的信息。
创建模型 部署模型 部署服务 ModelArts支持将模型部署为在线服务、批量服务和边缘服务。 部署为在线服务 部署为批量服务 访问服务 服务部署完成后,针对在线服务和边缘服务,您可以访问并使用服务,针对批量服务,您可以查看其预测结果。 访问在线服务 查看批量服务预测结果
表3 edge monitor结构 参数 参数类型 描述 node_id String 待查询的边缘节点ID,仅当infer_type为edge时存在。 node_name String 节点名称。 cpu_core_usage Float 已使用CPU核数。
edge表示边缘服务,通过华为云智能边缘平台,在边缘节点将模型部署为一个Web Service,需提前在IEF(智能边缘服务)创建好节点。 是 str service_name 服务名称,支持1-64位可见字符(含中文),名称可以包含字母、中文、数字、中划线、下划线。