检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
node_id String 边缘节点ID,边缘服务字段。 model_running_instance_count Integer 模型运行中实例数。 model_instance_count Integer 模型实例数。
(可选)配置智能边缘平台使用权限。ModelArts的边缘服务依赖智能边缘平台,要求配置Tenant Administrator权限。 注意:Tenant Administrator权限比较大,包含全部云服务的管理权限,而不仅是使用ModelArts服务。请谨慎配置。
部署上线 功能咨询 在线服务 边缘服务 父主题: Standard推理部署
服务管理 通过 patch 操作对服务进行更新 查询服务监控信息 查询服务列表 部署服务 查询支持的服务部署规格 查询服务详情 更新服务配置 删除服务 查询专属资源池列表 查询服务事件日志 启动停止边缘节点服务实例 查询服务更新日志 添加资源标签 删除资源标签 查询推理服务标签
node:list 通过IEF部署边缘服务。
cluster_id String 服务实例使用的专属资源池或边缘资源池ID,仅当配置专属资源池或边缘资源池时返回。 nodes Array of Nodes objects 边缘节点信息,仅当配置ModelArts边缘节点时返回。
按边缘化程度统计框数量的分布 Marginalization Value of Bounding Boxes 横坐标:边缘化程度,即目标框中心点距离图片中心点的距离占图片总距离的比值,值越大表示物体越靠近边缘。
框内包含整个物体的全部,画框边缘不可与待标注的物体的边缘轮廓相交,在此基础之上确保边缘和待标注物体间不要留着空隙,避免背景对模型训练造成干扰。 针对图像分割场景,开始标注前,您需要了解: 图片中需要提取轮廓的物体都要标注。 支持使用多边形标注和极点标注。
表4 result结构 参数 参数类型 描述 node_id String 待查询的边缘节点ID,仅当infer_type为edge时存在。 node_name String 边缘节点名称。 operation String 操作类型,取值deploy/delete。
在线服务和边缘服务有什么区别? 为什么选择不了Ascend Snt3资源? 线上训练得到的模型是否支持离线部署在本地? 服务预测请求体大小限制是多少? 在线服务部署是否支持包周期? 部署服务如何选择计算节点规格? 部署GPU服务支持的Cuda版本是多少? 父主题: 部署上线
edge表示边缘服务,通过华为云智能边缘平台,在边缘节点将模型部署为一个Web Service,需提前在IEF(智能边缘服务)创建好节点。
模型使用CV2包部署在线服务报错 服务状态一直处于“部署中” 服务启动后,状态断断续续处于“告警中” 服务部署失败,报错No Module named XXX IEF节点边缘服务部署失败 批量服务输入/输出obs目录不存在或者权限不足 部署在线服务出现报错No CUDA runtime
边缘节点ID数组,节点ID为IEF(智能边缘平台)的边缘节点ID,在IEF上创建边缘节点后可得到。 mapping_rule 否 Object batch服务类型可选。输入参数与csv数据的映射关系,仅当mapping_type为csv时需要填写。
node_name String 边缘节点名称。 operation String 操作类型,取值: deploy:部署 delete:删除 node_id String 边缘节点ID。在IEF上创建边缘节点后可得到。
支持本地 IDE+ModelArts 插件远程开发能力,线上线下协同开发,开发训练一体化架构,支持大模型分布式部署及推理 统一管理 AI 开发全流程,提升开发效率,记录模型构建实验全流程 多场景部署,灵活满足业务需求 支持云端/边端部署等多种生产环境 支持在线推理、批量推理、边缘推理多形态部署
KMS CMKFullAccess 可选 IEF智能边缘平台 授予子用户智能边缘平台使用权限,ModelArts的边缘服务依赖智能边缘平台,要求配置Tenant Administrator权限。
对于在线/批量/边缘服务,因资源ID与账单中上报的资源ID不一致,所以需通过如下方法查询账单停止计费: 使用公共资源池创建的在线/批量/边缘服务,通过此方式停止服务后,即可停止计费。 使用专属资源池创建的在线/批量/边缘服务,需删除对应的专属资源池。删除后,即可停止计费。
modelarts:service:delete - √ √ 启动停止服务 PUT /v1/{project_id}/services/{service_id} (request body携带status信息) modelarts:service:action - √ √ 启动停止边缘节点服务实例
edge表示边缘服务,通过华为云智能边缘平台,在边缘节点将模型部署为一个Web Service,需提前在IEF(智能边缘服务)创建好节点。 是 str service_name 服务名称,支持1-64位可见字符(含中文),名称可以包含字母、中文、数字、中划线、下划线。
操作 部署:将模型发布为在线服务、批量服务或边缘服务。 发布:将模型发布至AI Gallery,详情请参见发布ModelArts模型。 删除:针对模型的某一版本进行删除。 查看模型详情 当模型创建成功后,您可以进入模型详情页查看模型的信息。