检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Standard模型部署 ModelArts Standard提供模型、服务管理能力,支持多厂商多框架多功能的镜像和模型统一纳管。 通常AI模型部署和规模化落地非常复杂。 例如,智慧交通项目中,在获得训练好的模型后,需要部署到云、边、端多种场景。
文件大小规范 当使用公共资源池时,SWR的镜像大小(指下载后的镜像大小,非SWR界面显示的压缩后的镜像大小)和OBS模型包大小总和不大于30G。
type String 自动停止类别。 timing:自动停止。 idle:空闲停止。 update_at Long 实例最后更新(不包括探活心跳)的时间,UTC毫秒。 表7 Pool 参数 参数类型 描述 id String 专属资源池ID。
type String 自动停止类别。 timing:自动停止。 idle:空闲停止。 update_at Long 实例最后更新(不包括探活心跳)的时间,UTC毫秒。 表12 Pool 参数 参数类型 描述 id String 专属资源池ID。
注意业务基础镜像选择Ascend+PyTorch镜像。 配置好的容器环境如下图所示: 图1 环境配置完成 父主题: 基于AIGC模型的GPU推理业务迁移至昇腾指导
type String 自动停止类别。 timing:自动停止。 idle:空闲停止。 update_at Long 实例最后更新(不包括探活心跳)的时间,UTC毫秒。 表7 Pool 参数 参数类型 描述 id String 专属资源池ID。
统一镜像Runtime的命名规范:<AI引擎名字及版本> - <硬件及版本:cpu或cuda或cann> - <python版本> - <操作系统版本> - <CPU架构> 表5 支持的常用引擎及其Runtime 模型使用的引擎类型 支持的运行环境(Runtime) 注意事项 TensorFlow
表2 Query参数 参数 是否必选 参数类型 描述 duration 否 Long 启动后运行时长(单位:毫秒)。 type 否 String 自动停止类别,默认为timing。 timing:自动停止。 idle:空闲停止。
图1 搜索资产 表1 快速搜索方式 区域 类型 搜索方式 支持的AI资产 1 搜索华为云官方资产 在页面单击“官方”,筛选出所有的华为云官方资产,该类资产均可免费使用。 Notebook、算法、模型 2 搜索精选商品 在页面单击“精选”,筛选出所有被标记为精选的资产。
type String 自动停止类别。 timing:自动停止。 idle:空闲停止。 update_at Long 实例最后更新(不包括探活心跳)的时间,UTC毫秒。 表7 Pool 参数 参数类型 描述 id String 专属资源池ID。
表8 LeaseReq 参数 是否必选 参数类型 描述 duration 否 Long 定时停止,以当前时刻为起点,运行的时长(到期后自动停止)。单位:毫秒。 type 否 String 自动停止类别,默认为timing。
原因分析 训练镜像的numpy版本与Notebook中不一致。
PyTorch1.0引擎提示“RuntimeError: std:exception” 问题现象 在使用PyTorch1.0镜像时,必现如下报错: “RuntimeError: std:exception” 原因分析 PyTorch1.0镜像中的libmkldnn软连接与原生torch
当前支持免费分享和订阅的资产类型有:Notebook代码样例、数据集、算法、模型、镜像。 商用资产由华为云云商店提供卖家发布和买家购买相关功能,AI Gallery仅提供列表展示。
以及默认启动命令 模型使用的引擎类型 支持的运行环境(Runtime) 注意事项 TensorFlow python3.6 python2.7(待下线) tf1.13-python3.6-gpu tf1.13-python3.6-cpu tf1.13-python3.7-cpu tf1.13
查询Notebook资源类型下的标签 功能介绍 查询用户当前project下Notebook实例类型下的标签,默认查询所有工作空间,无权限不返回标签数据。 调试 您可以在API Explorer中调试该接口,支持自动认证鉴权。
您可以使用自定义镜像来实现。 父主题: 规格限制
原因分析 检查配置后发现,是镜像版本太低,旧版的镜像与当前训练作业不兼容。 解决措施 使用PyCharm Toolkit提交训练作业时,常用框架选择训练作业支持的版本,具体支持哪些版本请参考训练作业支持的AI引擎。
委托类型:选择“云服务”。 云服务:选择“ModelArts”。 持续时间:选择“永久”。 勾选新建的委托策略,然后单击“下一步”。设置最小授权范围选择“所有资源”,然后单击“确定”。 为子账号配置ModelArts委托权限。
表2 Query参数 参数 是否必选 参数类型 描述 feature 否 String 实例类别,默认为NOTEBOOK。枚举值如下: DEFAULT:CodeLab免费规格实例,每个用户最多只能创建一个。 NOTEBOOK:计费规格实例。