检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
出现此问题现象,通常是因为您部署的模型过大导致的。解决方法如下: 精简模型,重新导入模型和部署上线。 购买专属资源池,在部署上线为在线服务时,使用专属资源池进行部署。 父主题: 服务部署
访问在线服务支持的传输协议 使用WebSocket协议的方式访问在线服务 使用Server-Sent Events协议的方式访问在线服务 父主题: 将模型部署为实时推理作业
资源和成本规划 该解决方案主要部署如下资源,以下费用仅供参考,具体请参考华为云官网价格详情,实际收费以账单为准。 表1 成本预估 华为云服务 配置示例 每月预估花费 弹性云服务器 ECS 区域:西南-贵阳一 按需计费:0.31元/小时 规格:鲲鹏通用计算增强型 kc1 | 2核 |
Flask应用 使用此启动配置来运行 Flask 应用程序。该配置将执行 “python Flask run” 命令,启动内置 Flask 开发服务器。 启动配置属性 启动配置示例 父主题: 启动配置
Kubernetes部署 本部署步骤通过kubectl命令来控制您的kubernetes集群,进行部署操作,目前该步骤已拆分成以下三个步骤,您可根据项目情况择优进行部署。 Kubernetes Manifest部署(CCE集群) Kubernetes快速部署(CCE集群) Kubernetes自定义集群部署
访问在线服务支持的认证方式 通过Token认证的方式访问在线服务 通过AK/SK认证的方式访问在线服务 通过APP认证的方式访问在线服务 父主题: 将模型部署为实时推理作业
实施步骤 准备工作 快速部署 开始使用 快速卸载
通过自定义镜像创建模型失败 问题现象 通过用户自定义镜像创建模型失败。 原因分析 可能原因如下: 导入模型使用的镜像地址不合法或实际镜像不存在 用户给ModelArts的委托中没有SWR相关操作权限 用户为子账号,没有主账号SWR的权限 使用的是非自己账号的镜像 使用的镜像为公开镜像
导入模型提示该账号受限或者没有操作权限 问题现象 在导入AI应用时,提示用户账号受限。 原因分析 提示用户账号受限,常见原因有如下几种: 导入模型账号欠费导致被冻结; 导入模型账号没有对应工作空间的权限; 导入模型账号为子账号,主账号没有给子账号赋予模型相关权限。 权限说明请参见:策略及授权项说明;
在“映射配置”页签,单击“新建映射”,创建维度的映射(映射是指维度与物理模型源表的映射)。需配置如下参数: 图3 映射配置 表4 映射参数 参数名称 说明 *映射名称 只能包含中文、英文字母、数字和下划线。 *来源模型 在下拉列表中选择一个已创建的关系模型。如果未创建关系模型,请参见关系建模进行创建。
修订记录 表1 修订记录 发布日期 修订记录 2024-10-30 第一次正式发布。
如何将Keras的.h5格式模型导入到ModelArts中 ModelArts不支持直接导入“.h5”格式的模型。您可以先将Keras的“.h5”格式转换为TensorFlow的格式,然后再导入ModelArts中。 从Keras转TensorFlow操作指导请参见其官网指导。 父主题:
服务部署 自定义镜像模型部署为在线服务时出现异常 部署的在线服务状态为告警 服务启动失败 服务部署、启动、升级和修改时,拉取镜像失败如何处理? 服务部署、启动、升级和修改时,镜像不断重启如何处理? 服务部署、启动、升级和修改时,容器健康检查失败如何处理? 服务部署、启动、升级和修改时,资源不足如何处理?
用户创建模型时构建镜像或导入文件失败 问题现象 用户创建模型时,构建镜像失败,失败日志中提示下载obs文件失败(Get object size from OBS failed!)。 图1 下载obs文件失败 用户创建模型时,事件提示:复制模型文件失败,请检查OBS权限是否正常(Failed
本地验证镜像并上传镜像至SWR服务:验证自定义镜像的API接口功能,无误后将自定义镜像上传至SWR服务。 将自定义镜像创建为模型:将上传至SWR服务的镜像导入ModelArts的模型。 将模型部署为在线服务:将导入的模型部署上线。 本地构建镜像 以linux x86_x64架构的主机为例,您可以购买相同规格的EC
已在视觉套件控制台选择“零售商品识别工作流”新建应用,并训练模型,详情请见训练模型。 评估模型 在“模型评估”页面,您可以针对当前版本的模型进行模型评估,查看评估参数对比和详细评估,也可以模拟在线测试。 图1 模型评估 模型评估 “模型评估”下侧显示当前模型的版本、标签数量、验证集数量。 评估参数对比
请见选择数据。 训练模型 在“应用开发>模型训练”页面,配置训练参数,开始训练模型。 输出路径 模型训练后,输出的模型和数据存储在OBS的路径。单击输入框,在输出路径的对话框中选择OBS桶和文件夹,然后单击“确定”。 预训练模型 当前服务提供安全帽检测预置模型“saved_model
资产模型 创建资产模型 获取资产模型列表 获取资产模型详情 修改资产模型 删除资产模型 父主题: API列表
cipherModelfile 其中“model_file”为待加密模型文件,“cipher_file”为加密之后的模型文件。 接口调用 和未加密模型一样调用接口,详情请见: 创建模型实例 模型推理 示例-模型管理 父主题: 模型管理模块
模型训练使用流程 AI模型开发的过程,称之为Modeling,一般包含两个阶段: 开发阶段:准备并配置环境,调试代码,使代码能够开始进行深度学习训练,推荐在ModelArts开发环境中调试。 实验阶段:调整数据集、调整超参等,通过多轮实验,训练出理想的模型,推荐在ModelArts训练中进行实验。