检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
详细评估 后续操作 针对当前版本的模型,经过“整体评估”和“详细评估”后,如果根据业务需求,模型还需继续优化,请单击“上一步”,回到“模型训练”步骤,详细操作指导请见训练模型。 如果模型已达到业务需求,请单击“发布部署”,进入“服务部署”步骤,详情请见部署服务。 父主题: 多语种文本分类工作流
选择当前资源类型为主机集群的环境,作为部署对象。 选择软件包 选择制品仓库中需要部署的软件包。 下载到主机的部署目录 软件包下载到目标主机的路径。 控制选项 配置是否启用该操作。 失败后继续运行:当前步骤部署失败后,应用是否继续部署后续的步骤。 使用sudo权限执行:配置是否使用sudo权限部署该步骤。 表2
压缩NLP大模型 模型在部署前,通过模型压缩可以降低推理显存占用,节省推理资源提高推理性能。 平台当前仅可对NLP大模型进行压缩,支持压缩的模型清单请详见《产品介绍》> “模型能力与规格 > 盘古NLP大模型能力与规格”。 登录ModelArts Studio大模型开发平台,在“我的空间”模块,单击进入所需空间。
应用部署 草稿应用无法部署,怎样处理? 部署应用时错误信息的说明有哪些? 部署应用失败,如何在日志中定位失败原因? 部署需要使用cce资源的应用报403(权限不足),怎样处理? 如何回滚部署版本? 应用部署超时,怎样处理? 可以设置批量部署、增量部署等部署策略吗? 本地软件包是不
训练模型”,并配置训练参数,开始训练模型。 预训练模型 当前服务提供预置预训练模型“高精版”、“均衡版”、“基础版”,在“预训练模型”列表中可查看“模型精度”、“推理速度”、“训练速度”和模型“简介”。 参数配置 在“参数配置”填写“学习率”、“训练轮次”和“语种”。 “学习率”用来控制模型的学习速度,范围为(0
使用“能力调测”调用科学计算大模型 能力调测功能支持用户调用预置或训练后的科学计算大模型。使用该功能前,请完成模型的部署操作,步骤详见创建科学计算大模型部署任务。 使用“能力调测”调用科学计算大模型可实现包括全球中期天气要素预测、全球中期降水预测、全球海洋要素、区域海洋要素、全球
在左侧的导航栏选择“应用业务模型ABM > 模型地图”。 在搜索栏中输入需要查询的资产关键字,选择查询资产的类型,支持资产目录、数据标准,技术实例,也可根据最近热词进行搜索。 模型地图中支持进行标注配置和检索配置,帮助用户更高效的检索到所需资产,具体配置操作参考配置模型地图。 父主题: 应用业务模型使用指导
Studio大模型开发平台,在“我的空间”模块,单击进入所需空间。 获取调用路径。 在左侧导航栏中选择“模型开发 > 模型部署”。 获取已部署模型的调用路径。在“我的服务”页签,单击状态为“运行中”的模型名称,在“详情”页签,可获取模型调用路径,如图1。 图1 获取已部署模型的调用路径
完成模型配置。 模型级别:可选择“初始模型”和“迭代模型”。“初始模型”为Octopus平台提供的内置模型,“迭代模型”是用户二次微调后的模型。 输入模型:选择需要进行微调的模型和版本。初始模型提供的内置模型如下: 表1 Octopus平台提供的内置模型 模型名称 说明 hw_model_3d_detection
编辑模型包 用户可以使用编辑功能编辑模型包内的文件,上传新文件等。 单击模型包“操作”列对应的。 进入WebIDE模型包编辑界面。 模型包需配置了web ide开发环境才可以进行编辑。如果当前有可用的开发环境,请从模型包记录“开发环境”对应的下拉框内选择可用环境来切换当前环境;如
较于WebSocket(双向实时),它更加轻量级且易于实现。 前提条件 在线服务中的模型导入选择的镜像需支持SSE协议。 约束与限制 SSE协议只支持部署在线服务。 只支持自定义镜像导入模型部署的在线服务。 调用API访问在线服务时,对预测请求体大小和预测时间有限制: 请求体的大小不超过12MB,超过后请求会被拦截。
系统配置对象模型 参数 类型 说明 操作类型 是否必选 id String 配置项的编号 R - module_name String 配置项所属的模块名称 R - config_name String 配置项的名称 R - config_value String 配置项的值 RU - can_special
部署物体检测服务 模型部署 模型部署操作即将模型部署为在线服务,并且提供在线的测试UI与监控能力。完成模型训练后,可选择准确率理想且训练状态为“运行成功”的版本部署上线。具体操作步骤如下。 在“运行节点”页面中,待服务部署节点的状态变为“等待输入”时,双击“服务部署”进入配置详情页,完成资源的参数配置操作。
部署文本分类服务 模型部署 模型部署操作即将模型部署为在线服务,并且提供在线的测试UI与监控能力。完成模型训练后,可选择准确率理想且训练状态为“运行成功”的版本部署上线。具体操作步骤如下。 在“运行总览”页面中,待服务部署节点的状态变为“等待输入”,双击“服务部署”节点,进入配置详情页,完成资源的参数配置操作。
模型实例 模型实例表位于平台【模型管理】模块,是二级子功能。提供平台用户对数字模型实例配置、管理、维护的功能。 模型实例基于基础模型新建实例对象运行时体现对象实例的具体特征属性。 添加实例 添加模型事件,模型的衍生模型和模型的实例会继承该事件。 操作步骤:在左侧导航栏单击【模型管
者组成属性数据唯一键,两条唯一键相同的属性数据以覆盖方式存储;一个模型中只能配置三个属性为标签,标签配置后标签不能删除,配置标签的属性也不能删除;只有integer、double、string类型的属性可以被配置为标签。示例: 资产ID asset1上依次上报如下六组数据: 资产ID
该规则项检查出的是架构信息树中按模型图构树后显示红色叹号的告警元素。 检查范围 当前模型工程所有逻辑模型图中的逻辑元素。 逻辑元素定义:“工程设置 > 元素构造型”下,绑定到4+1视图:逻辑模型的基础构造型与自定义构造型元素以及逻辑模型架构方案配置的构造型。 包括:在逻辑模型图上创建出来的逻辑
config 否 ModelConfig object 模型配置。 表5 ModelConfig 参数 是否必选 参数类型 描述 llm_model_config 否 LlmModelConfig object Llm模型配置。 表6 LlmModelConfig 参数 是否必选 参数类型
其中“排行榜”展示所有训练出的模型列表,支持对模型进行如下操作: 单击模型所在行对应“操作”列的“详情”,查看模型超参取值和模型评分结果。 单击模型所在行对应“操作”列的“预测”,在新增的“AutoML模型预测”内容中,选择测试数据集test,运行代码框,查看模型预测结果,如图6所示。
部署图像分类服务 模型部署 模型部署操作即将模型部署为在线服务,并且提供在线的测试UI与监控能力。完成模型训练后,可选择准确率理想且训练状态为“运行成功”的版本部署上线。具体操作步骤如下。 在“运行节点”页面中,待服务部署节点的状态变为“等待输入”时,双击“服务部署”进入配置详情页,完成资源的参数配置操作。