检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
oken方式,此参数为必填,请填写Token的值。Token获取方式,请参考认证鉴权。 响应消息 无 请求示例 无 响应示例 无 状态码 状态码 描述 204 操作成功。 400 错误的请求。 404 请求对象不存在。 500 内部错误。 错误码 错误码格式为:SVCSTG.00100
使用在线构建方式新建卡片 支持无模板在线构建图表卡片和表单卡片。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。 使用在线构建方式新建图表卡片 登录AppStage业务控制台。 在快捷入口选择“运营中心”,进入运营中心。 在左侧导航栏选择“看板管理
管理应用中的页面资源 管理组件 管理组件模板 管理库 管理桥接器 管理桥接器模板 管理禁用资产 管理页面模板 父主题: 管理AstroZero中已安装应用的资源
查看AstroZero账号的业务阈值 创建AstroZero实例时,系统会根据所选的规格分配不同级别的业务阈值,从而对账号分配相应的系统资源。本章节将指导您查看当前账号下可以再创建多少App、应用菜单、服务编排、流程编排等,以及查看该账号是否具有数据接入、高级页面等功能。 查看业务阈值
管理应用中的公共组 什么是公共组 公共组是用户的集合,当这个集合中涉及不止一个用户、一种角色时,需要创建公共组。公共组内可以包含用户、业务用户、其他公共组、角色或带有下属的角色。一个用户可以加入多个公共组中。 图1 添加成员 创建公共组 在AstroZero服务控制台,单击“进入首页”,进入应用开发页面。
管理应用中的服务编排 服务编排是一种通过简单的拖拉拽式流程编排以及参数配置的方式,来进行服务开发的能力,并支持对已开发的服务重新进行组合编排。在AstroZero环境配置中,可管理当前账号下所有的服务编排,包括查看、启用、禁用、运行服务编排等。 约束与限制 在AstroZero沙
管理应用中的消息接入 AstroZero提供的消息接入功能,可帮助您快速构建数据接入规则并标准化事件的简单工具。消息接入是从开发环境中打包发布后同步到运行环境中的,在运行环境中,只能修改接入数据,不能新建数据接入。如何新建消息接入,请参见通过数据接入将消息类数据接入AstroZero。
式,此参数为必填,请填写Token的值。Token获取方式,请参考获取用户Token。 响应消息 无 请求示例 无 响应示例 无 状态码 状态码 描述 200 操作成功 400 错误的请求 404 请求对象不存在 500 内部错误 错误码 错误码格式为:SVCSTG.00100.
准备工作 准备环境 准备代码 准备数据 准备镜像 父主题: 主流开源大模型基于Lite Server适配ModelLink PyTorch NPU训练指导(6.3.912)
准备工作 准备环境 准备代码 准备镜像环境 DockerFile构建镜像(可选) 准备数据(可选) 父主题: 主流开源大模型基于Lite Server适配LlamaFactory PyTorch NPU训练指导(6.3.912)
查看日志和性能 单击作业详情页面,则可查看训练过程中的详细信息。 图1 查看训练作业 在作业详情页的日志页签,查看最后一个节点的日志,其包含“elapsed time per iteration (ms)”数据,可换算为tokens/s/p的性能数据。 吞吐量(tokens/s/p):global
场景介绍 方案概览 本文档利用训练框架PyTorch_npu+华为自研Ascend Snt9B硬件,为用户提供了常见主流开源大模型在ModelArts Lite Server上的预训练和全量微调方案。训练框架使用的是ModelLink。 本方案目前仅适用于部分企业客户,完成本方案
准备工作 准备资源 准备数据 准备权重 准备代码 准备镜像 父主题: 主流开源大模型基于Standard+OBS+SFS适配ModelLink PyTorch NPU训练指导(6.3.912)
准备工作 准备环境 准备代码 准备数据 准备镜像环境 父主题: 主流开源大模型基于Lite Cluster适配ModelLink PyTorch NPU训练指导(6.3.910)
2)。对应训练参数 context-parallel-size 。 (此参数目前仅适用于Llama3系列模型长序列训练) LR 2.5e-5 学习率设置。 MIN_LR 2.5e-6 最小学习率设置。 SEQ_LEN 4096 要处理的最大序列长度。 MAX_PE 8192 设置模型能够处理的最大序列长度。
场景介绍 方案概览 本文档利用训练框架PyTorch_npu+华为自研Ascend Snt9B硬件,为用户提供了常见主流开源大模型在ModelArts Standard上的预训练和全量微调方案。 本方案目前仅适用于部分企业客户,完成本方案的部署,需要先联系您所在企业的华为方技术支持。
训练脚本说明 训练启动脚本说明和参数配置 训练的数据集预处理说明 训练的权重转换说明 训练tokenizer文件说明 父主题: 主流开源大模型基于Standard+OBS适配ModelLink PyTorch NPU训练指导(6.3.908)
场景介绍 方案概览 本文档利用训练框架PyTorch_npu+华为自研Ascend Snt9B硬件,为用户提供了常见主流开源大模型在ModelArts Lite Cluster上的训练方案。训练框架使用的是ModelLink。 本方案目前仅适用于企业客户,完成本方案的部署,需要先联系您所在企业的华为方技术支持。
场景介绍 方案概览 本文档利用训练框架PyTorch_npu+华为自研Ascend Snt9B硬件,为用户提供了常见主流开源大模型在ModelArts Standard上的预训练和全量微调方案。 本方案目前仅适用于部分企业客户,完成本方案的部署,需要先联系您所在企业的华为方技术支持。
场景介绍 方案概览 本文档利用训练框架PyTorch_npu+华为自研Ascend Snt9B硬件,为用户提供了常见主流开源大模型在ModelArts Standard上的预训练和全量微调方案。 本方案目前仅适用于部分企业客户,完成本方案的部署,需要先联系您所在企业的华为方技术支持。