检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Code代码节点的输入输出参数如何与其他节点进行交互和传递? 输入：按照函数定义中指定的参数列表配置入参，即传递给函数的实际值。支持输入参数或选择前序节点的输出作为输入。 图1 Code代码节点输入 输出：Python代码的函数中定义的每个变量都可在后置节点中引用。 图2 Code代码节点输出
根据环境ID查询环境纳管的资源 功能介绍 此API用于根据环境ID查询环境纳管的资源。 调试 您可以在API Explorer中调试该接口。 URI GET /v3/{project_id}/cas/environments/{environment_id}/resources 表1
根据配置分组ID获取分组详情 功能介绍 此API用于通过配置分组ID获取配置分组详情。 URI GET /v3/{project_id}/cas/config-groups/{config_group_id} 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是
基于数仓配置图表 配置warehouse类型数据源后，可以基于数仓中创建的指标或视图配置图表，本章节介绍如何配置数仓图表。 前提条件 已创建指标或创建视图。 已新增业务报表页面。 已获取服务运维岗位权限或运维管理员权限，权限申请操作请参见申请权限。 配置数仓图表 进入报表开发页面。
使用OS发现功能手动创建并绑定账号 在华为云上购买的主机如果没有绑定账号，可以通过OS发现功能为主机创建并绑定账号。 前提条件 已获取基础运维岗位权限或运维管理员权限，权限申请操作请参见申请权限。 OS发现 进入AppStage运维中心。 单击，选择“运维 > 主机管理服务（VMS）”。
在WiseDBA中创建Schema 本节介绍如何通过WiseDBA创建Schema。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限，权限申请操作请参见申请权限。 创建Schema 进入AppStage运维中心。 在顶部导航栏选择服务。 单击，选择“微服务开发
敏感配置管理使用流程 由于业务的敏感配置不能明文地存放在版本包、配置中心、IaC代码中，因此业务可以借助STS敏感配置项的功能，存放业务的敏感配置。 敏感配置管理使用流程 录入敏感配置：业务研发人员登录ACMS管理台录入敏感配置。 通过IaC分发敏感配置：业务研发人员编写IaC代
在WiseDBA中创建Database 对于GaussDB和RDS for PostgreSQL数据库，在创建Schema前需要先创建Database。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限，权限申请操作请参见申请权限。 创建Database 进入AppStage运维中心。
准备代码 本教程中用到的模型软件包如下表所示，请提前准备好。 软件配套版本 本方案支持的软件配套版本和依赖包获取地址如表1所示。 表1 软件配套版本和获取地址 软件名称 说明 下载地址 AscendCloud-6.3.911-xxx.zip 说明： 软件包名称中的xxx表示时间戳。
Eagle投机小模型训练 本章节提供eagle小模型自行训练的能力，客户可通过本章节，使用自己的数据训练eagle小模型，并使用自行训练的小模型进行eagle推理。支持llama1系列、llama2系列和Qwen2系列模型。 步骤一：安装Eagle Eagle训练适配代码存放在代码包AscendCloud-LLM-x
场景介绍 方案概览 本文档利用训练框架PyTorch_npu+华为自研Ascend Snt9B硬件，为用户提供了常见主流开源大模型在ModelArts Standard上的预训练和全量微调方案。 本方案目前仅适用于部分企业客户，完成本方案的部署，需要先联系您所在企业的华为方技术支持。
预训练 前提条件 已上传训练代码、训练权重文件和数据集到OBS中，具体参考代码上传至OBS。 Step1 创建训练任务 创建训练作业，并自定义名称、描述等信息。选择自定义算法，启动方式自定义，以及选择上传的镜像。 代码目录选择：OBS桶路径下的llm_train/AscendSpeed代码目录。
准备资源 创建专属资源池 本文档中的模型运行环境是ModelArts Standard。资源规格需要使用专属资源池中的昇腾Snt9B资源，请参考创建资源池购买资源。 推荐使用“西南-贵阳一”Region上的昇腾资源。 专属资源池驱动检查 登录ModelArts控制台，单击“专属资源池
准备镜像 准备大模型推理适用的容器镜像，包括获取镜像地址，了解镜像中包含的各类固件版本，配置Standard物理机环境操作。 镜像版本 本教程中用到基础镜像地址和配套版本关系如下表所示，请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 配套版本 基础镜像 swr.cn-southwest-2
准备代码 本教程中用到的模型软件包如下表所示，请提前准备好。 软件配套版本 本方案支持的软件配套版本和依赖包获取地址如表1所示。 表1 软件配套版本和获取地址 软件名称 说明 下载地址 AscendCloud-6.3.909-xxx.zip 说明： 软件包名称中的xxx表示时间戳。
准备镜像 准备大模型推理适用的容器镜像，包括获取镜像地址，了解镜像中包含的各类固件版本，配置Standard物理机环境操作。 镜像版本 本教程中用到基础镜像地址和配套版本关系如下表所示，请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 配套版本 基础镜像 swr.cn-southwest-2
eagle 投机小模型训练 本章节提供eagle小模型自行训练的能力，客户可通过本章节，使用自己的数据进行训练eagle小模型，并使用自行训练的小模型进行eagle推理。 步骤一：安装Eagle Eagle训练适配代码存放在代码包AscendCloud-LLM-x.x.x.zip
场景介绍 方案概览 本文档利用训练框架PyTorch_npu+华为自研Ascend Snt9B硬件，为用户提供了常见主流开源大模型在ModelArts Lite Server上的预训练和全量微调方案。 本方案目前仅适用于部分企业客户，完成本方案的部署，需要先联系您所在企业的华为方技术支持。
场景介绍 方案概览 本文档利用训练框架PyTorch_npu+华为自研Ascend Snt9B硬件，为用户提供了常见主流开源大模型在ModelArts Lite Server上的预训练和全量微调方案。 本方案目前仅适用于部分企业客户，完成本方案的部署，需要先联系您所在企业的华为方技术支持。
线下容器镜像构建及调试 构建容器镜像并调试 镜像构建及调试与单机单卡相同。 具体操作，请参考线下容器镜像构建及调试。 上传镜像 请参考单机单卡训练的上传镜像章节操作。 父主题： 多机多卡
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
