检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
主流开源大模型基于DevServer适配ModelLink PyTorch NPU训练指导(6.3.911) 场景介绍 准备工作 执行预训练任务 执行SFT全参微调训练任务 执行LoRA微调训练任务 查看日志和性能 训练脚本说明参考 常见错误原因和解决方法 父主题: LLM大语言模型训练推理
主流开源大模型基于Standard+OBS+SFS适配ModelLink PyTorch NPU训练指导(6.3.911) 场景介绍 准备工作 预训练 SFT全参微调训练 LoRA微调训练 查看日志和性能 训练脚本说明 常见错误原因和解决方法 父主题: LLM大语言模型训练推理
主流开源大模型基于DevServer适配LlamaFactory PyTorch NPU训练指导(6.3.911) 场景介绍 准备工作 执行训练任务 查看日志和性能 训练benchmark工具 训练脚本说明 附录:训练常见问题 父主题: LLM大语言模型训练推理
主流开源大模型基于Standard+OBS+SFS适配ModelLink PyTorch NPU训练指导(6.3.912) 场景介绍 准备工作 执行训练任务 查看日志和性能 训练脚本说明 常见错误原因和解决方法 父主题: LLM大语言模型训练推理
管理标注数据 同步新数据 ModelArts会自动将数据集中新增的数据同步至标注作业,包含数据及当前标注作业支持的标注信息。 为了快速获取数据集中最新数据,可在标注作业详情页的“全部”、“未标注”或“已标注”页签中,单击“同步新数据”,快速将数据集中的数据添加到标注作业中。 问题现象:
构建Workflow多分支运行场景 Workflow多分支运行介绍 构建条件节点控制分支执行 配置节点参数控制分支执行 配置多分支节点数据 父主题: 开发Workflow命令参考
操作前准备 准备Jenkins环境 上传代码到GitLab代码仓库 安装和初始化配置obsutil工具 安装和初始化配置KooCLI工具 安装Jenkins插件并配置Jenkins工具 父主题: 使用GitLab对接Jenkins自动构建并升级部署到ServiceStage的组件
LoRA微调训练 Step1 上传训练权重文件和数据集 如果在准备代码和数据阶段已经上传权重文件和数据集到容器中,可以忽略此步骤。 如果未上传训练权重文件和数据集到容器中,具体参考上传代码和权重文件到工作环境和上传数据到指定目录章节完成。训练脚本中会自动执行训练前的权重转换操作和数据处理操作。
推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 父主题: 主流开源大模型基于DevServer适配PyTorch NPU推理指导(6.3.906)
训练脚本说明 训练启动脚本说明和参数配置 训练的数据集预处理说明 训练中的权重转换说明 训练tokenizer文件说明 父主题: 主流开源大模型基于DevServer适配PyTorch NPU训练指导(6.3.906)
主流开源大模型基于DevServer适配LlamaFactory PyTorch NPU训练指导(6.3.907) 场景介绍 准备工作 指令监督微调训练任务 查看日志和性能 训练脚本说明 附录:指令微调训练常见问题 父主题: LLM大语言模型训练推理
角色桌面管理 功能简介 系统管理员和合作伙伴管理员可以新增、编辑、复制和删除角色桌面模板。 角色桌面模板主要用于创建自定义桌面时,作为默认模板使用。系统管理员、合作伙伴管理员和普通用户可使用公开的角色桌面模板,在角色桌面首页创建自定义角色桌面。 公开的角色桌面模板会在角色桌面首页
生产员的生产执行 过站采集 包装成品 入库成品 父主题: MBM Space使用示例
生产数据统计与分析 查询产品过站信息 查询生产进度信息 父主题: MBM Space使用示例
租户管理 租户管理 父主题: 系统管理
查看及管理命名空间 支持创建环境、查看当前组织下已开通的命名空间,并将某一个命名空间设置为默认。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 创建环境 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发
创建和管理灰度服务 在SLB中创建灰度服务 在SLB中初始配置灰度服务 在SLB中管理灰度状态 在SLB中创建Action任务 父主题: 配置运维中心负载均衡
将微服务注册到ACMS 使用ACMS进行微服务请求认证前需要将微服务注册到ACMS中。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 微服务注册 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“安全 > 访问凭据管理服务”。
通过IaC分发敏感配置 敏感配置项录入后,需要通过IaC部署后生效变成已发布状态,微服务才能获取。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 步骤一:生成敏感配置项坐标 无论通过什么方式获取敏感配置,都需要有一个唯一标识,让
为主机绑定新创建的业务账号 主机纳管后会自动为主机绑定已规划的业务账号和root账号。如果主机纳管后新创建了业务账号,可以为主机手动绑定新的业务账号。本章节介绍如何为主机绑定新创建的业务账号。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 绑定业务账号