正在生成
详细信息:
检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
昇腾云服务6.3.908版本说明 本文档主要介绍昇腾云服务6.3.908版本配套的镜像地址、软件包获取方式和支持的特性能力。 当前版本仅适用于华为公有云。 配套的基础镜像 镜像地址 获取方式 镜像软件说明 配套关系 西南-贵阳一 PyTorch: swr.cn-southwest-2
需求广场 发布需求 父主题: AI Gallery(旧版)
订阅使用 查找和收藏资产 订阅免费算法 订阅免费模型 下载数据 使用Notebook代码样例 使用镜像 使用AI案例 订阅Workflow 父主题: AI Gallery(旧版)
发布分享 发布免费算法 发布免费模型 发布数据 发布Notebook 父主题: AI Gallery(旧版)
参加活动 报名实践活动(实践) 发布技术文章(AI说) 父主题: AI Gallery(旧版)
推理规范说明 模型包规范 模型模板 自定义脚本代码示例
认证方式 访问在线服务(Token认证) 访问在线服务(AK/SK认证) 访问在线服务(APP认证) 父主题: 访问在线服务
初识ModelArts 父主题: 图解ModelArts
AI开发基础知识 AI开发基本流程介绍 AI开发基本概念 ModelArts中常用概念
配置MaaS访问授权 配置ModelArts委托授权 创建IAM用户并授权使用MaaS
准备工作 准备资源 准备权重 准备代码 准备镜像 准备Notebook 父主题: 主流开源大模型基于Standard适配PyTorch NPU推理指导(6.3.906)
推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 父主题: 主流开源大模型基于Standard适配PyTorch NPU推理指导(6.3.906)
常见问题 模型转换失败怎么办? 图片大Shape性能劣化严重怎么办? 同样功能的PyTorch Pipeline,因为指导要求适配onnx pipeline,两个pipeline本身功能就有差别,如何适配? AOE的自动性能调优使用上完全没有效果怎么办? 迁移后应用出图效果相比GPU无法对齐怎么办
PyTorch迁移性能调优 性能调优总体原则和思路 自动诊断工具MA-Advisor使用指导 性能可视化工具Ascend-Insight使用指导 其他性能分析工具 父主题: GPU训练业务迁移至昇腾的通用指导
主流开源大模型基于DevServer适配PyTorch NPU训练指导(6.3.905) 场景介绍 准备工作 预训练任务 SFT全参微调训练任务 LoRA微调训练 查看日志和性能 训练脚本说明 父主题: LLM大语言模型训练推理
训练脚本说明 训练启动脚本说明和参数配置 训练的数据集预处理说明 训练中的权重转换说明 训练tokenizer文件说明 父主题: 主流开源大模型基于DevServer适配ModelLink PyTorch NPU训练指导(6.3.907)
准备工作 准备环境 准备代码 准备镜像环境 准备数据(可选) 父主题: 主流开源大模型基于DevServer适配LlamaFactory PyTorch NPU训练指导(6.3.907)
基于ModelArts Standard专属资源池训练模型 使用ModelArts Standard专属资源池训练的场景介绍 使用ModelArts Standard专属资源池训练的准备工作 使用ModelArts Standard专属资源池进行单机单卡训练 使用ModelArts
基本配置 权限配置 创建网络 专属资源池VPC打通 ECS服务器挂载SFS Turbo存储 在ECS中创建ma-user和ma-group obsutil安装和配置 (可选)工作空间配置 父主题: 专属资源池训练
FAQ CUDA和CUDNN CloudShell调试方法 run.sh脚本测试ModelArts训练整体流程 ModelArts环境挂载目录说明 如何查看训练环境变量 infiniband驱动的安装 Tensorboard的使用 如何保证训练和调试时文件路径保持一致 父主题: 专属资源池训练