检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
训练脚本说明 训练脚本存放目录说明 不同模型推荐的参数与NPU卡数设置 训练tokenizer文件说明 父主题: Qwen-VL模型基于Standard+OBS适配PyTorch NPU训练指导(6.3.912)
监控Lite Server资源 使用CES监控Lite Server资源 使用DCGM监控Lite Server资源 父主题: Lite Server资源管理
文生图模型训练推理 FlUX.1基于Lite Server适配PyTorch NPU推理指导(6.3.912) FLUX.1基于DevSever适配PyTorch NPU Finetune&Lora训练指导(6.3.911) Hunyuan-DiT基于Lite Server部署适配PyTorch
DeepSeek模型基于ModelArts Lite Server适配MindIE推理部署指导 方案概述 准备权重 部署推理服务 附录:rank_table_file.json文件 附录:config.json文件 附录:部署常见问题 父主题: DeepSeek系列模型推理应用
文生视频模型训练推理 CogVideoX1.5 5b 和 CogVideoX 5b模型基于Lite Server全量8卡序列并行推理指导(6.5.901) CogVideoX1.5 5b模型基于Lite Server适配PyTorch NPU全量训练指导(6.5.901) CogVideoX1
Baichuan2-13B模型基于DevServer适配PyTorch NPU训练指导(6.3.904) 场景介绍 准备工作 预训练 SFT全参微调 LoRA微调训练 推理前的权重合并转换 父主题: LLM大语言模型训练推理
常见错误原因和解决方法 显存溢出错误 网卡名称错误 保存ckpt时超时报错 父主题: 主流开源大模型基于Lite Server适配ModelLink PyTorch NPU训练指导(6.5.901)
准备镜像 镜像方案说明 ECS获取和上传基础镜像 ECS中构建新镜像(可选) 父主题: 准备工作
SFT微调训练 SFT微调数据处理 SFT微调权重转换 SFT微调训练任务 父主题: Qwen系列模型基于Lite Server适配PyTorch NPU训练指导(6.3.904)
推理服务性能评测 语言模型推理性能测试 多模态模型推理性能测试 获取模型推理的Profiling数据 父主题: 主流开源大模型基于Lite Server适配Ascend-vLLM PyTorch NPU推理指导(6.5.901)
准备工作 准备环境 准备代码 准备数据 准备镜像 父主题: Qwen系列模型基于Lite Server适配PyTorch NPU训练指导(6.3.904)
主流开源大模型基于Lite Server适配PyTorch NPU推理指导(6.3.904) 推理场景介绍 部署推理服务 推理性能测试 推理精度测试 父主题: LLM大语言模型训练推理
准备工作 准备资源 准备数据 准备权重 准备代码 准备镜像 父主题: 主流开源大模型基于Standard+OBS+SFS适配ModelLink PyTorch NPU训练指导(6.5.901)
训练脚本说明 训练启动脚本说明和参数配置【旧】 训练tokenizer文件说明 断点续训和故障快恢说明 父主题: 主流开源大模型基于Standard+OBS+SFS适配ModelLink PyTorch NPU训练指导(6.5.901)
训练benchmark工具 工具介绍及准备工作 训练性能测试 训练精度测试 父主题: 主流开源大模型基于Lite Server适配LlamaFactory PyTorch NPU训练指导(6.5.901)
量化 W4A16量化 W8A8量化 W8A16量化 kv-cache-int8量化 父主题: 推理关键特性使用
SFT全参微调训练 SFT全参微调数据处理 SFT全参微调权重转换 SFT全参微调任务 父主题: LLama2系列模型基于Lite Server适配PyTorch NPU训练指导(6.3.904)
预训练 预训练数据处理 预训练任务 断点续训练 查看日志和性能 父主题: GLM3-6B模型基于DevServer适配PyTorch NPU训练指导(6.3.904)
执行训练任务 ascendfactory-cli方式启动(推荐) demo.sh方式启动(历史版本) 父主题: 主流开源大模型基于Lite Server适配LlamaFactory PyTorch NPU训练指导(6.5.901)
Qwen系列模型基于Lite Server适配PyTorch NPU训练指导(6.3.904) 场景介绍 准备工作 预训练 SFT微调训练 LoRA微调训练 推理前的权重合并转换 父主题: LLM大语言模型训练推理