AI开发平台MODELARTS-ModelArts最佳实践案例列表:LLM大语言模型训练推理场景

时间：2025-01-03 09:38:40

AI开发平台MODELARTS

LLM大语言模型训练推理场景

样例	场景	说明
主流开源大模型基于DevServer适配ModelLink PyTorch NPU训练指导主流开源大模型基于DevServer适配LlamaFactory PyTorch NPU训练指导	预训练、SFT全参微调训练、LoRA微调训练	介绍主流的开源大模型Llama系列、Qwen系列、Yi系列、Baichuan系列、ChatGLM系列等基于ModelArts DevServer的训练过程，训练使用PyTorch框架和昇腾NPU计算资源。训练后的模型可用于推理部署，搭建大模型问答助手。
主流开源大模型基于Standard+OBS适配PyTorch NPU训练指导主流开源大模型基于Standard+OBS+SFS适配PyTorch NPU训练指导	预训练、SFT全参微调训练、LoRA微调训练	介绍主流的开源大模型Llama系列、Qwen系列、Yi系列、Baichuan系列、ChatGLM系列等基于ModelArts Standard的训练过程，训练使用PyTorch框架和昇腾NPU计算资源。训练后的模型可用于推理部署，搭建大模型问答助手。
主流开源大模型基于DevServer适配PyTorch NPU推理指导	推理部署、推理性能测试、推理精度测试、推理模型量化	介绍主流的开源大模型Llama系列、Qwen系列、Yi系列、Baichuan系列、ChatGLM系列等基于ModelArts DevServer的推理部署过程，推理使用PyTorch框架和昇腾NPU计算资源。启动推理服务后，可用于搭建大模型问答助手。
主流开源大模型基于Standard适配PyTorch NPU推理指导	推理部署、推理性能测试、推理精度测试、推理模型量化	介绍主流的开源大模型Llama系列、Qwen系列、Yi系列、Baichuan系列、ChatGLM系列等基于ModelArts Standard的推理部署过程，推理使用PyTorch框架和昇腾NPU计算资源。启动推理服务后，可用于搭建大模型问答助手。