AI开发平台ModelArts-准备代码:模型软件包结构说明

时间：2025-02-12 15:14:14

AI开发平台ModelArts

模型软件包结构说明

本教程需要使用到的AscendCloud-6.3.911中的AscendCloud-LLM-xxx.zip软件包和算子包AscendCloud-OPP，AscendCloud-LLM关键文件介绍如下。

|——AscendCloud-LLM    |──llm_train                 # 模型训练代码包          |──AscendSpeed         # 基于AscendSpeed的训练代码                 |──ascendcloud_patch/   # 针对昇腾云平台适配的功能补丁包                 |──scripts/             # 训练需要的启动脚本                      |──llama2          # llama2系列模型执行脚本的文件夹                      |──llama3          # llama3系列模型执行脚本的文件夹                      |──qwen            # Qwen系列模型执行脚本的文件夹                      |──qwen1.5         # Qwen1.5系列模型执行脚本的文件夹                      |── ...                      |── dev_pipeline.sh  # 系列模型共同调用的多功能的脚本                      |── install.sh       # 环境部署脚本                 |——src/                 # 启动命令行封装脚本，在install.sh里面自动构建    |──llm_inference                     # 推理代码包    |──llm_tools                        # 推理工具

上一篇：AI开发平台ModelArts-附录：训练常见问题:问题1：在训练过程中遇到NPU out of memory

下一篇：AI开发平台ModelArts-附录：训练常见问题:问题3：训练过程报错：ImportError: XXX not found in your environment: flash_attn