AI开发平台MODELARTS-准备代码:代码目录介绍

时间：2024-04-30 18:09:29

AI开发平台MODELARTS

代码目录介绍

AscendCloud-3rdLLM-6.3.902代码包结构介绍如下：

6.3.902-Ascend
    ├──llm_evaluation  #推理评测代码包
          ├──benchmark_eval   #精度评测
          ├──benchmark_tools  #性能评测
    ├──llm_train       #模型训练代码包
          ├──AscendSpeed  #基于AscendSpeed的训练代码
                 ├──Megatron-LM  #三方依赖：megatron 
                 ├──ModelLink   #基于AscendSpeed的训练代码
                 ├──scripts/    #训练需要的启动脚本

本教程需要使用到的训练相关代码存放在AscendCloud-3rdLLM-6.3.902/llm_train/AscendSpeed目录下，具体文件介绍如下：

├──llm_train       #模型训练代码包
          ├──AscendSpeed   #基于AscendSpeed的训练代码
                 ├──Megatron-LM  #三方依赖megatron 
                 ├──ModelLink   #基于AscendSpeed的训练代码，数据预处理脚本
                 ├──scripts/    #训练需要的启动脚本，调用ModelLink
                         ├──tools    #权重转换脚本
                         ├──llama2   #Llama2的训练代码
                              ├──llama2.sh                 #Llama2训练主脚本
                              ├──lora-llama2-13b.sh        #LoRA微调训练脚本，执行前需要修改参数，执行时会调用llama2.sh脚本
                              ├──pretrain-llama2-13b.sh    #预训练脚本，执行前需要修改参数，执行时会调用llama2.sh脚本
                              ├──retrain-llama2-13b.sh     #断点续训练脚本，执行前需要修改参数，执行时会调用llama2.sh脚本
                              ├──sft-llama2-13b.sh         #SFT全参微调脚本，执行前需要修改参数，执行时会调用llama2.sh脚本

上一篇：AI开发平台MODELARTS-准备代码:上传代码到工作环境

下一篇：AI开发平台MODELARTS-准备代码:上传代码到工作环境