AI开发平台MODELARTS-LoRA微调训练:Step1 修改训练超参配置
下载AI开发平台MODELARTS用户手册完整版
Step1 修改训练超参配置
以llama2-13b LORA微调为例，执行脚本0_pl_lora_13b.sh 。
修改模型训练脚本中的超参配置，必须修改的参数如表1所示。其他超参均有默认值，可以参考表1按照实际需求修改。
|
参数 |
示例值 |
参数说明 |
|---|---|---|
|
ORIGINAL_TRAIN_DATA_PATH |
/home/ma-user/work/training_data/alpaca_gpt4_data.json |
必须修改。训练时指定的输入数据路径。请根据实际规划修改。 |
|
ORIGINAL_HF_WEIGHT |
/home/ma-user/work/models/llama-2-13b-chat-hf |
必须修改。加载Hugging Face权重（可与tokenizer相同文件夹）时，对应的存放地址。请根据实际规划修改。 |
|
TOKENIZER_PATH |
/home/ma-user/work/tokenizers/llama-2-13b-chat-hf |
该参数为tokenizer文件的存放地址。默认与ORIGINAL_HF_WEIGHT路径相同。如果用户需要将Hugging Face权重与tokenizer文件分开存放时，则需要修改参数。 |
|
INPUT_PRO CES SED_DIR |
/home/ma-user/work/AscendSpeed/processed_for_input/llama2-13b |
该路径下保存“数据转换”和“权重转换”的结果。示例中，默认生成在“processed_for_input”文件夹下。如果用户需要修改，可添加并自定义该变量。 |
|
OUTPUT_SAVE_DIR |
/home/ma-user/work/AscendSpeed/saved_dir_for_output/ |
该路径下统一保存生成的 CKPT、P LOG 、LOG 文件。示例中，默认统一保存在“saved_dir_for_output”文件夹下。如果用户需要修改，可添加并自定义该变量。 |
|
CKPT_SAVE_PATH |
/home/ma-user/work/AscendSpeed/saved_dir_for_output/saved_models/llama2-13b |
保存训练生成的模型 CKPT 文件。示例中，默认保存在“saved_dir_for_output/saved_models”文件夹下。如果用户需要修改，可添加并自定义该变量。 |
|
LOG_SAVE_PATH |
/home/ma-user/work/AscendSpeed/saved_dir_for_output/saved_models/llama2-13b/log |
保存训练过程记录的日志 LOG 文件。示例中，默认保存在“saved_models/llama2-13b/log”文件夹下。如果用户需要修改，可添加并自定义该变量。 |
|
ASCEND_PROCESS_LOG_PATH |
/home/ma-user/work/AscendSpeed/saved_dir_for_output/plog |
保存训练过程中记录的程序堆栈信息日志 PLOG 文件。示例中，默认保存在“saved_dir_for_output/plog”文件夹下。如果用户需要修改，可添加并自定义该变量。 |
|
SAVE_INTERVAL |
10 |
表示训练间隔多少step，则会保存一次权重文件。 |
对于Yi系列模型、ChatGLMv3-6B和Qwen系列模型，还需要手动修改训练参数和tokenizer文件，具体请参见训练tokenizer文件说明。
- ModelArts模型训练_超参搜索简介_超参搜索算法
- ModelArts模型训练_模型训练简介_如何训练模型
- ModelArts模型训练_创建训练作业_如何创建训练作业
- ModelArts分布式训练_分布式训练介绍_分布式调测
- 华为云盘古大模型_华为云AI大模型_盘古人工智能
- 华为云ModelArts_ModelArts开发_AI全流程开发
- ModelArts推理部署_纳管Atlas 500_边缘服务-华为云
- TMS开发_金蝶TMS系统_TMS技术系统_信息化管理_视频
- ModelArts是什么_AI开发平台_ModelArts功能
- ModelArts自定义镜像_自定义镜像简介_如何使用自定义镜像
