AI开发平台MODELARTS-场景介绍:微调训练和预训练的区别

时间:2024-11-05 09:54:16

微调训练和预训练的区别

微调训练是在预训练权重的基础上使用指令数据集进行的,对模型权重进行学习调整。从而针对特定任务达到预期效果。

微调训练与预训练任务的区别主要包括:

  1. 使用的数据不同,微调使用的是指令数据集,在处理数据集时需要将--handler-name 参数指定为GeneralInstructionHandler。
  2. 因数据集不同,loss计算方式不同。需要在微调训练时指定--finetune 和--is-instruction-dataset参数,微调任务的脚本里面已经自动识别添加。
  3. 启动脚本的环境变量RUN_TYPE需要指定为sft或者lora。
support.huaweicloud.com/bestpractice-modelarts/modelarts_10_1640.html