AI开发平台MODELARTS-预训练:Step4 开启训练故障自动重启功能

时间:2024-12-09 20:36:35

Step4 开启训练故障自动重启功能

创建训练作业时,可开启自动重启功能。当环境问题导致训练作业异常时,系统将自动修复异常或隔离节点,并重启训练作业,提高训练成功率。为了避免丢失训练进度、浪费算力。此功能已适配断点续训练。

图2 开启故障重启

断点续训练是通过checkpoint机制实现。checkpoint机制是在模型训练的过程中,不断地保存训练结果(包括但不限于EPOCH、模型权重、优化器状态、调度器状态)。即便模型训练中断,也可以基于checkpoint继续训练。

当训练作业发生故障中断本次作业时,代码可自动从训练中断的位置继续训练,加载中断生成的checkpoint,中间不需要改动任何参数。可以通过训练脚本中的SAVE_INTERVAL参数来指定间隔多少step保存checkpoint。

  • 如果要使用自动重启功能,资源规格必须选择八卡规格。
  • 当前功能还处于试验阶段,只有llama3-8B/70B适配。
support.huaweicloud.com/bestpractice-modelarts/modelarts_llm_train_91083.html