盘古大模型 PANGULARGEMODELS-科学计算大模型训练流程与选择建议:科学计算大模型训练流程介绍

时间:2025-02-28 09:10:48

科学计算大模型训练流程介绍

科学计算大模型的训练主要分为两个阶段:预训练与微调。

  • 预训练阶段:预训练是模型学习基础知识的过程,基于大规模通用数据集进行。例如,在区域海洋要素预测中,可以重新定义深海变量、海表变量,调整深度层、时间分辨率、水平分辨率以及区域范围,以适配自定义区域的模型场景。此阶段需预先准备区域的高精度数据。
  • 微调阶段:在预训练模型的基础上,微调利用特定领域的数据进一步优化模型,使其更好地满足实际任务需求。例如,区域海洋要素预测的微调是在已有模型上添加最新数据,不改变模型结构参数或引入新要素,以适应数据更新需求。

在实际流程中,通过设定训练指标对模型进行监控,以确保效果符合预期。在微调后,评估用户模型,并进行最终优化,确认其满足业务需求后,进行部署和调用,以便实际应用。

support.huaweicloud.com/usermanual-pangulm/pangulm_04_0186.html