AI开发平台MODELARTS-自定义镜像规范:“train_params.json”示例

时间:2024-10-23 09:02:58

“train_params.json”示例

表6 training_methods参数说明

参数名称

说明

name

自定义的训练方式。

hyperparameters

训练方式包含的超参。具体参数说明请参见表7

表7 hyperparameters参数说明

参数名称

说明

name

超参的名称,只能包含英文、数字、下划线。

type

支持的超参类型,支持float、int、str或bool。

required

超参是否必选,支持true、false。必选不可删除,非必选可删除。

default

超参的默认值,如果无默认值,则填写空双引号。

help

超参的说明,不能超过20个字符。

{
    "training_methods": [
        {
            "name": "全参微调",
            "hyperparameters": [
                {
                    "name": "lr",
                    "type": "float",
                    "required": true,
                    "default": 0.001,
                    "help": "学习率"
                },
                {
                    "name": "per_device_eval_batch_size",
                    "type": "int",
                    "required": false,
                    "default": 32,
                    "help": "批大小"
                },
                {
                    "name": "logging_steps",
                    "type": "int",
                    "required": false,
                    "default": 24,
                    "help": "每多少步记录一次步骤"
                },
                {
                    "name": "save_strategy",
                    "type": "str",
                    "required": true,
                    "default": "epoch",
                    "help": "训练过程中保存checkpoint的策略"
                },
                {
                    "name": "num_train_epochs",
                    "type": "int",
                    "required": true,
                    "default": 20,
                    "help": "训练的总epochs数"
                },
                {
                    "name": "warmup_ratio",
                    "type": "float",
                    "required": true,
                    "default": 0.1,
                    "help": "用于指定线性热身占总训练步骤的比例"
                }
            ]
        }
    ]
}
support.huaweicloud.com/aimarket-modelarts/ma_gallery_0057.html