AI开发平台MODELARTS-ChatGLM系列模型基于ModelArts的全参微调训练:Step2 准备训练数据

时间：2024-01-26 16:03:13

AI开发平台MODELARTS

Step2 准备训练数据

ChatGLM-6B-finetune训练使用的是ADGEN数据集，可以从 Tsinghua Cloud下载。下载数据集之后，请参考以下要求创建OBS桶中的文件夹，并上传数据到OBS桶中，用于后续的算法微调训练。

OBS文件夹目录要求如下：

{chatglm-mindspore-ma}          # OBS对象桶，用户可以自定义名称，例如：chatglm-mindspore-ma
     -{data}                    # OBS文件夹，用于存放训练输入数据，用户可以自定义名称，例如：data
            -{AdvertiseGen}     # OBS文件夹，用于存放训练输入数据，用户可以自定义名称，例如：AdvertiseGen
                - train.json    # 训练数据集
                - dev.json      # 评估数据集
     -{OBS文件夹}               #训练输出路径，用于存放训练生成的模型文件等，用户可以自定义名称，例如：output
     -{OBS文件夹}               #作业日志路径，用于存放训练日志，用户可以自定义名称，例如：log

上一篇：AI开发平台MODELARTS-LLaMA系列模型基于ModelArts的全参数微调训练:Step2 准备训练数据

下一篇：AI开发平台MODELARTS-应用场景介绍:昇腾应用样例列表