华为云首页用户手册

AI开发平台MODELARTS-训练的数据集预处理说明:预训练数据集预处理参数说明

AI开发平台MODELARTS-训练的数据集预处理说明:预训练数据集预处理参数说明

时间：2024-09-14 22:29:35

AI开发平台MODELARTS

预训练数据集预处理参数说明

预训练数据集预处理脚本scripts/llama2/1_preprocess_data.sh 中的具体参数如下：

--input：原始数据集的存放路径。
--output-prefix：处理后的数据集保存路径+数据集名称（例如：moss-003-sft-data）。
--tokenizer-type：tokenizer的类型，可选项有['BertWordPieceLowerCase'，'BertWordPieceCase'，'GPT2BPETokenizer'，'PretrainedFromHF']，一般为PretrainedFromHF。
--tokenizer-name-or-path：tokenizer的存放路径，与HF权重存放在一个文件夹下。
--seq-length：要处理的最大seq length。
--workers：设置数据处理使用执行卡数量 / 启动的工作进程数。
--log-interval：是一个用于设置日志输出间隔的参数，表示输出日志的频率。在训练大规模模型时，可以通过设置这个参数来控制日志的输出。

输出数据预处理结果路径：

训练完成后，以 llama2-13b 为例，输出数据路径为：/home/ma-user/ws/llm_train/AscendSpeed/processed_for_input/llama2-13b/data/pretrain/

上一篇：AI开发平台MODELARTS-训练的数据集预处理说明:微调数据集预处理参数说明

下一篇：AI开发平台MODELARTS-训练的数据集预处理说明:微调数据集预处理参数说明

AI开发平台MODELARTS-训练的数据集预处理说明:预训练数据集预处理参数说明

意见反馈

0/200

提交成功！非常感谢您的反馈，我们会继续努力做到更好反馈提交失败！请稍后重试！

推荐文章

解决方案
相关专题