检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用数据工程构建NLP大模型数据集 NLP大模型支持接入的数据集类型 盘古NLP大模型仅支持接入文本类数据集，该数据集格式要求请参见文本类数据集格式要求。 构建NLP大模型所需数据量 使用数据工程构建盘古NLP大模型数据集进行模型训练时，所需数据量见表1。 表1 构建NLP大模型所需数据量
类数据集评估任务。 创建图片类数据集评估标准步骤如下： 登录ModelArts Studio大模型开发平台，进入所需操作空间。 图1 进入操作空间 在左侧导航栏中选择“数据工程 > 数据评估 > 评估标准”，平台预置的文本类数据集评估标准“图片数据质量标准 V1.0”，单击评估标准名称，可以查看具体的评估项。
使用数据工程准备与处理数据集 数据工程介绍 数据工程使用流程 数据集格式要求 导入数据至盘古平台 加工数据集 标注数据集 评估数据集 发布数据集 数据工程常见报错与解决方案
图片类数据集格式要求 ModelArts Studio大模型开发平台支持创建图片类数据集，创建时可导入图片、图片+Caption、图片+QA对三种类型的数据，具体格式要求详见表1。 表1 图片类数据集格式要求 文件内容 文件格式 文件要求 图片 tar、图片目录 图片：支持jpg
使用数据工程构建科学计算大模型数据集 科学计算大模型支持接入的数据集类型 盘古科学计算大模型仅支持接入气象类数据集，该数据集格式要求请参见气象类数据集格式要求。 构建科学计算大模型训练数据要求 构建科学计算大模型进行训练的数据要求见表1。 表1 科学计算大模型训练数据要求 模型类别
> 数据发布”，单击界面右上角“创建发布数据集”。 在“创建发布数据集”页面，选择“其他”类型的数据集，当前可选“自定义”类型的数据。 图2 创建其他类数据集发布任务 当前其他类数据集仅支持发布默认格式，选择好数据集的发布格式后，单击“下一步”。 设置数据集的“资产可见性”，填写数
数据发布”，单击界面右上角“创建发布数据集”。 在“创建发布数据集”页面，选择“预测”类型的数据集。并根据训练任务场景选择“时序”、“回归分类”类型的数据。 图2 创建预测类数据集发布任务 当前预测类数据集仅支持发布默认格式，选择好数据集的发布格式后，单击“下一步”。 设置数据集
> 数据发布”，单击界面右上角“创建发布数据集”。 在“创建发布数据集”页面，选择“视频”类型的数据集。 图2 创建视频数据集发布任务 勾选所需要的数据集后，单击“下一步”进入数据过滤步骤。 数据过滤阶段可以设置多种过滤属性，对视频数据集进行筛选。例如，过滤掉数据集中低于360分辨率的视频。
> 数据发布”，单击界面右上角“创建发布数据集”。 在“创建发布数据集”页面，选择“气象”类型的数据集，当前可选“海洋气象”类型的数据。 图2 创建气象类数据集发布任务 当前气象类数据集仅支持发布默认格式，选择好数据集的发布格式后，单击“下一步”。 设置数据集的“资产可见性”，填写
ModelArts Studio大模型开发平台支持标注操作的数据集类型如下： 文本类数据集，详见创建文本类数据集标注任务。 视频类数据集，详见创建视频类数据集标注任务。 图片类数据集，详见创建图片类数据集标注任务。 父主题： 标注数据集
上线加工后的文本类数据集 加工后的文本类数据集需要执行上线操作，用于后续的数据标注、评估、发布任务，具体步骤如下： 登录ModelArts Studio大模型开发平台，进入所需操作空间。 图1 进入操作空间 在左侧导航栏中选择“数据工程 > 数据加工”，在数据集操作列单击“上线”，执行上线操作。
创建视频类数据集评估任务 创建视频类数据集评估任务前，请先完成创建视频类数据集加工任务。 创建视频类数据集评估任务步骤如下： 登录ModelArts Studio大模型开发平台，进入所需操作空间。 图1 进入操作空间 在左侧导航栏中选择“数据工程 > 数据评估 > 评估任务”，单击界面右上角“创建评估任务”。
发布文本类数据集 原始数据集和加工后的数据集不可以直接用于模型训练，需要独立创建一个“发布数据集”。 文本类数据集支持发布的格式为： 默认格式：平台默认的格式。 盘古格式：训练盘古大模型时，需要将数据集格式发布为“盘古格式”。 自定义格式：文本类数据集可以使用自定义脚本进行数据格式转换。
上线加工后的视频类数据集 加工后的视频类数据集需要执行上线操作，用于后续的数据标注、评估、发布任务，具体步骤如下： 登录ModelArts Studio大模型开发平台，进入所需操作空间。 图1 进入操作空间 在左侧导航栏中选择“数据工程 > 数据加工”，在数据集操作列单击“上线”，执行上线操作。
上线加工后的气象类数据集 加工后的气象类数据集需要执行上线操作，用于后续的数据发布操作，具体步骤如下： 登录ModelArts Studio大模型开发平台，进入所需操作空间。 图1 进入操作空间 在左侧导航栏中选择“数据工程 > 数据加工”，在数据集操作列单击“上线”，执行上线操作。
创建视频类数据集标注任务 创建视频类数据集标注任务前，请先完成创建视频类数据集加工任务。 创建视频类数据集标注任务步骤如下： 登录ModelArts Studio大模型开发平台，进入所需操作空间。 图1 进入操作空间 在左侧导航栏中选择“数据工程 > 数据标注 > 标注管理”，单击页面右上角“创建标注任务”。
图片类数据集，详见发布图片类数据集。 气象类数据集，详见发布气象类数据集。 预测类数据集，详见发布预测类数据集。 其他类数据集，详见发布其他类数据集。 支持发布的数据格式 ModelArts Studio大模型开发平台支持将文本类、图片类数据集发布为三种格式： 默认格式：适用于广泛的
使得在数据准备阶段就能够确保数据的高标准，从而为后续的模型训练和优化打下坚实基础，帮助提升大模型的精度和可靠性。 支持数据评估的数据集类型 ModelArts Studio大模型开发平台支持评估操作的数据集类型如下： 文本类数据集，详见创建文本类数据集评估任务。 视频类数据集，详见创建视频类数据集评估任务。
管理盘古数据资产 数据资产介绍 用户发布的数据集会被纳入数据资产，集中存储在空间资产中。平台为数据资产提供了一系列管理功能，包括查看数据集的详细信息、追踪操作记录、以及数据集的删除管理等。这不仅便于用户对已发布数据集的集中管理，还可帮助用户了解每个数据集的使用情况，从而简化数据资产的
上线标注后的文本类数据集 数据集标注完成并且审核无问题后，需要对该数据集执行上线操作。上线后的数据集可以用于后续的数据评估、发布任务。 上线标注后的数据集步骤如下： 登录ModelArts Studio大模型开发平台，进入所需操作空间。 图1 进入操作空间 在左侧导航栏中选择“数据工程 >
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
