检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用数据工程构建NLP大模型数据集 NLP大模型支持接入的数据集类型 盘古NLP大模型仅支持接入文本类数据集，该数据集格式要求请参见文本类数据集格式要求。 构建NLP大模型所需数据量 使用数据工程构建盘古NLP大模型数据集进行模型训练时，所需数据量见表1。 表1 构建NLP大模型所需数据量
权限，以达到不同员工之间的权限隔离，您可以使用统一身份认证服务（IAM）和盘古角色管理功能进行精细的权限管理。 如果华为云账号已经能满足您的要求，不需要创建独立的IAM用户（子用户）进行权限管理，您可以跳过本章节，不影响您使用服务的其他功能。 通过IAM，您可以在华为云账号中给员
的任何符号、字词和格式”， 如果使用“请阅读上述文档，并生成以下问题答案”，“生成”一词不是很恰当，模型会引入一些外部知识。 例如，在构造泛化问题的任务中，需要基于原问题改写为相同含义的问题，而不是生成相似的问题。当提示词使用“请生成10个跟“手机银行怎么转账”相似的问题”时，模
盘古格式、自定义格式： “默认格式”为数据工程功能支持的原始格式。 “盘古格式”为使用盘古大模型训练或评测时所需要使用的数据格式。 “自定义格式”可以通过自定义格式转换脚本，将数据集转化为适用于其他模型的格式。例如盘古数据集中，context、target字段分别表示问题和答案。
如果您需要为企业员工设置不同的访问权限，以实现功能使用权限和资产的权限隔离，可以为不同员工配置相应的角色，以确保资产的安全和管理的高效性。 如果华为云账号已经能满足您的要求，不需要创建独立的IAM用户（子用户）进行权限管理，您可以跳过本章节，不影响您使用盘古的其他功能。 您可以使用统一身份认证服务（IAM）并结合ModelArts
使用数据工程构建科学计算大模型数据集 科学计算大模型支持接入的数据集类型 盘古科学计算大模型仅支持接入气象类数据集，该数据集格式要求请参见气象类数据集格式要求。 构建科学计算大模型训练数据要求 构建科学计算大模型进行训练的数据要求见表1。 表1 科学计算大模型训练数据要求 模型类别
据进行集中管理和进一步操作。 创建原始数据集 创建原始数据集前，请先按照数据集格式要求提前准备数据。如果需要使用OBS服务导入数据，请详见通过控制台快速使用OBS。 在使用OBS服务上传数据时，如果遇到网络报错“NET::ERR_CERT_AUTHORITY_INVALID”，是
在“创建加工数据集”页面，选择需要加工的气象类数据集，并设置数据集的名称和描述信息。 选择数据集时，默认选择当前空间的数据集。如果用户具备其他空间的访问权限，可以选择来自其他空间的数据集。 图3 创建加工数据集 单击“下一步”进入“算子编排”页面。对于气象类数据集，可选择的加工算子及参数配置请参见表1。
在“创建加工数据集”页面，选择需要加工的视频类数据集，并设置数据集的名称和描述信息。 选择数据集时，默认选择当前空间的数据集。如果用户具备其他空间的访问权限，可以选择来自其他空间的数据集。 图3 创建加工数据集 单击“下一步”进入“算子编排”页面。对于视频类数据集，可选择的加工算子及参数配置请参见表1。
} ], "temperature": 0.9, "max_tokens": 600 } 父主题： 大模型使用类问题
在“创建加工数据集”页面，选择需要加工的文本类数据集，并设置数据集的名称和描述。 选择数据集时，默认选择当前空间的数据集。如果用户具备其他空间的访问权限，可以选择来自其他空间的数据集。 图3 创建加工数据集 单击“下一步”进入“算子编排”页面。对于文本类数据集，可选择预置加工算子，请参见文本类加工算子能力清单。
请检查创建数据集时使用的数据，与平台要求的文件内容格式是否一致。 Verification failed. Please check the content format is consistent with the template requirements. 请检查创建数据集时使用的数据，与平台要求的文件内容格式是否一致。
在“创建加工数据集”页面，选择需要加工的图片类数据集，并设置数据集的名称和描述信息。 选择数据集时，默认选择当前空间的数据集。如果用户具备其他空间的访问权限，可以选择来自其他空间的数据集。 图3 创建加工数据集 单击“下一步”进入“算子编排”页面。对于图片类数据集，可选择的加工算子及参数配置请参见表1、表2。
在左侧导航栏中选择“数据工程 > 数据标注 > 标注审核” 在“标注审核”页面，单击操作列“审核”可进入审核页面审核数据。 图2 标注审核 如果需要将该审核任务移交给其他人员，可以单击操作列“移交”设置移交人员以及移交的数量。 图3 移交审核任务 进入审核页面后，可通过单击“通过”或“不通过”逐一对数据进行
在左侧导航栏中选择“数据工程 > 数据标注 > 标注审核” 在“标注审核”页面，单击操作列“审核”可进入审核页面审核数据。 图2 标注审核 如果需要将该审核任务移交给其他人员，可以单击操作列“移交”设置移交人员以及移交的数量。 图3 移交审核任务 进入审核页面后，可通过单击“通过”或“不通过”逐一对数据进行
从PDF中提取内容转换为结构化数据。 JSON内容提取 从JSON文件（键值对类型文件）中提取出内容。 HTML内容提取 基于标签路径提取HTML数据内容，并将其他与待提取标签路径无关的内容删除。 电子书内容提取 从电子书中提取出所有文本内容。 智能文档解析 从PDF（支持扫描版）或图片中提取文本，转
数据评估概念 数据评估旨在通过对数据集进行系统的质量检查，评估其准确性、完整性、一致性和代表性等多个维度，发现潜在问题并加以解决。 在构建和使用数据集的过程中，数据评估是确保数据质量的关键步骤，直接影响模型的性能和应用效果。高质量的数据集能够显著提升模型的准确性，并增强模型在实际应
指定参与标注的人员。 对于使用AI进行预标注的视频Caption任务可设置以下两种方式的“标注要求”： 选择“全部标注”：要求标注人员需要对全部的数据进行人工标注后才可提交标注结果。 选择“可部分标注”：允许标注人员在确认AI预标注满足要求后，直接使用AI预标注功能完成数据集的标注并提交标注结果。
续标注操作。对于未上线的标注任务，可执行编辑和删除操作。 在“标注作业”页面，单击操作列“标注”可进行数据标注。如果需要将该标注任务移交给其他人员，可以单击操作列“移交”设置移交人员以及移交的数量。 图5 标注作业 图6 移交标注任务 进入标注页面后，逐一对数据进行标注。 以标注
在左侧导航栏中选择“数据工程 > 数据标注 > 标注审核” 在“标注审核”页面，单击操作列“审核”可进入审核页面审核数据。 图2 标注审核 如果需要将该审核任务移交给其他人员，可以单击操作列“移交”设置移交人员以及移交的数量。 图3 移交审核任务 进入审核页面后，可通过单击“通过”或“不通过”逐一对数据进行
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
