检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
数据流通是将单个数据集发布为特定格式的“发布数据集”的过程，用于后续模型训练等操作。 视频类数据集当前仅支持发布为“默认格式”。 创建视频类数据集流通任务 创建视频类数据集流通任务步骤如下： 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“数据工程
知识库命中测试 平台支持对创建的知识库进行命中测试，以评估知识库的效果和准确性。 命中测试通过将用户的查询与知识库中的内容进行匹配，最终输出与查询相关的信息，并根据匹配的程度进行排序。 知识库命中测试步骤如下： 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。
数据源样本为avi、mp4格式，标注文件为json格式。必须包含两个及以上后缀名字为avi或者mp4的文件。 每个视频时长要大于128s，FPS>=10，且测试集训练集都要有视频。 支持视频的格式包括常见的mp4/avi格式文件，每个视频时长要大于128s，FPS>=10，用annotation
在工程任务列表页面，找到所需要操作的工程任务，单击该工程任务右侧“撰写”。 在“撰写”页面，选择左侧导航栏中的“候选”。在候选列表中，勾选需要进行横向比对的提示词，并单击“创建评估”。 图1 创建评估 选择评估使用的变量数据集和评估方法。 评估用例集：根据选择的数据集，将待评估的提示词和数据集中的变量自动组装成完整的提示词，输入模型生成结果。
看详细的评估进度，例如在图2中有10条评估用例，当前已评估8条，剩余2条待评估。 图2 查看评估进展 评估完成后，可以查看每条数据的评估结果。 在评估结果中，“预期结果”表示变量值（问题）所预设的期望回答，“生成结果”表示模型回复的结果。通过比对“预期结果”、“生成结果”的差异可以判断提示词效果。
束”节点，单击该节点进行配置。 在“参数配置”中，配置输入、输出参数。 在“模型配置”中，选择已经部署的NLP大模型并进行参数配置，在“提示词配置”中，配置提示词。 如果“模型配置 > 模型选择”中没有可供选择的NLP大模型，请完成模型部署操作，详见《用户指南》“开发盘古NLP大模型
流通文本类数据集 数据流通是将单个数据集发布为特定格式的“发布数据集”的过程，用于后续模型训练等操作。 单个文本类数据集支持发布的格式为： 默认格式：平台默认的格式。 在默认格式中，context和target是键值对。示例如下： {"context": "你好，请介绍自己", "target":
为什么微调后的盘古大模型只能回答训练样本中的问题 当您将微调的模型部署以后，输入一个已经出现在训练样本中的问题，模型生成的结果很好，一旦输入了一个从未出现过的数据（目标任务相同），回答却完全错误。这种情况可能是由于以下几个原因导致的，建议您依次排查： 训练参数设置：您可以通过绘制
Studio大模型开发平台针对视频类数据集预设了一套基础评估标准，涵盖了视频的清晰度、帧率、完整性、标签准确性等多个质量维度，用户可以直接使用该标准或在该标准的基础上创建评估标准。 若您希望使用平台预置的评估标准，可跳过此章节至创建视频类数据集评估任务。 创建视频类数据集评估标准步骤如下：
练任务。 克隆。单击操作列的“更多 > 克隆”，可以复制当前训练任务。 重试。单击操作列的“更多 > 重试”，可以编辑运行失败的节点，重试该节点的训练。 删除。单击操作列的“更多 > 删除”，可以删除当前不需要的训练任务。 删除属于高危操作，删除前请确保当前任务不再需要。 父主题：
练任务。 克隆。单击操作列的“更多 > 克隆”，可以复制当前训练任务。 重试。单击操作列的“更多 > 重试”，可以编辑运行失败的节点，重试该节点的训练。 删除。单击操作列的“更多 > 删除”，可以删除当前不需要的训练任务。 删除属于高危操作，删除前请确保当前任务不再需要。 父主题：
练任务。 克隆。单击操作列的“更多 > 克隆”，可以复制当前训练任务。 重试。单击操作列的“更多 > 重试”，可以编辑运行失败的节点，重试该节点的训练。 删除。单击操作列的“更多 > 删除”，可以删除当前不需要的训练任务。 删除属于高危操作，删除前请确保当前任务不再需要。 父主题：
气象类清洗算子能力清单 数据加工算子为用户提供了多种数据操作能力，包括数据提取、过滤、转换、打标签等。这些算子能够帮助用户从海量数据中提取出有用信息，并进行深度加工，以生成高质量的训练数据。 平台支持气象类数据集的加工操作，气象类加工算子能力清单见表1。 表1 气象类清洗算子能力清单
Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“数据工程 > 数据加工 > 数据标注”，单击页面右上角“创建标注任务”。 在“创建标注任务”页面选择需要标注的文本类数据集，并选择标注项。 选择标注项时，不同类型的数据文件对应的标注项有所差异，可基于页面提示进行选择。
请检查创建数据集时使用的数据，与平台要求的文件内容格式是否一致。 content type [%s] not support, only [%s] support. 数据集中的内容不支持，请保证上传的数据格式与平台要求的一致。 get obs bucket folders error. 请检查OBS服务是否正常，是否可以访问OBS桶数据。
单击“下一步”，参考表1配置标注分配与审核。 表1 标注分配与审核配置 参数类型 参数名称 参数说明 标注分配 启用多人标注 关闭时，默认管理员单人标注。 启用时，可以指定参与标注的人员及标注数量。 标注要求 选择标注项为“图片Caption”且开启AI预标注功能时，可设置以下两种方式的“标注要求”：
{1:'apple', 2:'orange', 3:'banana'} 训练集中的标签个数与验证集中的个数不一致，导致该错误发生。 例如，训练集中的标签共有4个，验证集中的标签只有3个。 请保持数据中训练集和验证集的标签数量一致。 父主题： 训练NLP大模型
{1:'apple', 2:'orange', 3:'banana'} 训练集中的标签个数与验证集中的个数不一致，导致该错误发生。 例如，训练集中的标签共有4个，验证集中的标签只有3个。 请保持数据中训练集和验证集的标签数量一致。 父主题： 训练预测大模型
模型训练的标准，是数据工程中的核心环节。 数据清洗 通过专用的清洗算子对数据进行预处理，确保数据符合模型训练的标准和业务需求。不同类型的数据集使用专门设计的算子，例如去除噪声、冗余信息等，提升数据质量。 数据合成 利用预置或自定义的数据指令对原始数据进行处理，并根据设定的轮数生成
编辑。单击操作列的“编辑”，可以修改模型的checkpoints、训练参数、训练数据以及基本信息等。 启动。单击操作列的“启动”，再单击弹窗的“确定”，可以启动训练任务。 克隆。单击操作列的“更多 > 克隆”，可以复制当前训练任务。 重试。单击操作列的“更多 > 重试”，可以编辑运行失败的节点，重试该节点的训练。 删除。单击操作列的“更多
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
