检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
数据集最大100万个文件，单文件最大10GB，整个数据集最大10TB。 图片+Caption 图片支持tar，Caption支持jsonl 图片+Caption指的是一张图片和与之相关的文字描述，Caption是对图片内容的简短说明或解释，帮助人们理解图片所表达的信息。
flickr_url 否 图像在Flickr网站上的URL。 id 是 图像的唯一标识符。 annotations 是 标注信息。 num_keypoints 是 标注的关键点数量。 area 是 边界框的面积，以像素平方为单位。
单样本/多样本 可以在提示词中提供示例，让模型先学习后回答，在使用这种方法时需要约束新样例不能照抄前面给的参考样例，新样例必须多样化、不能重复等，否则可能会直接嫁接前文样例的内容，也可以约束只是让它学习参考样例的xxx生成思路、xxx风格、xxx生成方法等。
数据集最大100万个文件，单文件最大2GB，整个数据集最大1.5TB。
query改写模块 来源：互联网开源数据集 问答模块 来源一：互联网开源数据集，如政府网站网页、政府在线问答公开数据、政务百科等。 来源二：特定的私域数据，针对于具体场景和项目需求，收集相关的文本数据。比如通过与当地政府的政数局进行合作，获取政府部门提供的内部脱敏数据等。
以标注单轮问答数据为例，需要逐一确认问题（Q）及答案（A）是否正确，如果问题或答案不正确，可以对其进行二次编辑，如图7。 图7 文本类数据集标注示例 一条数据标注完成后，单击“提交”可继续标注剩余数据。所有数据标注完成后，页面会出现标注任务成功的提示。 父主题： 标注文本类数据集
数据集最大1000万个文件，单文件最大100GB，整个数据集最大100TB。 父主题： 数据集格式要求
数据单条文本长度不超过1000。 创建数据集时会对相关限制条件进行校验。 数据参考格式如下： 图1 数据参考格式 图2 数据示例 创建提示词评估数据集 登录ModelArts Studio大模型开发平台，进入所需空间。
表1 构建NLP大模型所需数据量 模型规格 训练类型 推荐数据量 最小数据量（数据条数） 单场景推荐训练数据量 单条数据Token长度限制 N1 微调 - 1000条/每场景 ≥ 1万条/每场景 32K N2 微调 - 1000条/每场景 ≥ 1万条/每场景 32K 构建NLP大模型数据集流程
智能文档解析 从PDF（支持扫描版）或图片中提取文本，转化为结构化数据，持文本、表格、表单、公式等内容提取。 数据转换 个人数据脱敏 对文本中的电话号码、邮箱、身份证、车牌号、IP地址、URL地址、MAC地址、护照号、IMEI等个人敏感信息进行数据脱敏，或直接删除敏感信息。
示例如下： feature1,feature2,target 10.5,20.3,100 10.6,20.5,101 10.7,20.7,102 10.8,20.9,103 10.9,21.0,104 数据集最大100万个文件，单文件最大10GB，整个数据集最大10TB。
表1 气象类数据集格式要求 文件内容 文件格式 文件要求 海洋气象 nc、cdf、netcdf、gr、gr1、grb、grib、grb1、grib1、gr2、grb2、grib2 数据集最大100万个文件，单文件最大10GB，整个数据集最大10TB。
在“创建发布数据集”页面，选择待发布内容，如“文本 > 单轮问答”类型的数据集。 图2 创建文本数据集发布任务 设置发布方式。除“问答排序”类型外，其余数据类型可选两种发布方式：“单个数据集”、“混合数据集”。
单轮问答 支持jsonl、csv，详见文本类数据集格式要求。 单轮问答（人设） 支持jsonl、csv，详见文本类数据集格式要求。 多轮问答 支持jsonl，详见文本类数据集格式要求。 多轮问答（人设） 支持jsonl，详见文本类数据集格式要求。
请求示例 单轮问答 POST https://{endpoint}/v1/{project_id}/deployments/{deployment_id}/chat/completions Request Header: Content-Type: application/
资源配置 实例数 设置部署模型时所需的实例数，单次部署服务时，部署实例个数建议不大于10，否则可能触发限流导致部署失败。 基本信息 名称 设置部署任务的名称。 描述（可选） 设置部署任务的描述。 参数填写完成后，单击“立即部署”。
资源配置 实例数 设置部署模型是所需的实例数，单次部署服务时，部署实例个数建议不大于10，否则可能触发限流导致部署失败。 基本信息 名称 设置部署任务的名称。 描述（可选） 设置部署任务的描述。 参数填写完成后，单击“立即部署”。 父主题： 部署科学计算大模型
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
