检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
{location}}的值，来获得模型回答，提升评测效率。 同时，撰写提示词过程中，可以通过设置模型参数来控制模型的生成行为，如调整温度、核采样、最大Token限制等参数。模型参数的设置会影响模型的生成质量和多样性，因此需要根据不同的场景进行选择。 登录ModelArts Studio大模型开发平台，进入所需空间。
去除噪声、冗余信息等，提升数据质量。 合成数据集 利用预置或自定义的数据指令对原始数据进行处理，并根据设定的轮数生成新数据。该过程能够在一定程度上扩展数据集，增强训练模型的多样性和泛化能力。 标注数据集 为无标签数据集添加准确的标签，确保模型训练所需的高质量数据。平台支持人工标注
取Token”接口。并填写请求Header参数。 接口地址为：https://iam.cn-southwest-2.myhuaweicloud.com/v3/auth/tokens 请求Header参数名为Content-Type，参数值为application/json 图2 填写获取Token接口
看对应编程语言类型的SDK代码。 图1 获取SDK代码示例 当您在中间填充栏填入对应内容时， 右侧代码示例会自动完成参数的组装。 图2 设置输入参数 填写输入参数时，deployment_id为模型部署ID，获取方式如下： 若调用部署后的模型，可在左侧导航栏中选择“模型开发 >
盘古科学计算大模型调优实践 模型调优方法介绍 数据预处理优化 训练参数优化 评估模型效果 调优典型问题 父主题： 模型调优实践
升数据质量。 加工文本类数据集 合成文本类数据集 利用预置或自定义的数据指令对原始数据进行处理，并根据设定的轮数生成新数据。该过程能够在一定程度上扩展数据集，增强训练模型的多样性和泛化能力。 合成文本类数据集 标注文本类数据集 为无标签数据集添加准确的标签，确保模型训练所需的高质
aa和cls2的样本cc。 每个样本文件夹（如aa）可以视为一个视频片段，其中每张图片代表视频的一个帧，将这些帧作为一个序列来学习视频分类，有助于模型学习视频的时序特征，从而进行准确的分类。 物体检测数据集标注文件说明 该说明适用于表1中的物体检测标注文件格式。 物体检测数据集支持格式为ModelArts
可选择开启“多人作业”功能，开启后，可选择多人协同完成作业，并增加审核功能可供选择。参考表2配置标注分配与审核。 表2 标注分配与审核配置 参数类型 参数名称 参数说明 标注分配 标注员 添加标注人员与数量。 标注审核 是否审核 否，标注后不进行审核操作。 是，审核员会检查标注员的标注内容，
用路径，详见获取调用路径。 填写请求Header参数。 参数名为Content-Type，参数值为application/json。 参数名为X-Auth-Token，参数值为步骤1中获取的Token值。 参数名为stream，参数值为true。当前应用仅支持流式调用。 在Postman中选择“Body
见创建自定义数据合成指令。 指令选择完成后，单击“确定”，并配置指令参数。 如图1，展示了预训练文本类数据集的合成指令参数配置示例，该合成任务实现利用预训练文本生成问答对。 图1 预训练文本类数据集合成指令参数配置示例 指令编排完成后，单击右上角“启用调测”，可以对当前编排的指令效果进行预览。
可选择开启“多人作业”功能，开启后，可选择多人协同完成作业，并增加审核功能可供选择。参考表2配置标注分配与审核。 表2 标注分配与审核配置 参数类型 参数名称 参数说明 标注分配 标注员 添加标注人员与数量。 标注审核 是否审核 否，标注后不进行审核操作。 是，审核员会检查标注员的标注内容，
可选择开启“多人作业”功能，开启后，可选择多人协同完成作业，并增加审核功能可供选择。参考表2配置标注分配与审核。 表2 标注分配与审核配置 参数类型 参数名称 参数说明 标注分配 标注员 添加标注人员与数量。 标注要求 选择标注项为“图片Caption”且开启AI预标注功能时，可设置以下两种方式的“标注要求”：
流。 - 通用文本（/text/completions） Java、Python、Go、.NET、NodeJs、PHP 给定一个提示和一些参数，模型会根据这些信息生成一个或多个预测的补全，还可以返回每个位置上不同词语的概率。它可以用来做文本生成、自动写作、代码补全等任务。 开发环境要求
选择压缩策略。除INT8压缩策略外，部分模型支持INT4压缩策略，可在选择模型后，根据页面展示的策略进行选择。 INT8：该压缩策略将模型参数压缩至8位字节，可以有效降低推理显存占用。 INT4：该压缩策略与INT8相比，可以进一步减少模型的存储空间和计算复杂度。 配置资源。选择计费模式并设置训练单元。
进入“加工步骤编排”页面。对于视频类数据集，可选择的加工算子请参见表1。 在左侧“添加算子”分页勾选所需算子。 在右侧“加工步骤编排”页面配置各算子参数，可拖动右侧“”以调整算子执行顺序。 图1 算子编排 在编排过程中，可单击右上角“保存为新模板”将当前编排流程保存为模板。后续创建新的数据
以及区域范围，适用于想自定义自己的区域模型的场景，需预先准备好区域高精度数据。 微调：在已有模型的基础上添加新数据，它适用于不改变模型结构参数和引入新要素的情况，添加最新数据的场景。 本实践将以平台预置的区域海洋要素基模型为例，介绍盘古科学计算大模型的微调训练过程，该模型的基本信息详见表1。
进入“加工步骤编排”页面。对于气象类数据集，可选择的加工算子请参见表1。 在左侧“添加算子”分页勾选所需算子。 在右侧“加工步骤编排”页面配置各算子参数，可拖动右侧“”以调整算子执行顺序。 图1 算子编排 在编排过程中，可单击右上角“保存为新模板”将当前编排流程保存为模板。后续创建新的数据
进入“加工步骤编排”页面。对于图片类数据集，可选择的加工算子请参见表1。 在左侧“添加算子”分页勾选所需算子。 在右侧“加工步骤编排”页面配置各算子参数，可拖动右侧“”以调整算子执行顺序。 图1 算子编排 在编排过程中，可单击右上角“保存为新模板”将当前编排流程保存为模板。后续创建新的数据
进入“加工步骤编排”页面。对于文本类数据集，可选择的加工算子请参见文本类加工算子介绍。 在左侧“添加算子”分页勾选所需算子。 在右侧“加工步骤编排”页面配置各算子参数，可拖动右侧“”以调整算子执行顺序。 图1 算子编排 在编排过程中，可单击右上角“保存为新模板”将当前编排流程保存为模板。后续创建新的数据
步骤7：调试应用 创建应用后，平台支持对应用执行过程的进行预览与调试。 调试应用的步骤如下： 在页面右上角单击“”，参考表2配置大模型参数。 表2 大模型参数配置 参数 说明 模型选择 选择要使用的大模型，不同的模型效果存在差异。 该模型需提前部署，步骤请参见创建NLP大模型部署任务。 模式选择
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
