检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
清洗。 训练参数设置：若数据质量存在问题，且因训练参数设置的不合理而导致过拟合，该现象会更加明显。请检查训练参数中的 “训练轮次”或“学习率”等参数的设置，适当降低这些参数的值，降低过拟合的风险。 推理参数设置：请检查推理参数中的“温度”或“核采样”等参数的设置，适当减小其中一个
属的问题，模型生成的结果不完整，出现了异常截断。这种情况可能是由于以下几个原因导致的，建议您依次排查： 推理参数设置：请检查推理参数中的“最大Token限制”参数的设置，适当增加该参数的值，可以增大模型回答生成的长度，避免生成异常截断。请注意，该参数值存在上限，请结合目标任务的实际需要以及模型支持的长度限制来调整。
于以下几个原因导致的，建议您依次排查： 训练参数设置：您可以通过绘制Loss曲线查询来确认模型的训练过程是否出现了问题，这种情况大概率是由于训练参数设置的不合理而导致了过拟合。请检查训练参数中的 “训练轮次”或“学习率”等参数的设置，适当降低这些参数的值，降低过拟合的风险。 数据
因导致的，建议您依次排查： 训练参数设置：您可以通过绘制Loss曲线查询来确认模型的训练过程是否出现了问题，这种情况大概率是由于训练参数设置的不合理而导致了欠拟合，模型没有学到任何知识。请检查训练参数中的 “训练轮次”或“学习率”等参数的设置，适当增大“训练轮次”的值，或根据实际
量信息，候选提示词中关联的变量也会进行展示，候选提示词相关操作请参见设置候选提示词。 同一个提示词工程中，定义的变量不能超过20个。 在“模型”区域，单击“设置”，设置提示词输入的模型和模型参数。 图4 模型设置 父主题： 撰写提示词
推理参数设置：请检查推理参数中的“话题重复度控制”或“温度”或“核采样”等参数的设置，适当增大其中一个参数的值，可以提升模型回答的多样性。 数据质量：请检查训练数据中是否存在文本重复的异常数据，可以通过规则进行清洗。 训练参数设置：若数据质量存在问题，且因训练参数设置的不合理而
结构化信息，可以将有监督的问题设置为“请根据标题xxx/关键性xxx/简介xxx，生成一段不少于xx个字的文本。”，将回答设置为符合要求的段落。 续写：根据段落的首句、首段续写成完整的段落。 若您的无监督文档没有任何结构化信息，可以将有监督的问题设置为“以下是一篇文章的第一个句子
模型部署”，单击模型名称，进入模型详情页面。 单击右上角“模型更新”，进入“模型更新”页面。 在“可修改配置 > 部署模型”中，可选择模型以替换当前已部署的模型。 在“升级配置”中，选择以下两种升级模式： 全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。
单击右上角“模型更新”，进入“模型更新”页面。 在“可修改配置 > 部署模型”中，可选择模型以替换当前已部署的模型。 在“升级配置”中，选择以下两种升级模式： 全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。
模型部署”，单击模型名称，进入模型详情页面。 单击右上角“模型更新”，进入“模型更新”页面。 在“可修改配置 > 部署模型”中，可选择模型以替换当前已部署的模型。 在“升级配置”中，选择以下两种升级模式： 全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。
单击右上角“模型更新”，进入“模型更新”页面。 在“可修改配置 > 部署模型”中，可选择模型以替换当前已部署的模型。 在“升级配置”中，选择以下两种升级模式： 全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。
单击右上角“模型更新”，进入“模型更新”页面。 在“可修改配置 > 部署模型”中，可选择模型以替换当前已部署的模型。 在“升级配置”中，选择以下两种升级模式： 全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。
横向比较提示词效果 将设置为候选的提示词横向比对，获取提示词的差异性和效果。 登录ModelArts Studio大模型开发平台，进入所需空间。 在左侧导航栏中选择“Agent 开发 > 提示词工程 > 提示词开发”。 在工程任务列表页面，找到所需要操作的工程任务，单击该工程任务右侧“撰写”。
提示词写作进阶技巧 设置背景及人设 明确任务需求 添加CoT思维链提示 父主题： 提示词写作实践
横向比较提示词效果 设置候选提示词 横向比较提示词效果 父主题： 开发盘古大模型提示词工程
默认值，再结合训练过程中的实际情况动态调整。 学习率（learning_rate） 0~1 1e-6~5e-4 学习率是在梯度下降的过程中更新权重时的超参数，过高会导致模型在最优解附近震荡，甚至跳过最优解，无法收敛，过低则会导致模型收敛速度过慢。 您可根据数据和模型的规模进行调整
数据发布 > 数据评估”，单击界面右上角“创建评估任务”。 在“数据集选择”页签选择需要评估的加工数据集，并设置抽样样本的数量。 单击“下一步”，选择评估标准。单击“下一步”设置评估人员，单击“下一步”填写任务名称。 单击“完成创建”，将返回至“数据评估”页面，评估任务创建成功后状态将显示为“已创建”。
数据发布 > 数据评估”，单击界面右上角“创建评估任务”。 在“数据集选择”页签选择需要评估的加工数据集，并设置抽样样本的数量与字符数。 单击“下一步”，选择评估标准。单击“下一步”设置评估人员，单击“下一步”填写任务名称。 单击“完成创建”，将返回至“数据评估”页面，评估任务创建成功后状态将显示为“已创建”。
数据发布 > 数据评估”，单击界面右上角“创建评估任务”。 在“数据集选择”页签选择需要评估的加工数据集，并设置抽样样本的数量。 单击“下一步”，选择评估标准。单击“下一步”设置评估人员，单击“下一步”填写任务名称。 单击“完成创建”，将返回至“数据评估”页面，评估任务创建成功后状态将显示为“已创建”。
配置OBS访问授权。 方式1：在首页顶部单击“此处”，在弹窗中选择授权项，并单击“确认授权”。 图1 配置OBS访问授权 方式2：单击首页右上角“设置”，在“授权管理”页签，单击“一键授权”。 父主题： 准备工作
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
