检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
要应用这些技巧来输出一个逻辑自洽、清晰明了的指令。 提示词是什么 提示词也称为Prompt，是与大模型进行交互的输入，可以是一个问题、一段文字描述或者任何形式的文本输入。 提示词要素 指令：要求模型执行的具体任务或回答的问题。如：“写一篇关于勇士的小说”、“天空为什么是蓝色的？”
令页面。 选择变量标识符为“双大括号{{}}”，输入指令为“请以{{topic}}为主题，写一篇字数不超过{{num}}的散文。” 单击“识别”，再单击“确定”。 图4 配置指令 按照表2进行变量配置。 表2 数据指令变量配置 变量类型 变量名称 变量类型 变量描述 输入变量 topic
温度 用于控制生成文本的多样性和创造力。调高温度会使得模型的输出更多样性和创新性。 默认值：0 核采样 控制生成文本多样性和质量。调高核采样可以使输出结果更加多样化。 默认值：1.0 最大口令限制 用于控制聊天回复的长度和质量。 默认值：2048 话题重复度控制 用于控制生成文本中
建IAM用户（子用户），并授权控制他们对华为云资源的访问范围。例如，您的员工中有负责软件开发的人员，您希望他们拥有接口的调用权限，但是不希望他们拥有训练模型或者访问训练数据的权限，那么您可以先创建一个IAM用户，并设置该用户在盘古平台中的角色，控制对资源的使用范围。 IAM权限
安全 责任共担 身份认证与访问控制 数据保护技术 审计
习场景下，提示词优化的效果尤为显著。 最后还可以通过调整推理参数来进一步提升模型效果，例如通过选择合适的温度系数来控制模型回复的准确性和多样性，调整话题重复度来控制模型输出的话题重复程度。 父主题： 盘古NLP大模型调优实践
用户可以访问您账号中该区域的所有资源。如果您希望进行更加精细的权限控制，可以在区域默认的项目中创建子项目，并在子项目中购买资源，然后以子项目为单位进行授权，使得用户仅能访问特定子项目中资源，使得资源的权限控制更加精确。 图1 项目隔离模型 父主题： 使用前必读
求。因此，针对该问题，需要严格控制数据质量。若输入（context字段）要求文案300字以内，则输出必须要满足300字以内。 问题二：模型生成的文案中重复讨论一个相同的话题。 解决方案：对于这种情况，可以尝试修改推理参数。例如，降低“话题重复度控制”参数的值。若调整推理参数不生效
管理员可以创建用户组，并给用户组授予策略或角色，然后将用户加入用户组，使得用户组中的用户获得相应的权限。 创建用户组的步骤如下： 使用主账号登录IAM服务控制台。 左侧导航栏中，选择“用户组”页签，单击右上方的“创建用户组”。 图1 创建用户组 在“创建用户组”页面，输入“用户组名称”，单击“确定”，创建用户组。
单击“生成”，模型将基于问题进行回答。 图1 使用预置服务进行文本对话 可以尝试修改参数并查看模型效果。以修改“核采样”参数为例，核采样控制生成文本的多样性和质量： 当“核采样”参数设置为1时，保持其他参数不变，单击“重新生成”，再单击“重新生成”，观察模型前后两次回复内容的多样性。
的学习率，并逐步增加，直到达到预设的最大学习率。通过这种方式，热身比例能够避免初期更新过快，从而帮助模型更好地收敛。 学习率衰减比率 用于控制训练过程中学习率下降的幅度。 计算公式为：最低学习率 = 初始学习率 × 学习率衰减比率。 权重衰减系数 通过在损失函数中加入与模型权重大
溯源。另外平台还提供了完善的标签体系、支持数据按行业标准进行分类、按行业标准进行安全分级、内置场景分类标签。帮助用户进行数据分类、数据质量控制和数据资产管理，提升数据治理的效率和效果。 通过整合上述功能，数据工程在AI研发中不仅帮助用户高效构建高质量的训练数据集，还通过全流程的数
整。 核采样 模型在输出时会从概率最高的词汇开始选择，直到这些词汇的总概率累积达到核采样值。核采样值可以限制模型选择这些高概率的词汇，从而控制输出内容的多样性，取值范围为0.1到1之间。 携带上下文轮数 设置带入模型上下文的对话历史轮数，轮数越多相关性越高。 输出模式 当前应用支
f(x))来表示，损失函数越小，模型的鲁棒性就越好。 推理相关概念 表3 训练相关概念说明 概念名 说明 温度系数 温度系数（temperature）控制生成语言模型中生成文本的随机性和创造性，调整模型的softmax输出层中预测词的概率。其值越大，则预测词的概率的方差减小，即很多词被选择的可能性增大，利于文本多样化。
型网格中每个单元格是否是陆地。 SOIL_TYPE：表示地表土壤分类，影响土壤的物理和化学特性，如水分保持能力、热容量和导热性。 模型输出控制参数 训练轮数 表示完成全部训练数据集训练的次数。每个轮次都会遍历整个数据集一次。取值范围：[1-1000]。 损失类型 用来衡量模型预测
的过程中，实时地将生成的文本发送给客户端，而不是等到生成完成后一次性将所有文本发送给客户端。 temperature 否 Float 用于控制生成文本的多样性和创造力。 参数的取值范围是 (0, 1]，取值接近0表示最低的随机性，1表示最高的随机性。一般来说，temperatur
数据配置：选择构建微调训练任务数据集中构建的微调训练数据集，参考表1完成配置，配置示例如图2。 表1 训练参数说明 参数分类 参数名称 参数说明 模型输出控制参数 训练轮数 表示完成全部训练数据集训练的次数。每个轮次都会遍历整个数据集一次。 取值范围：[1-1000]。 损失类型 用来衡量模型预
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
