盘古大模型 PanguLargeModels-使用“能力调测”调用NLP大模型

时间：2025-01-26 10:51:14

使用“能力调测”调用NLP大模型

能力调测功能支持用户调用预置或训练后的NLP大模型。使用该功能前，请完成模型的部署操作，步骤详见创建NLP大模型部署任务。

使用“能力调测”调用NLP大模型可实现文本对话能力，即在输入框中输入问题，模型将基于问题输出相应的回答，具体步骤如下：

在页面右侧配置参数，具体参数说明见表1。

表1 NLP大模型能力调测参数说明
参数	说明
搜索增强	搜索增强通过结合大语言模型与传统搜索引擎技术，提升了搜索结果的相关性、准确性和智能化。例如，当用户提出复杂查询时，传统搜索引擎可能仅返回一系列相关链接，而大模型则能够理解问题的上下文，结合多个搜索结果生成简洁的答案，或提供更详细的解释，从而进一步改善用户的搜索体验。
温度	用于控制生成文本的多样性和创造力。调高温度会使得模型的输出更多样性和创新性。默认值：0
核采样	控制生成文本多样性和质量。调高核采样可以使输出结果更加多样化。默认值：1.0
最大口令限制	用于控制聊天回复的长度和质量。默认值：2048
话题重复度控制	用于控制生成文本中的重复程度。调高参数模型会更频繁地切换话题，从而避免生成重复内容。默认值：0
词汇重复度控制	用于调整模型对频繁出现的词汇的处理方式。调高参数会使模型减少相同词汇的重复使用，促使模型使用更多样化的词汇进行表达。默认值：0
历史对话保留轮数	选择“文本对话”功能时具备此参数。表示系统能够记忆的历史对话数。默认值：10