云服务器内容精选

华为云首页用户手册

调用NLP大模型

盘古大模型 PanguLargeModels-使用“能力调测”调用NLP大模型

使用“能力调测”调用NLP大模型能力调测功能支持用户调用预置或训练后的NLP大模型。使用该功能前，请完成模型的部署操作，步骤详见创建NLP大模型部署任务。使用“能力调测”调用NLP大模型可实现文本对话能力，即在输入框中输入问题，模型将基于问题输出相应的回答，具体步骤如下：登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。在左侧导航栏中选择“能力调测”，单击“文本对话”页签。选择需要调用的服务。可从“预置服务”或“我的服务”中选择。填写系统人设。如“你是一个AI助手”，若不填写，将使用系统默认人设。在页面右侧配置参数，具体参数说明见表1。表1 NLP大模型能力调测参数说明参数说明搜索增强搜索增强通过结合大语言模型与传统搜索引擎技术，提升了搜索结果的相关性、准确性和智能化。例如，当用户提出复杂查询时，传统搜索引擎可能仅返回一系列相关链接，而大模型则能够理解问题的上下文，结合多个搜索结果生成简洁的答案，或提供更详细的解释，从而进一步改善用户的搜索体验。温度用于控制生成文本的多样性和创造力。调高温度会使得模型的输出更多样性和创新性。默认值：0 核采样控制生成文本多样性和质量。调高核采样可以使输出结果更加多样化。默认值：1.0 最大口令限制用于控制聊天回复的长度和质量。默认值：2048 话题重复度控制用于控制生成文本中的重复程度。调高参数模型会更频繁地切换话题，从而避免生成重复内容。默认值：0 词汇重复度控制用于调整模型对频繁出现的词汇的处理方式。调高参数会使模型减少相同词汇的重复使用，促使模型使用更多样化的词汇进行表达。默认值：0 历史对话保留轮数选择“文本对话”功能时具备此参数。表示系统能够记忆的历史对话数。默认值：10 如图1，输入对话，单击“生成”，模型将输出相应的回答。图1 调测NLP大模型父主题：调用NLP大模型

盘古大模型 PanguLargeModels 调用NLP大模型