检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
模型支持的区域 区域是一个地理区域的概念。我国地域面积广大，由于带宽的原因，无法仅依靠一个数据中心为全国客户提供服务。因此，根据地理区域的不同将全国划分成不同的支持区域。 盘古大模型当前仅支持西南-贵阳一区域。 图1 盘古大模型服务区域 父主题： 模型能力与规格
可用区（AZ，Availability Zone） 一个AZ是一个或多个物理数据中心的集合，有独立的风火水电，AZ内逻辑上再将计算、网络、存储等资源划分成多个集群。一个Region中的多个AZ间通过高速光纤相连，以满足用户跨AZ构建高可用性系统的需求。 项目 华为云的区域默认对应一个项目，这个项目由系统预置
词的调优、比较和评估。 支持对用例集的创建、查询、修改、删除。 提示词工程任务管理 提示词工程平台以提示词工程任务为管理维度，一个任务代表一个场景或一个调优需求，在提示词工程任务下可以进行提示词的调优、比较和评估。 提示词工程任务管理支持工程任务的创建、查询、修改、删除。 提示词调优
注意，上述toolList中包含的工具在SDK中并不存在，需要替换成实际的工具。 向ToolRetriever中添加工具： // 添加工具 cssToolRetriever.addTools(toolList); 工具添加后，会存储在向量库的索引中，并将指定的字段向量化。 从ToolRetriever中查找工具：
部工具调用执行，一般包括任务规划、记忆系统和执行系统。 任务规划：将复杂目标任务分解为小的可执行子任务，通过评估、自我反思等方式提升规划成功率。 记忆系统：通过构建记忆模块去管理历史任务和策略，并让Agent结合记忆模块中相关的信息以获取最优化任务解决策略。 任务执行：能通过工具
private static Agent panguAgent; // 工具map。在分步骤执行agent场景时，需要调用tool 的run方法来执行tool private static LinkedHashMap<String, Tool> toolMap
判断训练状态是否正常，通常可以通过观察训练过程中Loss（损失函数值）的变化趋势。损失函数是一种衡量模型预测结果和真实结果之间的差距的指标，正常情况下越小越好。 您可以从平台的训练日志中获取到每一步的Loss，并绘制成Loss曲线，来观察其变化趋势。一般来说，一个正常的Loss曲线应该是单调递减
部工具调用执行，一般包括任务规划、记忆系统、执行系统： 任务规划：将复杂目标任务分解为小的可执行子任务，通过评估、自我反思等方式提升规划成功率。 记忆系统：通过构建记忆模块去管理历史任务和策略，并让Agent结合记忆模块中相关的信息以获取最优化任务解决策略。 任务执行：能通过工具
成在预训练大模型中，打造出具有深度语义理解与生成能力的人工智能大语言模型。可进行对话互动、回答问题、协助创作。 华为云盘古大模型，以下功能支持API调用。 表1 API清单 API 功能 NLP-文本补全 给定一个提示和一些参数，模型会根据这些信息生成一个或多个预测的补全。它可以
创建页面。 图1 模型评估列表页面 填写评估任务所需的评估配置、评估数据和基本信息。 图2 创建评估任务 评估配置： 待评估模型：支持选择多个模型版本同时评估，最多选择5个。待评估模型必须符合前提条件。 评估资源：依据选择的模型数据自动给出所需的评估资源。 打分模式：当前版本打分
值，组成完整的提示词，查看不同提示词在模型中的使用效果。 在撰写提示词页面，找到页面右侧变量输入区域，在输入框中输入具体的变量值信息。 输入变量值后预览区域会自动组装展示提示词。用户也可以直接选择已创建的变量集填入变量值信息，变量集是一个excel文件，每行数据是需要输入的变量值信息，可以通过“导入”功能进行上传。
打基础 先制定一个能够明确表达主题的提示词（若模型训练时包含相似任务，可参考模型训练使用的提示词），再由简至繁，逐步增加细节和说明。打好基础是后续提示词优化的前提，基础提示词生成效果差，优化只会事倍功半。 例如，文学创作类可以使用“请创作一个关于{故事主题}的故事”，邮件写作类可
整。 上例中的args_schema为一个复杂的入参，如果工具的入参为一个基本类型，则不需要再额外定一个结构体，例如： from typing import Type from pangukitsappdev.tool.tool import Tool from pydantic
查看提示词变量 变量定义区域展示的是整个工程任务下定义的变量信息，候选提示词中关联的变量也会进行展示，候选词相关操作请参见设置候选提示词。 在模型区域单击“设置”，设置提示词输入的模型和模型参数。 图5 设置模型 同一个提示词工程中，定义的变量不能超过20个。 父主题： 撰写提示词
Agent用于工具调用场景，与普通的LLM流式输出相比，区分了文本流与工具流。 文本流将输出模型的思考过程和最终结果；工具流将输出工具的调用过程，而工具的调用的执行结果是通过监听获取的。 通过如下接口为Agent添加流式输出的回调： from pangukitsappdev.callback.StreamCallbackHandler
为什么微调后的模型，输入与训练样本相似的问题，回答与训练样本完全不同 当您将微调的模型部署以后，输入一个已经出现在训练样本中，或虽未出现但和训练样本差异很小的问题，回答完全错误。这种情况可能是由于以下几个原因导致的，建议您依次排查： 训练参数设置：您可以通过绘制Loss曲线查询来
置的不合理而导致过拟合，该现象会更加明显。请检查训练参数中的 “训练轮次”或“学习率”等参数的设置，适当降低这些参数的值，降低过拟合的风险。 推理参数设置：请检查推理参数中的“温度”或“核采样”等参数的设置，适当减小其中一个参数的值，可以提升模型回答的确定性，避免生成异常内容。 父主题：
他们的成长。而且这款毛绒玩每一个细节都呈现出了无限的童真和天真，真的是太可爱了！\n\n除了可爱外，这款毛绒玩具还有一个很重要的功能，它能给孩子带来无限温暖的拥抱。当孩子感到孤独或者失落时，它就像一个亲密的好友一样，安慰着他们的心灵。就像你给亲人一个紧紧的拥抱，让他们感受到你的爱
为什么微调后的模型，评估结果很好，但实际场景表现却很差 当您在微调过程中，发现模型评估的结果很好，一旦将微调的模型部署以后，输入一个与目标任务同属的问题，回答的结果却不理想。这种情况可能是由于以下几个原因导致的，建议您依次排查： 测试集质量：请检查测试集的目标任务和分布与实际场景
gram和4-gram拆分后，然后计算加权平均精确率。其中，n-gram指的是一个句子中连续的n个单词片段。BLEU-4 的数值越高，表明模型性能越好。 困惑度指标介绍 困惑度用来衡量大语言模型预测一个语言样本的能力。数值越低，准确率越高，表明模型性能越好。 父主题： 训练盘古大模型
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
