检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
junit.jupiter.api.Assertions; import java.util.HashMap; // 初始化Prompt模板对象 PromptTemplate promptTemplate = new PromptTemplate("Tell me a {{adjective}}
"meeting_room_status_query", toolDesc = "查询会议室的状态，是否被预定或者正在使用中", toolPrinciple = "请在需要预定会议室之前使用，查询会议室状态判断是否可以预定", inputDesc = "", outPutDesc = "会议室状态")
先制定一个能够明确表达主题的提示词（若模型训练时包含相似任务，可参考模型训练使用的提示词），再由简至繁，逐步增加细节和说明。打好基础是后续提示词优化的前提，基础提示词生成效果差，优化只会事倍功半。 例如，文学创作类可以使用“请创作一个关于{故事主题}的故事”，邮件写作类可以使用“根据以下信息，写一封商务电子邮件。{邮
能力，引导模型生成更准确且更具针对性的输出，从而提高模型在特定任务上的性能。在创建提示词工程前，可以先使用预置的提示词模板，或基于提示词模板进行改造，如果提示词模板满足不了使用需求，可再单独创建。 提示词模板可以在平台“应用开发 > 提示词管理 > 预置提示词”中获取。 图1 获取提示词模板
数据量和质量均满足要求，Loss也正常收敛，为什么微调后的效果不好 这种情况可能是由于以下几个原因导致的，建议您依次排查： Prompt设置：请检查您使用的Prompt，对于同一个目标任务，建议在推理阶段使用和训练数据相同或相似的PROMPT，才能发挥出模型的最佳效果。 模型规格：理论上模型的参数规模越大，模型能学到的
docker.tgz // docker 二进制文件，要求版本>19.0.3 certs // 使用generate命令生成的证书，指定--pkg-path后会自动创建到certs目录 ca.crt
人工评测来评判，BLEU指标只能作为参考。 指标的缺陷 BLEU指标只考虑n-gram词的重叠度，不考虑句子的结构和语义。 模型优化建议 如何基于指标的分值对训练任务进行调整：一般横向比较两个模型时，可以参考该指标。然而，指标没有一个明确的阈值来指示何时模型效果差。因此，单靠该指标无法直接决定任务的调整策略。
监控安全风险 盘古提供基于主机防护服务HSS的资源和操作监控能力，同时支持CTS审计日志，帮助用户监控自身企业账号下的管理操作。用户可以实时掌握服务使用过程中所产生的各类监控指标。 父主题： 安全
自定义模型 如果使用的模型不是盘古或者兼容OpenAI-API的开源模型，如，闭源模型或者裸机部署的自定义推理服务，可以通过继承AbstractLLM自定义一个模型，示例代码如下： @Slf4j public class CustomLLM extends AbstractLLM<LLMResp>
pangu_kits_app_dev_py 本地导入 从support网站上下载pangu-kits-app-dev-py的whl包。 建议使用conda创建一个新的python环境，python版本选择3.9。 在whl包同级目录下，执行如下命令安装： pip install p
最大迭代次数，控制Agent子规划的最大迭代步数，防止无限制的迭代或出现死循环情况。 Agent使用的模型必须为Pangu-NLP-N2-Agent-L0.C模型，或其衍生模型，使用通用模型或其他模型无法运行。如上例所示，当前的module-version需要配置为“N2_age
件。 图3 购买盘古大模型套件 对于前期邀测用户，如果未购买模型推理资产，仍可以使用公共资源池部署模型；对于购买推理资产的邀测用户，仅可以使用专属资源池部署模型。 对于新购买平台的用户，仅可购买并使用专属资源池。 父主题： 准备工作
模型支持的操作 在选择和使用盘古大模型时，了解不同模型所支持的操作行为至关重要。不同模型在预训练、微调、模型评估、模型压缩和在线推理等方面的支持程度各不相同，开发者应根据自身需求选择合适的模型。以下是各个模型支持的具体操作： 表1 模型支持的操作 模型 预训练 微调 模型评估 模型压缩
解是同一个key。 恰当的表述 可以尝试从英语的逻辑去设计提示词。 最好是主谓宾结构完整的句子，少用缩写和特殊句式。 应使用常见的词汇和语言表达方式，避免使用生僻单词和复杂的句式，防止机器理解偏差。 多用肯定句，少用否定句，比如“你不能A -> 你必须保证^A”，“你不能生成重复的问题
启用盘古大模型搜索增强能力 大模型在训练时使用的是静态的文本数据集，这些数据集通常是包含了截止到某一时间点的所有数据。因此，对于该时间点之后的信息，大模型可能无法提供。 通过将大模型与盘古搜索结合，可以有效解决数据的时效性问题。当用户提出问题时，模型先通过搜索引擎获取最新的信息，
能修改原文的任何符号、字词和格式”， 如果使用“请阅读上述文档，并生成以下问题答案”，“生成”一词不是很恰当，模型会引入一些外部知识。 例如，在构造泛化问题的任务中，需要基于原问题改写为相同含义的问题，而不是生成相似的问题。当提示词使用“请生成10个跟“手机银行怎么转账”相似的问
使其能够生成更加自然、准确且符合语境的文本。 通过对海量数据的深入学习和分析，盘古大模型能够捕捉语言中的细微差别和复杂模式，无论是在词汇使用、语法结构，还是语义理解上，都能达到令人满意的精度。此外，模型具备自我学习和不断进化的能力，随着新数据的持续输入，其性能和适应性不断提升，
配置AI助手工具 各种功能的API经封装后，将形成一个个工具，AI助手通过大模型来调用不同的工具，实现相应的功能。在创建AI助手前，需要将使用的功能封装为工具。 登录盘古大模型套件平台。 在左侧导航栏中选择“应用开发 > 工具管理”，单击页面右上角“创建工具”。 图1 工具管理
候选提示词页面。 图1 提示词工程 选中需要评估的候选提示词，单击左上角“创建评估”按钮，跳转评估任务创建页面。 图2 创建评估 选择评估使用的变量数据集和评估方法。 数据集：根据选择的数据集，将待评估的提示词和数据集中的变量自动组装成完整的提示词，输入模型生成结果。 评估方法：
“确定”。 如果节点有npu设备需选择“AI加速卡 > Ascend”，并选择加速卡类型。 如果节点没有加速卡，则选择“AI加速卡 > 不使用”。 单击“立即下载”，下载设备证书和Agent固件，并将设备证书与Agent固件分别重命名为license.tgz、hilens-agent
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
