检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
获取提示词模板 平台提供了多种任务场景的提示词模板，可以帮助用户更好地利用大模型的能力，引导模型生成更准确且更具针对性的输出，从而提高模型在特定任务上的性能。在创建提示词工程前，可以先使用预置的提示词模板，或基于提示词模板进行改造，如果提示词模板满足不了使用需求，可再单独创建。 提示词模板可以在平台“应用开发
相关性最高的前N个工具。 历史信息处理策略 设置处理和利用用户历史对话信息的策略。 类型：对用户历史对话信息进行截断（truncation），用于控制传递给模型的上下文长度。 截断窗口大小：指在处理用户的历史对话信息时，系统会保留最近的N个对话传递给模型。 历史关键信息抽取 历史
AI助手是一种基于NLP大模型构建的人工智能应用，它通过结合多种工具并利用大模型的对话问答、规划推理、逻辑判断等能力，来理解和回应用户的需求。 例如，需要构建一个企业助理应用，该应用需要具备预定会议室、创建在线文档和查询报销信息等功能。在构建此应用时，需要将预定会议室与创建在线文档等功能的API接口定义为一
-贵阳一”区域的“获取Token”接口，并填写请求Header参数。 接口地址为：https://iam.cn-southwest-2.myhuaweicloud.com/v3/auth/tokens 请求Header参数名为Content-Type，参数值为application/json
型需选择“N2 - 基础模型功能 & 应用增强功能”。用户可根据需求自行选择功能模型，输入资源名称，类型选择“边缘部署”，输入需要订购的推理算力，单击“确认订单”。 订购完成后，进入“平台管理 > 资产管理 > 模型推理资产”，可查看订购的边缘部署资产。 父主题： 部署为边缘服务
每个Token代表模型处理和生成文本的基本单位，它可以是一个单词、字符或字符的片段。模型的输入和输出都会被转换成Token，并根据模型的概率分布进行采样或计算。训练服务的费用按实际消耗的Token数量计算，即实际消耗的Token数量乘以Token的单价。为了帮助用户更好地管理和优化Token消耗，平台提供了T
推理资产不足，现有资源无法满足同时部署多个模型时，可以扩容模型推理资产。 在“平台管理 > 资产管理 > 模型推理资产”中，单击操作列“扩容”执行扩容操作。 图4 扩容模型推理资产 不同类型的模型在部署时，做占用的推理资产数量存在差异，部署模型时所占的推理资产数量与模型类型关系如下。 表1 部署模型 模型类型
面试问题生成 应用场景说明：将面试者的简历信息输入给大模型，基于简历生成面试问题，用于辅助人工面试或实现自动化面试。 父主题： 写作示例
如果Agent出现无法正确调用工具的情况，可以尝试一些prompt优化技术提升效果。 优化System prompt 提示财务报销助手依赖的必要信息，如用户名称等基础信息： final String customSystemPrompt = "你是财务报销助手。当需要用户反馈信息时，尽可能提示用户名称等原始信息。今天的日期是"
调测AI助手 在AI助手的创建页面可以直接进行调测，也可以在AI助手列表页进行调测。 登录盘古大模型套件平台。 在左侧导航栏中选择“应用开发 > AI助手”，选择需要调测的AI助手，单击“调测”按钮。 图1 AI助手 在调测页面，可以调整AI助手的指令，输入问题后，单击“运行”获得模型回复结果。
SDK) 配置Memory(Python SDK) 配置Skill(Python SDK) 配置Agent(Python SDK) 父主题： 盘古应用开发SDK
配置AI助手工具 各种功能的API经封装后，将形成一个个工具，AI助手通过大模型来调用不同的工具，实现相应的功能。在创建AI助手前，需要将使用的功能封装为工具。 登录盘古大模型套件平台。 在左侧导航栏中选择“应用开发 > 工具管理”，单击页面右上角“创建工具”。 图1 工具管理
配置Prompt(Java SDK) 配置Memory(Java SDK) 配置Skill(Java SDK) 配置Agent(Java SDK) 父主题： 盘古应用开发SDK
面。 图2 创建评估 选择评估使用的变量数据集和评估方法。 数据集：根据选择的数据集，将待评估的提示词和数据集中的变量自动组装成完整的提示词，输入模型生成结果。 评估方法：根据选择的评估方法，对模型生成结果和预期结果进行比较，并根据算法给出相应的得分。 图3 创建评估 输入评估名称和描述。
高质量的提示词，可以将提示词发布至“提示词管理”中。 登录盘古大模型套件平台。 在左侧导航栏中选择“应用开发 > 提示词工程”，进入提示词工程页面。 在工程任务列表页面，找到所需要操作的工程任务，单击该工程名称，跳转工程任务下候选提示词页面。 图1 提示词工程 勾选所需的提示词，并单击“保存到模板库”。
上述代码中custom.llm.url为自定义的url地址（名字由开发者任意指定，或直接传入url地址），可以指向不同的模型，因此llm1为一个大模型；而llm2没有指定config，默认使用sdk.llm.pangu.url，若地址与custom.llm.url，则为另外一个大模型。
设置候选提示词 用户可以将效果较好的提示词设为候选提示词，并对提示词进行比对查看效果。 登录盘古大模型套件平台。 在左侧导航栏中选择“应用开发 > 提示词工程”，进入提示词工程页面。 在工程任务列表页面，找到所需要操作的工程任务，单击该工程任务操作栏中的“撰写”。 图1 撰写提示词
SDK) History缓存，用于存储历史对话信息，辅助模型理解上下文信息，历史消息对有固定窗口、消息摘要等策略。 初始化：消息记录支持不同的存储方式， 如内存、DCS（Redis）和RDS（Sql）。 from pangukitsappdev.memory.sql_message_history
配置Histroy(Java SDK) History缓存，用于存储历史对话信息，辅助模型理解上下文信息，历史消息对有固定窗口、消息摘要等策略。 初始化：消息记录支持不同的存储方式，如内存、DCS（Redis）、RDS（Sql）。 import com.huaweicloud.pangu
通过精心设计和优化提示词，可以引导大模型生成用户期望的输出，提示词工程任务的目标是通过设计和实施一系列的实验，来探索如何利用提示词来提高大模型在各种任务上的表现。 撰写提示词前需要先创建提示词工程，用于对提示词的统一管理。 登录盘古大模型套件平台。 在左侧导航栏中选择“应用开发 > 提示词工程”，进入提示词工程页面。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
