检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
用户: 定个金桥203会议室的会议 助手: 好的，请问会议具体是什么时候开始和结束？请按照"yyyy-MM-dd HH:mm"的格式告诉我。 - 步骤1 答复:好的，请问会议具体是什么时候开始和结束？请按照"yyyy-MM-dd HH:mm"的格式告诉我。 用户: 下午2点到4点
调用边缘模型 调用边缘模型的步骤与使用“在线部署”调用模型的步骤相同，具体步骤请参考使用API调用模型。 父主题： 部署为边缘服务
排顺序 在提示词中内容的顺序也很重要，基于盘古大模型调优经验，将关键信息放在结尾处，模型输出效果更好。不同任务的关键信息不同，若需要模型生成的内容更具创意性，关键信息需要为内容描述；需要模型严格遵循指令进行回复的，关键信息为指令及说明。 父主题： 常用方法论
大模型概念类问题 大模型是什么 大模型的计量单位token指的是什么 大模型是否可以自定义人设 盘古自然语言大模型的适用场景有哪些 大模型的安全性需要从哪些方面展开评估和防护 训练智能客服系统大模型需要考虑哪些方面
获取提示词模板 平台提供了多种任务场景的提示词模板，可以帮助用户更好地利用大模型的能力，引导模型生成更准确且更具针对性的输出，从而提高模型在特定任务上的性能。在创建提示词工程前，可以先使用预置的提示词模板，或基于提示词模板进行改造，如果提示词模板满足不了使用需求，可再单独创建。 提示词模板可以在平台“应用开发
在“创建工具”页面参考表1完成工具代码的设置。 表1 创建工具参数说明 参数 是否必选 参数类型 描述 tool_id 是 String 工具ID，必须由英文小写字母和_组成，需要符合实际工具含义。 tool_desc 是 String 工具的描述，尽可能的准确简短描述工具的用途。 说明： 该描述
发布数据集 刚创建的数据集在未发布状态下，无法应用于模型训练，数据集创建、清洗完成后需要执行“发布”操作才可以将该数据集用于后续的任务中。 登录盘古大模型套件平台。 在左侧导航栏中选择“数据工程 > 数据管理”，在“我的数据集”页签找到未发布的数据集，单击操作列“版本发布”执行发布数据集操作。
自定义模型 如果使用的模型不是盘古或者兼容OpenAI-API的开源模型，如，闭源模型或者裸机部署的自定义推理服务，可以通过继承AbstractLLM自定义一个模型，示例代码如下： @Slf4j public class CustomLLM extends AbstractLLM<LLMResp>
09:00的A01已预定成功 - 步骤3 答复:"已为您预定 A01会议室，时间为2024年5月8日早上8点到9点。 " 多轮执行增强 上述的例子中实际运行时只提供给模型多轮的对话，并没有提供工具执行的过程，有概率会出现模型不实际调用工具的情况。为了让大模型的效果更好，可以传入agentSession。
选择需要部署的模型。 推理资源 选择非限时免费的模型时显示。选择盘古大模型服务提供的在线推理资产。 部署方式 选择“在线部署”，即将算法部署至盘古大模型服务提供的资源池中。 推理资产 选择“已购资产”。 限时免费：使用免费的推理资源，仅支持部署一个实例。 已购资产：由用户购买的推理资源，实际可用推理单元由购买时的数量决定。
大模型体验申请页面。 图1 立即体验 您可以选择希望体验的盘古大模型，单击“申请体验”，填写手机、邮箱和邀请码，单击“下一步”，提交体验盘古大模型的申请。 图2 申请体验-1 图3 申请体验-2 父主题： 体验盘古大模型功能
大模型体验申请页面。 图1 立即体验 您可以选择希望体验的盘古大模型，单击“申请体验”，填写手机、邮箱和邀请码，单击“下一步”，提交体验盘古大模型的申请。 图2 申请体验-1 图3 申请体验-2 父主题： 体验盘古大模型功能
法等。 零样本 对于无样本的任务，可以采用让模型分步思考的方法来分解复杂推理或数学任务，在问题的结尾可以加上“分步骤解决问题”或者“让我们一步一步地思考”，以引导大模型进行逐步的推理和解答。 通过上述指令，将一个推理任务拆解分步骤进行，可以降低推理任务的难度并可以增强答案可解释性
盘古大模型套件平台支持NLP大模型的训练。不同模型训练所需的数据量和数据格式有所差异，请基于数据要求提前准备训练数据。 数据量要求 自监督训练 在单次训练任务中，一个自监督训练数据集内，上传的数据文件数量不得超过1000个，单文件大小不得超过1GB，所有文件的总大小不得超过200GB。 表1
设置候选提示词 用户可以将效果较好的提示词设为候选提示词，并对提示词进行比对查看效果。 登录盘古大模型套件平台。 在左侧导航栏中选择“应用开发 > 提示词工程”，进入提示词工程页面。 在工程任务列表页面，找到所需要操作的工程任务，单击该工程任务操作栏中的“撰写”。 图1 撰写提示词
token解析失败，请检查获取token的方法，请求体信息是否填写正确，token是否正确；检查获取token的环境与调用的环境是否一致。 token超时（token expires） ，请重新获取token，使用不过期的token。 请检查AK/SK是否正确（AK对应的SK错误，不匹配；AK/SK中多填了空格）。
Agent效果优化 如果Agent出现无法正确调用工具的情况，可以尝试一些prompt优化技术提升效果。 优化System prompt 提示财务报销助手依赖的必要信息，如用户名称等基础信息： final String customSystemPrompt = "你是财务
约束与限制 受技术等多种因素制约，盘古大模型服务存在一些约束限制。 每个模型请求的最大Token数有所差异，详细请参见模型的基础信息。 模型所支持的训练数据量、数据格式要求请参见《用户指南》“准备盘古大模型训练数据集 > 模型训练所需数据量与数据格式要求”。
split（通过配置文件指定filePath和mode） DocSplit docPanguSplit = DocSplits.of(DocSplits.PANGUDOC); 其中，filePath指的是需要解析的文档路径，mode为分割解析模式，具体定义如下： 0 - 返回文档的原始段落，不做其他处理。
调测AI助手 在AI助手的创建页面可以直接进行调测，也可以在AI助手列表页进行调测。 登录盘古大模型套件平台。 在左侧导航栏中选择“应用开发 > AI助手”，选择需要调测的AI助手，单击“调测”按钮。 图1 AI助手 在调测页面，可以调整AI助手的指令，输入问题后，单击“运行”获得模型回复结果。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
