检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
配置AI助手工具 各种功能的API经封装后，将形成一个个工具，AI助手通过大模型来调用不同的工具，实现相应的功能。在创建AI助手前，需要将使用的功能封装为工具。 登录盘古大模型套件平台。 在左侧导航栏中选择“应用开发 > 工具管理”，单击页面右上角“创建工具”。 图1 工具管理
解是同一个key。 恰当的表述 可以尝试从英语的逻辑去设计提示词。 最好是主谓宾结构完整的句子，少用缩写和特殊句式。 应使用常见的词汇和语言表达方式，避免使用生僻单词和复杂的句式，防止机器理解偏差。 多用肯定句，少用否定句，比如“你不能A -> 你必须保证^A”，“你不能生成重复的问题
准备工作 使用盘古大模型应用开发SDK时，需要在代码中配置以下信息，请提前收集。 表1 资源列表 类型 资源 是否必选 依赖信息 参考文档 备注 大语言模型 华为云盘古 是（大语言模型至少选一个） 盘古模型API调用URL。 华为云IAM账号认证信息。 盘古大模型API参考文档：
Token计算器 功能介绍 为了帮助用户更好地管理和优化Token消耗，平台提供了Token计算器工具。Token计算器可以帮助用户在模型推理前评估文本的Token数量，提供费用预估，并优化数据预处理策略。 URI POST /v1/{project_id}/deployment
行内容审核，帮助客户降低业务违规风险。 授权使用华为云内容审核，有效拦截大模型输入输出的有害信息，保障模型调用安全。 授权后，在调用盘古大模型能力时，模型的输入和输出将分别调用一次内容审核服务，该服务为付费项，用户可按需购买。 若不使用，您也可以自行对接第三方内容审核服务。关于大
先制定一个能够明确表达主题的提示词（若模型训练时包含相似任务，可参考模型训练使用的提示词），再由简至繁，逐步增加细节和说明。打好基础是后续提示词优化的前提，基础提示词生成效果差，优化只会事倍功半。 例如，文学创作类可以使用“请创作一个关于{故事主题}的故事”，邮件写作类可以使用“根据以下信息，写一封商务电子邮件。{邮
.build(); // 使用custom.llm.url final LLM llm1 = LLMs.of(LLMs.PANGU, config); log.info(llm1.ask("你好").getAnswer()); // 使用sdk.llm.pangu.url
现对华为云上购买的盘古大模型资源的权限隔离，可以使用统一身份认证服务（IAM）和盘古角色管理功能进行精细的权限管理。 如果华为云账号已经能满足您的要求，不需要创建独立的IAM用户（子用户）进行权限管理，可以跳过本章节，不影响您使用服务的其他功能。 通过IAM，您可以在华为云账号中
vector_api.add_docs(bulk_list) 通过vectorStoreConfig判断使用CSS的插件模式和非插件模式。如果配置了embedding模型，则使用非插件模式，否则使用插件模式。注意，在非插件模式下，vectorFields有且只有1个。 父主题： Memory（记忆）
议室？ - 步骤1: 思考:好的，我需要先查询A02会议室今天下午3点到8点的预定状态。使用meeting_room_status_query工具进行查询。 行动:使用工具[meeting_room_status_query],传入参数"{\"start\": \"2024-05-07
平台提供了Token计算器工具。Token计算器可以帮助用户在模型训练前评估文本的Token数量，提供费用预估，并优化数据预处理策略。 使用Token计算器的步骤如下： 登录盘古大模型套件平台。 在“服务管理”页面，单击页面右上角“Token计算器”。 在Token计算器中选择
build()) .build()); 通过vectorStoreConfig判断使用CSS的插件模式和非插件模式，如果配置了embedding模型，则使用非插件模式；否则使用插件模式。注意，在非插件模式下，vectorFields有且只有1个。 父主题： Memory（记忆）
son”。 X-Auth-Token：用户Token，可选，当使用Token方式认证时，必须填充该字段。用户Token请参考认证鉴权中的“Token认证”。 公有云API同时支持使用AK/SK认证，AK/SK认证是使用SDK对请求进行签名，签名过程会自动往请求中添加Authori
模型刚开始训练时，如果选择一个较大的学习率，可能导致模型训练不稳定。选择使用warmup热身的方式，可以使开始训练的热身阶段内学习率较小，模型可以慢慢趋于稳定，待模型相对稳定后再逐渐提升至预设的最大学习率进行训练。使用热身可以使得模型收敛速度更快，效果更佳。 模型保存步数 1000 1000~2000中10的倍数
意识，制定科学规范的使用办法，强化使用过程的监测和评估。必须严格按照项目运作方案来确定资金使用范围，确保所有使用资金都是经过规范操作和审批的，必须严格按照使用资金的监管属性，统一管理各类资金，精细、规范、稳健。在内部管理上，应加强信息通报、关联跨部门协调机制，提高管理精神与管理水
.build()); 使用AppCode鉴权添加的Header： X-Apig-AppCode:your-key 使用APIG简易认证方式添加的Header： Authorization:Bearer your-key 当LLM被定义好之后，使用方式与盘古大模型相同，开源模
AI助手”，选择需要运行的AI助手，单击“查看”。 图1 查看AI助手 在详情页面，AI助手API调用地址。 图2 获取调用地址 获取Token 本示例中，通过使用Postman软件获取Token。 登录“我的凭证 > API凭证”页面，获取user name、domain name、project id。
数据量和质量均满足要求，Loss也正常收敛，为什么微调后的效果不好 这种情况可能是由于以下几个原因导致的，建议您依次排查： Prompt设置：请检查您使用的Prompt，对于同一个目标任务，建议在推理阶段使用和训练数据相同或相似的PROMPT，才能发挥出模型的最佳效果。 模型规格：理论上模型的参数规模越大，模型能学到的
间和资源。 对LLM使用缓存： LLM llm = LLMs.of(LLMs.PANGU, llmConfig); llm.setCache(Caches.of(Caches.IN_MEMORY)); llm.ask("你能讲一个笑话吗？") 此时，再次使用同样的问题，则不会再调用大模型，而是直接从内存返回：
模型刚开始训练时，如果选择一个较大的学习率，可能导致模型训练不稳定。选择使用warmup热身的方式，可以使开始训练的热身阶段内学习率较小，模型可以慢慢趋于稳定，待模型相对稳定后再逐渐提升至预设的最大学习率进行训练。使用热身可以使得模型收敛速度更快，效果更佳。 当前盘古-NLP-N4-基模型支持自监督训练。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
