检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
应用开发SDK概述 应用开发SDK针对大模型应用开发场景，对大语言模型进行封装，提供了语言模型、提示词模板、记忆、技能、智能代理等功能模块，简化用户的开发工作，帮助用户快速开发一个大模型应用。当前应用开发SDK支持如下语言： Python Java 开发环境要求 华为云盘古大模型应用开发SDK要求Python
基于NLP-N2-基模型训练的单场景模型，可支持选择一个场景进行推理，如：搜索RAG方案等，具有32K上下文能力。 NLP大模型训练过程中，一般使用token来描述模型可以处理的文本长度。token（令牌）是指模型处理和生成文本的基本单位。token可以是词或者字符的片段。模型的输入和输出的文本都会
为什么微调后的模型，回答中会出现乱码 为什么微调后的模型，回答会异常中断 为什么微调后的模型，只能回答在训练样本中学过的问题 为什么微调后的模型，输入与训练样本相似的问题，回答与训练样本完全不同 为什么微调后的模型，评估结果很好，但实际场景表现却很差 多轮问答场景，为什么微调后的效果不好 数据量满足要求，为什么微调后的效果不好
Agent（智能代理），用于对复杂任务的自动拆解与外部工具调用执行，一般包括任务规划、记忆系统、执行系统： 任务规划：将复杂目标任务分解为小的可执行子任务，通过评估、自我反思等方式提升规划成功率。 记忆系统：通过构建记忆模块去管理历史任务和策略，并让Agent结合记忆模块中相关的信息以获取最优化任务解决策略。
多样性和一致性是评估LLM生成语言的两个重要方面。 多样性指模型生成的不同输出之间的差异。一致性指相同输入对应的不同输出之间的一致性。 重复惩罚 重复惩罚（repetition_penalty）是在模型训练或生成过程中加入的惩罚项，旨在减少重复生成的可能性。通过在计算损失函数（用于优化模型的指标）时增加
大模型概念类问题 大模型是什么 大模型的计量单位token指的是什么 大模型是否可以自定义人设 盘古自然语言大模型的适用场景有哪些 大模型的安全性需要从哪些方面展开评估和防护 训练智能客服系统大模型需要考虑哪些方面
上下文记忆的对话、搜索增强等场景。 Memory（记忆）支持多种不同的存储方式和功能。 Cache缓存：是一种临时存储数据的方法，它可以提高数据的访问速度和效率。缓存可以根据不同的存储方式进行初始化、更新、查找和清理操作。缓存还可以支持语义匹配和查询，通过向量和相似度的计算，实现对数据的语义理解和检索。
上下文记忆的对话、搜索增强等场景。 Memory（记忆）支持多种不同的存储方式和功能。 Cache缓存：是一种临时存储数据的方法，它可以提高数据的访问速度和效率。缓存可以根据不同的存储方式进行初始化、更新、查找和清理操作。缓存还可以支持语义匹配和查询，通过向量和相似度的计算，实现对数据的语义理解和检索。
模型能力与规格 模型的基础信息 模型支持的区域 模型支持的操作
split.css.filepath 需要拆分的文档路径。 用户需拆分的文档所在路径。 sdk.doc.split.css.mode 文档拆分模式 可取值如下： 1 - 根据标注的书签或目录分段，适合标签/目录完整的文档 2 - 根据内容里的章节条分段，适合制度类文档 3 - 根据长
Agent（智能代理），用于对复杂任务的自动拆解与外部工具调用执行，一般包括任务规划、记忆系统和执行系统。 任务规划：将复杂目标任务分解为小的可执行子任务，通过评估、自我反思等方式提升规划成功率。 记忆系统：通过构建记忆模块去管理历史任务和策略，并让Agent结合记忆模块中相关的信息以获取最优化任务解决策略。
构造fewshotPrompt模板： // 基于长度策略（长度限制50） // 传入prompt的开头 "参考以下示例，给出给定单词的反义词：" // 传入分隔符 "\n\n" // 传入prompt的结尾 "给定一个单词：{{word}}，返回一个反义词：" FewShotPromptTemplate
a funny joke about chickens" == format2 自定义prompt # 按约定的格式准备prompt文件； # 文档结构和文件名参考提供的系统预置prompts文件 文档结构示例： …… prompts -- default
体验盘古大模型功能 申请体验盘古大模型服务 体验盘古预置模型能力 体验盘古驱动的应用百宝箱
体验盘古大模型功能 申请体验盘古大模型服务 体验盘古预置模型能力 体验盘古驱动的应用百宝箱
应用增强功能”。用户可根据需求自行选择功能模型，输入资源名称，类型选择“边缘部署”，输入需要订购的推理算力，单击“确认订单”。 订购完成后，进入“平台管理 > 资产管理 > 模型推理资产”，可查看订购的边缘部署资产。 父主题： 部署为边缘服务
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
