检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
图1 盘古大模型套件使用流程 表1 使用流程说明 流程 子流程 说明 操作指导 准备工作 注册华为账号并开通华为云 在使用华为云服务之前您需要注册华为账号并开通华为云。 注册华为账号并开通华为云 购买盘古大模型套件 购买盘古系列大模型及推理资产。 购买盘古大模型套件 开通盘古大模型服务
memory.css")) vector_api = Vectors.of("css", vector_store_config) # 检索文档 docs = vector_api.similarity_search(query, 4) # 文档问答 doc_skill = DocAskStuffSkill(LLMs
实现对华为云上购买的盘古大模型资源的权限隔离，可以使用统一身份认证服务（IAM）和盘古角色管理功能进行精细的权限管理。 如果华为云账号已经能满足您的要求，不需要创建独立的IAM用户（子用户）进行权限管理，可以跳过本章节，不影响您使用服务的其他功能。 通过IAM，您可以在华为云账号
pangu.dev.sdk.api.skill.Skills; import com.huaweicloud.pangu.dev.sdk.api.memory.vector.Vector; import com.huaweicloud.pangu.dev.sdk.api.memory.vector
盘古推理SDK简介 推理SDK概述 盘古大模型推理SDK是对REST API进行的封装，通过该SDK可以处理用户的输入，生成模型的回复，从而实现自然流畅的对话体验。 表1 推理SDK清单 SDK分类 SDK功能 支持语言 使用场景 推理SDK 对话问答（多轮对话）（/chat/completions）
来理解和回应用户的需求。 例如，需要构建一个企业助理应用，该应用需要具备预定会议室、创建在线文档和查询报销信息等功能。在构建此应用时，需要将预定会议室与创建在线文档等功能的API接口定义为一系列的工具，并通过AI助手，将这些工具与大模型进行绑定。当用户向AI助手提问时，大模型就
sdk.api.annotation.AgentTool; import com.huaweicloud.pangu.dev.sdk.api.annotation.AgentToolParam; import com.huaweicloud.pangu.dev.sdk.api.tool
from pangukitsappdev.api.llms.factory import LLMs # 设置SDK使用的配置文件 os.environ["SDK_CONFIG_PATH"] = "./llm.properties" # 初始化文档问答Skill doc_skill =
基础问答 提供简单的对话实现。 初始化 from pangukitsappdev.api.llms.factory import LLMs from pangukitsappdev.api.skill.base import SimpleSkill from langchain.prompts
UTF_8); // 通过分割符分割文档； // 以 分割符“\n”， 每段大小最大1000字符 为例 List<String> docs = TextSplitter.splitByChars(context, "\n", 1000); // 对文档进行摘要 DocSkill skill
初始化。 import com.huaweicloud.pangu.dev.sdk.api.llms.LLMs; import com.huaweicloud.pangu.dev.sdk.api.skill.Skills; import com.huaweicloud.pangu
盘古模型信息，根据实际情况填写 sdk.llm.pangu.url= 工程实现。 import docx from pangukitsappdev.api.llms.factory import LLMs from pangukitsappdev.skill.doc.summary import
间以原到期时间为准，需支付从进入保留期开始至续费时的费用。 账户欠费后，部分操作将受限，建议您尽快续费。具体受限操作如下： 按需方式的API接口不可调用。 无法开通服务。 服务到期 包年包月服务到期后，保留期时长将根据“客户等级”定义。在保留期内的资源处理和费用请参见“保留期”。
息可以增强模型的理解和回答能力。 该参数需要与工具配合使用，需要填入工具input_schema参数中API的请求参数。例如，在配置AI助手工具的代码示例中，创建预定会议室API的请求参数中有start，设置为start，即将会议的开始相关的信息作为关键信息，带入新轮次的对话中。
调用边缘模型 调用边缘模型的步骤与使用“在线部署”调用模型的步骤相同，具体步骤请参考使用API调用模型。 父主题： 部署为边缘服务
fewShotPromptTemplate.format(inputs); 自定义prompt // 按约定的格式准备prompt文件； // 文档结构和文件名参考提供的系统预置prompts文件 文档结构示例： …… prompts -- default -- documents
dev.sdk.agent.ReactPanguAgent; import com.huaweicloud.pangu.dev.sdk.api.llms.LLMs; public static void initAgent() { LLM llm = LLMs.of(LLMs
skill.conversation_skill import ConversationSkill from pangukitsappdev.api.llms.factory import LLMs skill = ConversationSkill(LLMs.of("pangu"))
huaweicloud.pangu.dev.sdk.api.llms.LLMs; import com.huaweicloud.pangu.dev.sdk.Template.KV; import com.huaweicloud.pangu.dev.sdk.api.skill.base.SimpleSkill;
大模型是否可以自定义人设 大模型支持设置人设，在用户调用对话问答（chat/completions）API时，可以将“role”参数设置为system，让模型按预设的人设风格回答问题。例如，以下示例要求模型以幼儿园老师的风格回答问题。 { "messages": [
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
