检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
安装SDK(Python SDK) pip直接安装 执行如下命令: pip install pangu_kits_app_dev_py 本地导入 从support网站上下载pangu-kits-app-dev-py的whl包。 建议使用conda创建一个新的python环境,python版本选择3
Python 安装SDK(Python SDK) 配置SDK(Python SDK) 配置LLMs(Python SDK) 配置Prompt(Python SDK) 配置Memory(Python SDK) 配置Skill(Python SDK) 配置Agent(Python SDK)
配置Cache(Python SDK) Cache缓存是一种临时存储数据的方法,它可以把常用的数据保存在内存或者其他设备中,当需要访问这些数据时,无需再去原始的数据源查找,而是直接从缓存中获取,从而节省时间和资源。 Cache缓存有以下几种操作: 初始化:指定缓存使用哪种存储方式
通过vectorStoreConfig判断使用CSS的插件模式和非插件模式。如果配置了embedding模型,则使用非插件模式,否则使用插件模式。注意,在非插件模式下,vectorFields有且只有1个。 父主题: 配置Memory(Python SDK)
配置Histroy(Python SDK) History缓存,用于存储历史对话信息,辅助模型理解上下文信息,历史消息对有固定窗口、消息摘要等策略。 初始化:消息记录支持不同的存储方式, 如内存、DCS(Redis)和RDS(Sql)。 from pangukitsappdev.memory
体验盘古驱动的应用百宝箱 应用百宝箱是盘古大模型为用户提供的便捷AI应用集,用户可在其中使用盘古大模型预置的场景应用和外部应用,轻松体验大模型开箱即用的强大能力。 体验盘古预置模型能力前,请先完成申请体验盘古大模型服务操作。 登录盘古大模型套件平台,在左侧导航栏中选择“应用百宝箱”,进入“应用百宝箱”页面。
体验盘古驱动的应用百宝箱 应用百宝箱是盘古大模型为用户提供的便捷AI应用集,用户可在其中使用盘古大模型预置的场景应用和外部应用,轻松体验大模型开箱即用的强大能力。 体验盘古预置模型能力前,请先完成申请体验盘古大模型服务操作。 登录盘古大模型套件平台,在左侧导航栏中选择“应用百宝箱”,进入“应用百宝箱”页面。
配置基础问答能力(Python SDK) 提供简单的对话实现。 初始化 from pangukitsappdev.api.llms.factory import LLMs from pangukitsappdev.api.skill.base import SimpleSkill
上面的例子中,当满足if判断条件时,就会直接终止agent的执行,并且agent的finalAnswer被设置为工具的原始返回值。 父主题: 配置Agent(Python SDK)
配置文档问答能力(Python SDK) 基于已有的知识库进行回答。有stuff、refine和map-reduce策略。 Stuff:将所有文档直接填充到prompt中,提给模型回答,适合文档较少的场景。 from pangukitsappdev.api.embeddings.factory
配置多轮对话能力(Python SDK) 支持上下文记忆的多轮对话。 初始化 from pangukitsappdev.skill.conversation_skill import ConversationSkill from pangukitsappdev.api.llms.factory
您的数学成绩是55分,而语文成绩是56分。 AgentSessionSkill使用的大模型建议为N2-基础模型或者其他同等类型的模型。 父主题: 配置Agent(Python SDK)
配置文档摘要能力(Python SDK) 基于已有的知识库,进行摘要总结。有stuff、refine、map-reduce策略。 Stuff:将所有文档直接填充到prompt中,提给模型处理,适合文档较少的场景。 from pangukitsappdev.api.embeddings
-version需要配置为“N2_agent_v2”,模型的相关配置需要改为Pangu-NLP-N2-Agent-L0.C模型的地址。 with_prompt参数配置为True,prompt的拼接由Agent托管处理。 父主题: 配置Agent(Python SDK)
k, tool_stream_callback) StreamCallBack的实现与定义与LLM的回调完全相同。 父主题: 配置Agent(Python SDK)
return_type。为可选参数,如果func为未指定返回值类型的callable类型,必须通过return_type指定返回值类型。 父主题: 配置Agent(Python SDK)
配置SDK(Python SDK) 基础配置项 SDK依赖的配置项主要通过加载llm.properties配置文件。 在项目路径下,创建llm.properties文件,并根据实际需要配置相应的值。 在环境变量中配置“SDK_CONF_PATH”指向该配置文件: # 建议在业务项目入口处配置
triever方法为其添加了一个ToolRetriever,这样Agent所使用的工具会根据用户的对话动态的选择。 父主题: 配置Agent(Python SDK)
配置Skill(Python SDK) 配置基础问答能力(Python SDK) 配置多轮对话能力(Python SDK) 配置文档问答能力(Python SDK) 配置文档摘要能力(Python SDK) 父主题: Python
件,如时间范围、用户标识、消息类型等,实现对话消息的筛选和分析。 配置Cache(Python SDK) 配置Vector(Python SDK) 配置Histroy(Python SDK) 父主题: Python