检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
如何保证Agent每次问答都调用知识库? 创建Agent时,支持配置支持库调用方式,当调用方式选择为“自动调用”时每次问答都会调用知识库,选择“按需调用”时由大模型决定是否调用知识库,如图1所示。具体介绍请参见创建并发布Agent。 图1 调用方式 父主题: AI原生应用引擎
收藏平台资产中心的模型 支持收藏平台资产中心提供的模型,包括预置的模型和平台接入的第三方模型。将自己关注的或后续计划使用的模型收藏后,可便捷地在收藏列表中进行部署、微调、体验。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。
KnowledgeRetriever KnowledgeRetriever提供了知识库检索的能力,可以检索开发者的知识库,提取相关的信息。 导入KnowledgeRetriever from wiseagent_dev_sdk_python.modules.knowledge_db
管理资产中心预置提示语 提示语是给大模型的指令,它可以是一个问题、一段文字描述,也可以是带有一系列参数的文字描述。 AI原生应用引擎资产中心预置了多款提示语模板,这些模板是基于大量应用场景下的经验或者训练语料而总结出一些优质的提示语组成结构,将其抽离成为一种模板,支持测试、一键快
基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对微调数据集进行数据标注 创建模型微调任务 父主题: 管理模型
创建工作流 工作流体现的是一个具体的业务场景,通过一系列不同功能节点中的触发事件和执行动作编排而成,AI原生应用引擎通过将传统工具API和大模型编排在一起实现复杂的工作流。工作流可在用户创建Agent时调用,Agent使用过程中,当起始节点触发,后续动作即可自动执行,完成一系列复杂的任务。
如何获取Agent发布时要所需的API Key? 填写AI原生应用引擎平台的API Key,生成方式请参见新增平台API Key。 父主题: AI原生应用引擎
创建AK/SK访问密钥 AK/SK访问密钥是每个用户单独的身份认证,是个人调用应用接口的依据,必须妥善保管。用户创建Agent在调用平台接口时需要进行平台鉴权认证,可以使用“AK/SK访问密钥”进行平台的鉴权认证。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操
创建知识数据集 知识数据集是构建和组成知识库的重要元素。知识库是一个组织、存储及管理知识的系统,包括文档、数据库、图表、表格等多种形式的信息的分类、整理和归纳,可以帮助用户组织和管理大量的信息,以便快速访问和使用。 前提条件 通过OBS(对象存储服务)接入数据时,操作账号需获得O
HttpxClient 实例化 表1 实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。
test nginx: nginx: [alert] mmap(MAP_ANON|MAP_SHARED, 524288000) failed (12: Cannot allocate memory) nginx: [alert] munmap(FFFFFFFFFFFFFFFF, 524288000)
ApplicationCenter ApplicationCenter提供了开发者调用部署在平台的应用的能力。 导入ApplicationCenter from wiseagent_dev_sdk_python.modules.tools import ApplicationCenter
按照标题切分的时候,分段长度是什么意思? 如果当前分片长度小于该值,则会和其他分片进行合并直到接近该值,所以如果不想合并,请将分段长度设置为1。 父主题: AI原生应用引擎
将已有模型部署为模型服务 模型需要部署成功后才可正式提供模型服务。部署成功后,可以对模型服务进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 本文介绍如何将微调后的模型或部分平台资产中心的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。
使用工作流规划旅游行程 场景介绍 工作流体现的是一个具体的业务场景,通过一系列不同功能节点中的触发事件和执行动作编排而成,AI原生应用引擎通过将传统工具API和大模型编排在一起实现复杂的工作流。工作流可在用户创建Agent时调用,Agent使用过程中,当起始节点触发,后续动作即可自动执行,完成一系列复杂的任务。
对创建的提示语进行优化 提示语优化是针对提示语进行结构、排版、内容等维度进行优化和改进,将大模型的输入限定在了一个特定的范围之中,进而更好地控制模型的输出。通过提供清晰和具体的指令,引导模型输出并生成高相关、高准确且高质量的文本对答内容,属于自然语言处理领域突破的重要技术,可以提
[Service proxy.apply_sudo._wrapped_f]: fail to operator sudo,message: send request fail, status code: 400, error: None, message: illegal param\"
如何通过调用Agent API将变量传递到工作流? 创建Agent时配置变量,如图1所示,具体操作请参见创建并发布Agent。 图1 配置变量 在配置工作流时,选择引入变量,根据Agent中定义的变量类型(一般变量或敏感变量)来设置工作流的入参,如图2所示,具体操作请参见创建工作流。
模型调测时,无法选择模型服务商API是什么原因? 对模型服务商API调测前,需要先设置鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权。 父主题: AI原生应用引擎
创建路由策略用于提供模型服务 通过配置路由策略,可以实现模型故障自动切换能力,当模型A因故障等原因无法正常工作时,可以自动切换为另一个可用的模型提供服务,从而提高模型服务的稳定性和可用性。 路由策略创建完成后,可以进行模型调测,并支持在创建Agent时使用或通过接口调用。 前提条件