检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 前提条件 需要获取Agent的发布地址。 使用Agent Web UrI 直接打开Web链接访问应用。 如果创建Agent时,使用配置变量的方式实现了记忆能力,体验时输入变量值,作为Agent记忆信息存储,单击“保存”。
单击“下一步”,配置输出参数,参数如表2所示。 表5 输出参数说明 参数 说明 添加响应 单击“添加响应”,根据被调用API的响应码信息添加响应码。 输出参数 配置输出参数,如被调用API没有响应参数可不填。 响应体:HTTP响应消息的组成部分之一,响应体呈现发送给服务器的数据。 JSO
如何对平台接入的第三方模型服务设置鉴权 平台资产中心接入了第三方供应商的闭源模型,例如GLM系列、Moonshot系列等,这些模型服务在调测(体验)、调用前,需要先设置模型鉴权。 前提条件 需要具备AI原生应用引擎管理员权限,权限申请操作请参见AppStage组织成员申请权限。 操作步骤 在
Spring Cloud为微服务开发提供了一套完整的解决方案,大幅简化了分布式系统中基础设施如服务发现与注册、配置管理、负载均衡、数据监控以及分布式调用链等的开发工作。通过Spring Cloud提供的简易框架,开发者能够基于Spring Boot轻松实现微服务项目的构建。 然而,除了开发
SDK封装了业务微服务读取ACMS身份证书、到ACMS-Server上获取密钥、认证凭据、解密敏感数据、微服务间通信认证加密等功能,用户直接调用STS SDK提供的接口函数即可实现使用ACMS业务能力的目的。 父主题: STS SDK
模型调测参数说明 参数名称 参数说明 输出方式 可选非流式、流式。二者区别如下: 非流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,大语言模型完整生成回答后一次性返回。 流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,逐个字词的快速返回模式,不需等待大语言模型生成完成。
工具节点实例需要填写工具创建时所配置的鉴权信息。 三方厂商的工具API,请到工具对应官网获取鉴权信息。 自创建工具请填写工具创建时所配置的鉴权信息。 如果调用其他租户或资源相互隔离的部门所上架的工具,请在AI原生应用引擎中,选择左侧导航栏的“资产中心”,选择“工具”页签,单击工具卡片上的“设置鉴
实现复杂的工作流。工作流可在用户创建Agent时调用,Agent使用过程中,当起始节点触发,后续动作即可自动执行,完成一系列复杂的任务。 本实践中,工作流主要完成如下任务:根据用户输入的城市,获取该城市的实时天气及实时空气质量,调用大模型生成旅游行程规划,最后以短信的形式发送旅游行程规划信息到用户手机。
应用中心 调用知识检索流 调用流 调用工具的执行动作 上传文件用于测试流 上传文件用于调用Agent 上传文件至文件盒子 删除文件盒子中的文件 调用Agent 父主题: API
建Agent时调用,Agent使用过程中,当起始节点触发,后续动作即可自动执行,完成一系列复杂的任务。 创建Agent(LLM模式)时,由大模型根据用户问题与工作流的关联性决策是否调用工作流。 创建的Agent(工作流模式)时,用户与工作流进行对话,每次对话都会调用工作流。 前提条件
调”或“通用能力增强微调”。 Functioncall能力增强微调:具备Functioncall能力的模型能够识别并执行函数调用或API调用,通过功能调用微调数据集增强模型的扩展性。 通用能力增强微调:广泛应用于各个领域,针对特定任务或行业需求,通过领域微调数据集增强模型领域能力。
API概览 AppStage接口的分类与说明如表1所示。 表1 API概览 类型 说明 模型调用 包含文本对话类、文本向量化类模型服务调用接口。 应用中心 包含Agent调用、用户配置(工作流、技能)调用、文件盒子等接口。 知识中心 包含知识库和知识数据集的创建、删除、执行及查询等接口。
概述 系统架构 图1 SLB系统架构 系统架构说明: 调用部署服务接口获取业务微服务列表,以及发布的微服务版本信息,用于配置不同微服务版本的灰度策略。 运维在灰度发布管理台配置微服务灰度策略,支持配置同一个微服务不同版本的灰度规则,以及不同微服务相同的灰度规则。 微服务的灰度策略同步到灰度配置中心。
工具页签下展示平台预置的第三方工具及租户上架的工具。 平台预置的第三方工具 请参考调用资产中心工具前设置认证鉴权设置鉴权,再进行调用。 租户上架的工具 请参考收藏上架的工具和调用资产中心工具前设置认证鉴权进行收藏及鉴权,再进行调用。 大模型 大模型页签下展示平台预置的大模型和平台接入的第三方模型服务。
目前AppStage的AI原生应用引擎提供API供您调用。在调用AppStage的AI原生应用引擎API之前,请确保已经充分了解AppStage的相关概念,详细信息请参见AppStage服务的产品介绍。 终端节点 终端节点即调用API的请求地址,不同服务不同区域的终端节点不同,A
包年/包月 包年/包月:实例数量*实例单价*购买时长 大模型调用 大模型调用次数。 包年/包月:与“应用并发用户数”一起构成套餐包。 按小、中、大规格计费。 应用并发用户数 同时访问应用的用户数。 包年/包月:与“大模型调用”一起构成套餐包。 容量包 容量包数量。 包年/包月 容量包数量*容量包单价*计费时长
通过运营看板查看AI原生应用引擎资产总览 查看资产总览 查看模型调用统计 查看Agent调用统计
是否必填项 说明 模型服务调用ID 是 需要调用的大模型。 对于资产中心预置的模型,在资产中心选择“大模型”页签,单击模型卡片进入模型详情页面,查看模型服务调用ID。 对于我的模型(我部署的、我接入的)和我的路由策略,需要填写模型服务调用ID,请单击“获取模型服务调用ID”,进入“我的模
据集的大小。在深度学习中,微调用于改进预训练模型的性能。 2 生成模型服务 将已有模型部署为模型服务 接入模型服务 支持通过API接入模型服务,同时支持将平台预置模型进行微调后,部署为模型服务,模型服务可以在创建Agent时使用或通过模型调用接口调用。 3 调测模型 通过调测模型
objects 工具调用消息,与content二选一。 表8 ToolCall 参数 参数类型 描述 id String 工具调用唯一标识符。 type String 工具类型,当前仅支持function。 function CallFunction Object 调用函数的详细信息。