检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
AI原生应用引擎资产中心介绍 在AI原生应用引擎的左侧导航栏选择“资产中心” ,进入资产中心页面,资产中心页面分为搜索、快速筛选、卡片展示三个区域,如图1所示。 资产中心提供了AI应用、工具、大模型、数据集及提示语模板各类资产,请参考表1了解各类资产及使用说明。 ①:搜索区域,输入资产名称关键字进行搜索。
AppStage服务计费模式概述 AppStage提供包年/包月和按需计费两种计费模式,以满足不同场景下的用户需求。 包年/包月:一种预付费模式,即先付费再使用,按照订单的购买周期进行结算。购买周期越长,享受的折扣越大。一般适用于设备需求量长期稳定的成熟业务。 按需计费:一种后付
创建知识检索流 知识检索流是一种特殊的工作流,除工作流基础节点外,还具备检索规划、召回、重排序三个节点。通常,使用检索规划节点对原始查询内容进行意图识别、拆解或改写,以提升查询的准确性,然后使用召回节点从知识库中检索并召回所有与查询相关的信息,最后通过重排序节点对召回结果进行重排
LLM LLM(Large Language Model,大语言模型)即大模型,是工作流的基础节点之一,仅包含“chat”一个执行动作。 在工作流中添加LLM节点,可以使用大语言模型推理服务实现智能问答,在输入参数中引入前置节点的输出或自定义文本作为输入问题,大语言模型根据问题生成回答。
我接入的模型需要满足什么要求才能在创建Agent时作为思考模型? 模型本身支持FunctionCall。 接入的模型需要符合OpenAI接口规范且具体请参见模型API接入接口规范。 流式返回的工具调用信息必须在一条消息内,不能分拆返回。 接入模型服务时 ,在模型服务描述中填写:S
包年/包月 包年/包月是一种先付费再使用的计费模式,适用于对资源需求稳定且希望降低成本的用户。通过选择包年/包月的计费模式,您可以预先购买云服务资源并获得一定程度的价格优惠。本文将介绍包年/包月AppStage套餐包的计费规则。 适用场景 包年/包月计费模式需要用户预先支付一定时
了解代码结构 OrgID登录功能Demo的代码结构如图1所示。 图1 代码结构 deploy_docker为docker部署配置信息。 ├─deploy_docker │ ├─bin │ │ configparser
SDK概述 AppStage为开发者提供运维中心SDK和AI原生应用引擎SDK,方便开发者将AppStage的能力快速集成到自己的应用中。 本文介绍了AppStage提供的开放API的SDK语言版本,列举了最新版本SDK的获取地址。 约束与注意事项 运维中心提供的SDK是基于Java1
知识库 知识库是工作流的基础节点之一,仅包含“查询知识库”一个执行动作。 在工作流中添加知识库节点,可以根据输入参数从指定知识库内召回匹配的信息。 查询知识库配置说明 输入参数 用户配置运行动作执行动作,相关参数说明如表1所示。 表1 输入参数说明 参数 是否必填项 说明 知识库ID
使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 前提条件 需要获取Agent的发布地址。 使用Agent Web UrI 直接打开Web链接访问应用。 如果创建Agent时,使用配置变量的方式实现了记忆能力,体验时输入变量值,作为Agent记忆信息存储,单击“保存”。
将创建的工具上架到资产中心 工具创建完成后,可以将工具上架至资产中心,其他租户或资源相互隔离的部门收藏工具后,可便捷地进行使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 上架工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心
接入AOM告警 应用运维管理AOM是云上应用的一站式立体化运维管理平台,实时监控应用及云资源,采集各项指标、日志及事件等数据分析应用健康状态,提供告警及数据可视化功能,帮助用户及时发现故障,全面掌握应用、资源及业务的实时运行状况。 AppStage运维中心支持将AOM产生的告警接入至监控服务中。
起始节点 起始节点是工作流的入口,可以接受和存储初始化参数,当Agent调用工作流时,会提取起始节点入参,并初始化工作流实例,随后按照工作流定义的逻辑顺序执行各个节点。 请参考表1配置起始节点参数,配置完成后可以单击“设置参数”,对当前节点进行正确性测试。调测成功后,会将测试的输
概述 STS SDK服务软件开发工具包是对AppStage运维中心访问凭据管理服务(ACMS)提供的REST API进行的封装,以简化用户的开发工作。 STS SDK封装了业务微服务读取ACMS身份证书、到ACMS-Server上获取密钥、认证凭据、解密敏感数据、微服务间通信认证加密等功能,用户直接调用STS
评测模型 平台支持从多个维度对模型的能力、性能进行评估,以保证模型效果,为模型选型提供可靠依据。 约束与限制 仅支持对文本对话类型的模型服务进行评测。 前提条件 评测模型前,请先通过调测/体验模型功能确认模型可用。 创建评测任务 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型评测”,单击“创建评测任务”。
AI原生应用引擎计费项 计费说明 AI原生应用引擎根据购买的套餐包计费或按需计费。具体内容如表1所示。 表1 AI原生应用引擎计费项说明 计费项 计费项说明 适用的计费模式 计费公式 ChatGLM3-6B大模型服务API在线调用 根据实际输入和输出tokens总量计费,平台提供算力支持。
欠费说明 用户在使用AppStage服务时,账户的可用额度小于待结算的账单,即被判定为账户欠费。欠费后,可能会影响服务资源的正常运行,请及时充值。 欠费原因 已购买资源包,但使用量超出资源包额度,进而产生按需费用,同时账户中的余额不足以抵扣产生的按需费用。请参考已购买资源包,为什
工作流中工具节点的实例如何配置? 工具节点实例需要填写工具创建时所配置的鉴权信息。 三方厂商的工具API,请到工具对应官网获取鉴权信息。 自创建工具请填写工具创建时所配置的鉴权信息。 如果调用其他租户或资源相互隔离的部门所上架的工具,请在AI原生应用引擎中,选择左侧导航栏的“资产
概述 Cloud Map SDK服务软件开发工具包是对服务发现(Cloud Map)服务提供的REST API进行的封装,以简化用户的开发工作。 Cloud Map是注册发现中心,主要用于注册发现微服务、中间件/数据库、一方/二方/三方服务,单体应用无需对接Cloud Map(微
基于SQL配置图表 配置oapdruid、oapclickhouse、oapmppdb、oapinfluxdb、oaptsdb数据源后,可以使用druid、clickhouse等数据源基于SQL配置图表,本章节介绍如何基于SQL配置图表并将图表添加至业务报表中。 前提条件 已完成对于数据源的数据开发。