检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
查看Agent调用统计 Agent调用统计页面展示当前租户所在的根部门以及租户下二级子部门的Agent调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板
查看模型调用统计 模型调用统计页面展示当前租户所在的根部门以及租户下二级子部门的模型调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板 > 模型调用统计”。
于区分不同实例,无实际用途。 实例备注 实例的备注信息,用于快速区分不同实例的备注,无实际用途。 支持动态域名 动态域名配置开关,该功能仅限三方服务接入地址,目前egress服务获取地址时会用到,开启和关闭时,对应地址填写需满足特定规则。 地址 实际的URL地址,用于访问该服务的
在SLB中进行降级配置 降级配置是在业务高峰期时,需要临时减少对于目标服务的访问,达到降低目标服务负载;或者屏蔽对于非关键服务的访问,保持本服务的核心处理能力的治理措施。降级执行流程如图1所示。 图1 降级执行流程 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。
衡量或评估某个事物的标准。它可以用来衡量和比较不同事物之间的差异,以便更好地了解和管理它们。 OBS 对象存储服务(Object Storage Service,OBS)是一个基于对象的海量存储服务,为客户提供海量、安全、高可靠、低成本的数据存储能力。 AK 访问密钥ID(Access Key
resource-path 资源路径,即API访问路径。从具体API的URI模块获取,例如文本对话API的resource-path为“/v1/chat/completions”。 query-string 查询参数,是可选部分,并不是每个API都有查询参数。查询参数前面需要带一个“
模型API接入接口规范 当前模型网关支持文本对话(Chat)、文本向量化(Embeddings)、文本排序(Rerank)三种类型的API接入。模型API接入之前,请确保符合相对应的接口规范,其中Chat接口和Embeddings接口需要符合OpenAI接口规范,Rerank接口需要符合AI引擎标准协议。
中心指标增量包-10个指标、运营中心指标增量包-100个指标 预置模型服务调用 API SaaS:ChatGLM3-6B大模型服务API在线调用 自定义模型训练 API SaaS:大模型微调服务API在线调用-SFT局部调优 说明: 按需仅适用于AppStage的AI原生应用引擎。
查看资产总览 在资产总览页面可以查看当前租户所在的根部门以及租户下二级子部门的资产(Agent、模型、数据集、提示语、工具及知识库)统计数据,并支持通过各资产面板,筛选查看各子部门资产的创建、收藏及订阅数据。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。
CPU过载控制OLC(Overload Control)是一种CPU过载调控机制。当CPU过载时,OLC能够对受监控协议报文和任务进行调控,通过不同优先级业务的合理规划和限制报文通过等方式,降低对CPU资源的消耗,并确保设备不会因为某种受监控协议或任务冲击CPU导致的CPU过载而影响对其他业务的正常处理。
返回内容的类型:有hint、workflow、tool、knowledge、message共5种类型。 data Object 不同响应类型的响应体中包含不同的参数,见示例。 状态码: 400 表6 响应Body参数 参数 参数类型 描述 error_code String 错误码。
AI原生应用引擎鉴权API Key。 1.以管理员身份登录AI原生应用引擎工作台,在左侧导航栏选择“系统管理 > 平台租户鉴权”。 2.在“平台租户鉴权”页面,选择“平台API Key”页签,单击“新增平台API Key”。 3.在“新增平台API Key”对话框中的输入框设置API Key名称,用以区分API
用户角色和权限体系。 基本概念 概念 描述 用户 加入到AppStage成员列表的成员。 角色 代表权限的集合体,不同角色的权限不同,方便企业使用及管理。 权限 访问、操作AppStage资源的权限。包括功能权限、数据的查看操作权限等。 产品级 该角色只具备在对应产品下的操作权限。
AI原生应用引擎鉴权API Key。 1.以管理员身份登录AI原生应用引擎工作台,在左侧导航栏选择“系统管理 > 平台租户鉴权”。 2.在“平台租户鉴权”页面,选择“平台API Key”页签,单击“新增平台API Key”。 3.在“新增平台API Key”对话框中的输入框设置API Key名称,用以区分API
AI原生应用引擎鉴权API Key。 1.以管理员身份登录AI原生应用引擎工作台,在左侧导航栏选择“系统管理 > 平台租户鉴权”。 2.在“平台租户鉴权”页面,选择“平台API Key”页签,单击“新增平台API Key”。 3.在“新增平台API Key”对话框中的输入框设置API Key名称,用以区分API
AI原生应用引擎鉴权API Key。 1.以管理员身份登录AI原生应用引擎工作台,在左侧导航栏选择“系统管理 > 平台租户鉴权”。 2.在“平台租户鉴权”页面,选择“平台API Key”页签,单击“新增平台API Key”。 3.在“新增平台API Key”对话框中的输入框设置API Key名称,用以区分API
目前AppStage的AI原生应用引擎提供API供您调用。在调用AppStage的AI原生应用引擎API之前,请确保已经充分了解AppStage的相关概念,详细信息请参见AppStage服务的产品介绍。 终端节点 终端节点即调用API的请求地址,不同服务不同区域的终端节点不同,AppStage目前仅
必填。数据源的类型。 取值:OBS数据源 OBS终端节点 OBS(Object Storage Service)的终端节点(Endpoint),用于连接到OBS服务并访问存储在OBS中的数据。 说明: OBS终端节点的获取方法如下: 获取已授予OBS桶读写权限的账号。对账号授予桶
"role": "assistant", "content": "你好,有什么我可以帮助你的吗?" }, "logprobs": null }], "object": "chat.completion" } 当接口调用出错时,会返回错误码及错误信息说明,错误响应的Body体格式如下所示。
数据来源,枚举值:FILE_UPLOAD(文件上传)、OBS_INGESTION(OBS接入),选择文件上传则不传obs_ingestion,否则需传入。 obs_ingestion 否 ObsIngestion object OBS接入配置。 file_types 是 Array of