检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
管理资产中心预置提示语 提示语是给大模型的指令,它可以是一个问题、一段文字描述,也可以是带有一系列参数的文字描述。 AI原生应用引擎资产中心预置了多款提示语模板,这些模板是基于大量应用场景下的经验或者训练语料而总结出一些优质的提示语组成结构,将其抽离成为一种模板,支持测试、一键快
AI原生应用引擎基本概念 使用之前,请先了解表1中相关概念,从而更好的使用AI原生应用引擎。 表1 基本概念说明 基本概念 说明 Agent Agent指具备自主智能的实体,具有一定的智能和自主性,可以自主地发现问题、设定目标、构思策略、执行任务等。 LLM 大语言模型(Large
如何调整纳管集群的资源占用量? 集群纳管成功后会在集群中新增一个ers-manager命名空间,并拉起一个名称为ers-cluster-agent-XXX的pod,用来定期向ERS上报数据。 配置容器日志接入时会拉起两个pod,其中一个名称为logservice-filebeat
SDK概述 AppStage为开发者提供运维中心SDK和AI原生应用引擎SDK,方便开发者将AppStage的能力快速集成到自己的应用中。 本文介绍了AppStage提供的开放API的SDK语言版本,列举了最新版本SDK的获取地址。 约束与注意事项 运维中心提供的SDK是基于Java1
在IaC代码中定义流水线 IaC代码中的流水线可以由用户定义,用户可以根据自己的需求定义整个环境在变更时的执行过程,在变更执行过程中,系统只会变更被流水线引用的资源,本章介绍如何定义流水线。 在哪里定义流水线 component间的编排在spec包中的meta.yaml文件中描述
在SLB中进行降级配置 降级配置是在业务高峰期时,需要临时减少对于目标服务的访问,达到降低目标服务负载;或者屏蔽对于非关键服务的访问,保持本服务的核心处理能力的治理措施。降级执行流程如图1所示。 图1 降级执行流程 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。
在微服务平台查看微服务列表 通过微服务平台查看当前服务下的微服务列表。 查看微服务列表 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 微服务平台”。 选择左侧导航栏的“微服务管理”,查看微服务列表,包括微服务基本信息、微服务当前状态、实例数和实例状态等。
在微服务平台查看微服务列表 通过微服务平台查看当前服务下的微服务列表。 查看微服务列表 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 微服务平台”。 选择左侧导航栏的“微服务管理”,查看微服务列表,包括微服务基本信息、微服务当前状态、实例数和实例状态等。
在SLB中进行降级配置 降级配置是在业务高峰期时,需要临时减少对于目标服务的访问,达到降低目标服务负载;或者屏蔽对于非关键服务的访问,保持本服务的核心处理能力的治理措施。降级执行流程如图1所示。 图1 降级执行流程 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。
使用部署包部署虚拟机 支持对虚拟机变更步骤进行编排,通过配置变更任务,使用模板完成虚拟机部署。 前提条件 已设置执行机用来部署虚拟机,具体操作请参见设置执行机。 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 创建部署模板 进入AppStage运维中心。 在顶部导航栏选择服务。
数据汇聚 当日志量较大且不需要关注原始日志时可以对实时日志进行日志汇聚。 FileBeat采集端汇聚 采集端汇聚是在采集端清洗的基础上实现的,针对资源受限而日志总量大,单节点流量可控,需要优先保证统计分析数据正常上报的场景,前置汇聚可以很明显的缓解统计分析告警延迟的问题,同样可以更进一步节省整体资源占用。
体验Agent Agent体验是指以对话的形式,对自创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 体验我的Agent 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的Agent”。 选择“我创建的”页签,单击Agent列表“操作”列的“体验”。
使用Gray SDK 本文介绍如何在NUWA框架下使用Gray SDK,Spring Cloud框架下暂时不支持使用Gray SDK。 使用Gray SDK时,需要先在AppStage运维中心SLB服务中配置好灰度规则,再启动Gray SDK,否则灰度规则不生效。 引入Gray SDK
模型API接入接口规范 当前模型网关支持文本对话(Chat)、文本向量化(Embeddings)、文本排序(Rerank)三种类型的API接入。模型API接入之前,请确保符合相对应的接口规范,其中Chat接口和Embeddings接口需要符合OpenAI接口规范,Rerank接口需要符合AI引擎标准协议。
配置虚拟机异常告警 AppStage支持定义服务的监控模板,然后通过为主机绑定监控模板,采集主机监控数据,并通过模板告警功能对虚拟机监控数据配置告警,及时掌握虚拟机状态。 限制条件 绑定监控模板进行虚拟机监控,支持的主机的操作系统版本包括EulerOS 2.X、HCE、CentO
参数配置说明 基础参数 表1 基础参数 参数名称 参数类型 是否必选 默认值 说明 参数规范 举例 name string 必选 - IaC3.0资源名 只能包括数字、字母、'-'、'_'、'.',必须以字母开头,字母或数字结尾。长度2-64。 说明: 如果没有配置cluster
在SLB中配置黑白名单 黑名单对于请求进行一定筛选条件下的拒绝。 白名单相当于VIP,白名单上匹配的请求,将跳过黑名单以及流控规则限制。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 配置黑白名单 进入AppStage运维中心。
告警配置 AppStage运维中心支持对虚拟机监控数据或业务数据配置告警,及时掌握虚拟机状态,容器接入并安装监控插件后会自动生成告警。 配置虚拟机告警 配置虚拟机告警前需要先完成主机监控接入,并且已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 进入AppStage运维中心。
在SLB中创建资源 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 在SLB中创建资源 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“资源管理 > 资源”。 单
认证鉴权 AppStage调用接口支持AK/SK和API Key认证鉴权。 AK/SK认证:通过AK(Access Key ID)/SK(Secret Access Key)进行API调用时的认证。 API Key:通过API密钥进行API调用时的认证。 AK/SK认证 AK/S