检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
配置模型服务API相关参数，参数说明如表2所示，配置完单击“保存”。 表2 模型服务API配置参数说明 参数名称 参数说明 URL(POST) 模型服务的URL，支持HTTPS、HTTP协议，例如：appstage.huaweicloud.com/v1/xxx。 鉴权方式 无鉴权
配置实例 单击实例列表中的实例名称，在实例详情页面配置SLB实例，包括配置SLB节点信息、在SLB中配置nginx.conf，在SLB中配置url重写/重定向，在SLB中配置内网段，在SLB中进行降级配置，在SLB中配置黑白名单，在SLB中进行限流配置，在SLB中配置负载均衡其他配置项以及在SLB中查看Lua配置。
本地图片自定义LOGO图片。 插件名称 自定义插件名称。 插件描述（可选） 输入插件的功能或作用等相关描述。 详情链接 插件所在的具体链接地址。 是否支持下载 可设置为以下两种： 支持：支持下载插件。 不支持：不支持下载插件。 上传下载包 只能上传ZIP/RAR文件，且不能超过100MB。
选择发布渠道并设置发布密钥，单击“发布”。 表4 发布参数说明 参数 说明 选择发布渠道 API：以API的方式发布Agent，发布成功后可复制API地址进行分享。 Web UrI：以Web Url的方式发布Agent，发布成功后可复制Web链接进行分享。 设置发布密钥 设置该密钥是确保发布分享Agent后，用户
使用Gray SDK 本文介绍如何在NUWA框架下使用Gray SDK，Spring Cloud框架下暂时不支持使用Gray SDK。 使用Gray SDK时，需要先在AppStage运维中心SLB服务中配置好灰度规则，再启动Gray SDK，否则灰度规则不生效。 引入Gray SDK
为容器集群安装插件 ERS提供通过插件模板为集群安装插件的功能，本章节介绍如何为集群安装插件。 前提条件 已获取服务运维岗位权限或运维管理员权限，权限申请操作请参见申请权限。 为集群安装插件 进入AppStage运维中心。 在顶部导航栏选择服务。 单击，选择“运维 > 弹性资源服务（ERS）”。
TF模板包 运维中心集成华为云资源编排服务RFS，用于管理系统资源及服务资源。RFS主要包含模板和资源栈两部分，TF模板是用来创建、更新资源栈的脚本。 研发包结构 Service下所有的main.tf文件中的Resource实例不能有重叠，否则会导致资源被覆盖或删除。 图1 研发包结构
准备工作 开发技能要求 熟悉Java语言，能够编写Java语言代码。 掌握IaC开发技术，熟悉YAML语言。 了解Spring Cloud框架。 环境准备 已下载并安装Maven，根据以下步骤配置Maven。 在<localRepository>标签内添加自己的本地仓库位置路径，这个本地仓库位置是自己创建的。
开发业务代码 准备工作 已下载并安装Maven，根据以下步骤配置Maven。 在<localRepository>标签内添加自己的本地仓库位置路径，这个本地仓库位置是自己创建的。 D:\apache-maven-3.8.6-bin\repository <localReposit
Agent的唯一id。进入AI原生应用引擎，在左侧导航栏选择“Agent编排中心 > 我的Agent”，选择“我创建的”页签，选择列表操作列的“更多 > 修改”，在浏览器地址栏查看id。 约束限制： 不涉及。 取值范围： 由英文字母和数字组成，长度为32个字符。 默认取值： 不涉及。 请求参数 表2 请求Header参数
模型API接入接口规范 当前模型网关支持文本对话（Chat）、文本向量化（Embeddings）、文本排序（Rerank）三种类型的API接入。模型API接入之前，请确保符合相对应的接口规范，其中Chat接口和Embeddings接口需要符合OpenAI接口规范，Rerank接口需要符合AI引擎标准协议。
常见问题 Domain not registered或Service not registered 领域或微服务没有进行注册，请根据STS 2.0业务接入指南的指导自行注册领域或微服务。 connect timed out或read timed out 它有两种原因，connect
纳管主机。 以Linux主机为例，介绍如何根据纳管主机指引完成首次纳管Linux主机。 为Linux主机手动安装OpsAgent。 单击CURL命令后的，复制安装命令。 使用root账号远程登录主机后，执行安装命令安装OpsAgent。 主机分配。勾选待纳管的主机，单击“主机分配”完成主机纳管，如图3所示。
IaC代码结构介绍 单文件描述结构 单文件描述结构样例如下： ├── package.json # 包描述文件（必须） └── specs # 规格总目录（必须） ├── cn_dev_default
应用示例 与文本对话模型进行交互 场景描述 提供用户与模型进行对话的能力，用户将文本内容写入到content中，选择填写合适的文本对话模型，与模型进行交互。其中环境变量WISEAGENT_API_KEY填写AI原生应用引擎的平台API KEY，该值用于鉴权，为必填。返回结果存在r
IaC Patch包典型目录结构 IaC Patch包用于描述环境中的一个组件。IaC Patch包典型目录结构如下： 表1 IaC Patch包结构说明 位置 类型 个数 描述 iacpatch_{microservice}_{version}.zip 文件 1 IaC压缩包。
使用STS SDK（Spring Cloud框架） 引入STS SDK 在pom.xml中添加STS SDK依赖。 将${sts.version}替换成实际所使用的STS SDK版本。 如果将SDK放到外部maven仓中，则只需要添加sts-spring-boot依赖。 如果采用
使用Rainbow SDK（Spring Cloud框架） 引入Rainbow SDK Rainbow SDK依赖Cloud Map的注册和发现能力，在引入Rainbow SDK之前，要先引入STS SDK和Cloud Map SDK，并完成STS和Cloud Map的初始化，具体请参见使用STS
IaC Spec包典型目录结构 IaC Spec包用于描述环境。 目录结构介绍 表1 IaC Spec包结构说明 位置 类型 个数 描述 iacspec_{service}_{version}.zip 文件 1 IaC压缩包。 └── package.json 文件 1 包描述文件，相关说明请参见包描述文件介绍。
配置管理 本章介绍如何通过IaC代码描述配置信息，支持私有配置和公共配置两种类型。 IaC3.0公共配置集模型与私有配置项绝大部分字段参数一样，具体请参见表1。 表1 配置管理字段说明 参数 是否必选 类型 说明 格式校验 name 是 string 配置集名称 私有配置集：服务环境下name唯一。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
