检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
灰度服务依赖转发策略,一个转发策略实例可以对应多个灰度服务,1个灰度服务只能对应一个转发策略实例。 工作原理 客户端向应用程序发出请求。 负载均衡实例中的监听接收与配置的协议和端口匹配的请求。 监听再根据配置将请求转发至相应的后端服务器集群。如果配置了转发策略,监听会根据配置的转发策略评估传入的请求,如果匹配,请求将被转发至相应的后端服务器组。
支持将平台资产中心预置的部分模型作为微调前基础模型,也可以选择微调后的新模型作为基础模型再次进行微调。 前提条件 已订购大模型微调服务API在线调用-SFT局部调优,订购方法请参见购买AI原生应用引擎按需计费资源。 已具备格式为“对话文本”的微调数据集,具体请参考创建微调数据集或收藏预置微调数据集。
应用,还可以对自己收藏的AI应用进行运行调试、二次开发等。 应用体验 将平台预置的应用部署和用户自己创建的应用部署进行API调测,帮助开发人员发现并解决应用接口上的问题和错误。 数据管理 数据管理中纳管了用户自定义的和平台预置的数据集,用户使用这些数据集进行模型训练、知识库构建等,快速完成平台使用并验证模型训练效果。
种: 普通接口(一级) 次重要接口(二级) 重要接口(三级) 次核心接口(四级) 核心接口(五级) 接口默认等级 页面过滤条件未匹配到等级的请求,等级被设为接口默认等级。包括以下几种: 普通接口(一级) 次重要接口(二级) 重要接口(三级) 次核心接口(四级) 核心接口(五级)
种: 普通接口(一级) 次重要接口(二级) 重要接口(三级) 次核心接口(四级) 核心接口(五级) 接口默认等级 页面过滤条件未匹配到等级的请求,等级被设为接口默认等级。包括以下几种: 普通接口(一级) 次重要接口(二级) 重要接口(三级) 次核心接口(四级) 核心接口(五级)
auth:Restful API不对SVE进行鉴权。 BasicAuth:Restful API会对SVE进行BasicAuth认证,此时,还需要填写鉴权用户名和密码。 Token:Token方式,会自动获取当前登录运营中心的用户对应的Token。 AK/SK:Restful API会对SVE进行AK/SK方式认证。
将已有模型部署为模型服务 模型需要部署成功后才可正式提供模型服务。部署成功后,可以对模型服务进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 本文介绍如何将微调后的模型或部分平台预置的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。
体验Agent Agent体验是指以对话的形式,对我创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 体验Agent 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的Agent”。 选择“我创建的”页签,单击Agent列表“操作”列的“体验”。
提供AI原生应用开发引擎,包括RAG、Agent等应用框架,零码态和全码态的开发形态,降低AI原生应用开发门槛、提升开发效率。支持客户打通自己的业务能力API,将大模型的能力结合进入自己的业务链路。 提供支撑AI原生应用运行的整套模型工具链,包括数据管理、模型接入、模型调优、知识工程等能力,帮助
参数名 类型 是否必选 说明 name String 是 后端集群名,不超过150位,不包含特殊字符。 protocol String 是 协议,取值为:HTTP或HTTPS。 loadBalancer TargetGroupLoadBalancerBean 是 后端集群负载均衡类型
优化提示语 标注数据 配置中心 租户开发的应用在调用平台接口时需要进行平台鉴权认证,可以使用“AK/SK访问密钥”或“平台API Key”进行平台的鉴权认证。 支持区域: 华北-北京四 创建及管理AK/SK访问密钥 创建及管理平台API Key 开发中心 开发中心提供全场景一站式作业平
获取方式:在华为云控制台,鼠标悬停在右上角的用户名,选择下拉列表中的“我的凭证”,在“API凭证”页面查看。 华为公有云账号名称 使用华为云并购买资源时注册的账号的账号名。 获取方式:在华为云控制台,鼠标悬停在右上角的用户名,选择下拉列表中的“我的凭证”,在“API凭证”页面查看。 纳管方式 AK-SK:通过AKS
个可用的模型提供服务,从而提高模型服务的稳定性和可用性。 路由策略创建完成后,可以进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建路由策略 在AI原生应用引擎的左侧导航栏选择“模型中心
后,可以基于数仓中创建的指标或视图配置图表。 基于SQL配置图表:配置oapdruid、oapclickhouse、oapmppdb、oapinfluxdb、oaptsdb数据源后,可以使用druid、clickhouse等数据源基于SQL配置图表。 其他报表开发功能介绍 功能 功能介绍
successThreshold: 1 failureThreshold: 10 - name: APIGateway type: WiseCloud::Agent::APIGateway version: x.x.x.x flavor:
10的突发量,如用到则触发保护,下个1/10s不得再用。 (可选)如果需要对特定接口uri进行特别的流控策略,则单击“新建子项”。 表7 特定接口uri流控参数说明 参数 说明 接口URL 流控的接口URL。 匹配条件 equal pettern 限流门限值 单个子项的限流门限值。
10的突发量,如用到则触发保护,下个1/10s不得再用。 (可选)如果需要对特定接口uri进行特别的流控策略,则单击“新建子项”。 表7 特定接口uri流控参数说明 参数 说明 接口URL 流控的接口URL。 匹配条件 equal pettern 限流门限值 单个子项的限流门限值。
配置完成后单击“确定”。 接口集成:通过接口集成配置,可以将第三方系统的数据集成到开发平台。 配置接口地址。 发布通知类型工具接口在“同步集成”页面配置,测试及其他类型工具无需配置接口集成,其余不同类型工具显示不同的配置接口。 配置的接口需要参考工具链同步信息接口规格说明实现。 支持I
概述 系统架构 图1 SLB系统架构 系统架构说明: 调用部署服务接口获取业务微服务列表,以及发布的微服务版本信息,用于配置不同微服务版本的灰度策略。 运维在灰度发布管理台配置微服务灰度策略,支持配置同一个微服务不同版本的灰度规则,以及不同微服务相同的灰度规则。 微服务的灰度策略同步到灰度配置中心。
auth:Restful API不对SVE进行鉴权。 BasicAuth:Restful API会对SVE进行BasicAuth认证,此时,还需要填写鉴权用户名和密码。 Token:Token方式,会自动获取当前登录运营中心的用户对应的Token。 AK/SK:Restful API会对SVE进行AK/SK方式认证。