检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
登录AI原生应用引擎,在左侧导航栏选择“模型中心 > 我的模型服务”,选择“我部署的”页签,在模型服务列表中复制模型服务调用ID。 3.租户接入模型服务 登录AI原生应用引擎,在左侧导航栏选择“模型中心 > 我的模型服务”,选择“我接入的”页签,在模型服务列表中复制模型服务调用ID。 约束限制:
500 服务器内部错误或三方服务器内部错误。 { "error_code" : "AIAE.22009001", "error_msg" : "Internal Server Error." } 状态码 状态码 描述 200 成功。 500 服务器内部错误或三方服务器内部错误。
提高运维效率:AppStage运维中心提供了自动化的运维流程和任务调度功能,可以自动执行常见的运维任务,如监控、故障处理等,节省SRE大量的时间和精力,让运维团队能够更专注于解决重要的问题和提供高价值的服务。 实现故障快速恢复:AppStage运维中心具备强大的故障监测和自动恢复能力,当系统出现
本节介绍如何部署自管理主机节点。 实例节点所在的归属服务需要和实例所在的所属服务一致。在主机管理服务中,选择“主机列表 > 弹性云服务器”,单击主机名称,查看实例节点所在的归属服务。 部署前主机配置。 本例中的“appstage”是在VMS中主机绑定的业务账号,具体账号请以实际为准。业务账号详细介绍请参见为服务规划业务账号。
Map 对于首次接入应用平台的服务,需要申请开通Cloud Map。Cloud Map给不同的部门、产品创建了不同的集群,主要用来控制数据隔离和保障可靠性,不同的服务开通时会分配到不同的集群里。 开通Cloud Map代表生成订阅关系,放通了权限,业务的中间件、微服务等信息就可以注
本节介绍如何部署自管理主机节点。 实例节点所在的归属服务需要和实例所在的所属服务一致。在主机管理服务中,选择“主机列表 > 弹性云服务器”,单击主机名称,查看实例节点所在的归属服务。 部署前主机配置。 本例中的“appstage”是在VMS中主机绑定的业务账号,具体账号请以实际为准。业务账号详细介绍请参见为服务规划业务账号。
任务名称 自定义评测任务的名称。 支持中英文、数字、中划线(-)、下划线(_)、点(.),长度2-36个字符,仅支持以中英文开头。 任务描述 评测任务的描述信息。 选择模型 选择待评测的模型,最多可选择3个模型,支持以下模型: 我的模型API(我部署的、我接入的) 预置模型API 模型服务商API
置,通过filebeat采集虚拟机上的业务日志。 容器日志接入:安装daemonset插件,通过daemonset实现容器日志接入。 日志接入场景 表1 日志接入场景说明 场景 说明 日志接入方式 虚拟机日志 日志存储在虚拟机下的文件路径中。 虚拟机日志接入 容器hostPath日志
通过调测模型,可检验模型的准确性、可靠性及反应效果,发现模型中存在的问题和局限性,确保模型能够在实际应用中正常运行,并且能够准确地预测和处理数据。 支持对我的模型(我部署的、我接入的)、我的路由策略、平台预置的模型以及平台接入的第三方模型进行调测。 前提条件 调测平台接入的第三方模型前,需
负载均衡实例可以接受来自客户端的传入流量并分配给后端服务器。本章介绍如何创建负载均衡实例。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 创建自管理模式的SLB实例,指的是将公有云ECS作为SLB主机,需要先申请ECS并将ECS纳管至运维中心的VMS中。
使用开发中心进行版本管理 开发中心的重要功能是通过版本管理来管理和跟踪应用开发过程中的代码变更,是对软件、文档、代码等进行版本控制和管理的过程。它可以帮助团队协作开发,保证代码的稳定性和可靠性,同时也可以追踪历史版本,方便回溯和修复问题,进而确保团队成员之间的协作和代码的稳定性。同时版本管理是
输入监听器描述信息。 后端云服务器组配置 名称 自定义后端云服务器组名称。 分配策略类型 选择分配策略类型。 加权轮询算法:根据后端服务器的权重,按顺序依次将请求分发给不同的服务器,权重大的后端服务器被分配的概率高。 加权最少连接:加权最少连接是在最少连接数的基础上,根据服务器的不同处理能力,
微服务平台(NUWA Runtime)托管了一个微服务运行的所有基础设施,微服务对基础设施的所有要求都通过基础设施即代码(Infrastructure as Code,简称IaC)来描述。NUWA Runtime根据IaC描述,对接相关的配置服务器,通过弹性伸缩管理平台接口,完成部署。应用托管到NUWA
微服务平台(NUWA Runtime)托管了一个微服务运行的所有基础设施,微服务对基础设施的所有要求都通过基础设施即代码(Infrastructure as Code,简称IaC)来描述。NUWA Runtime根据IaC描述,对接相关的配置服务器,通过弹性伸缩管理平台接口,完成部署。应用托管到NUWA
负载均衡实例可以接受来自客户端的传入流量并分配给后端服务器。本章介绍如何创建负载均衡实例。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 创建自管理模式的SLB实例,指的是将公有云ECS作为SLB主机,需要先申请ECS并将ECS纳管至运维中心的VMS中。
转发策略配置 本章介绍通过IaC进行转发策略配置的管理,包括监听下的转发策略、健康检查、后端服务器及动态路由管理。对应的资源类型为WiseCloud::LoadBalancer::SLB::RouteRule。 表1 转发策略配置字段说明 参数名 类型 是否必选 说明 listenerGroupName
一个通过Docker镜像创建的运行实例,一个节点可运行多个容器。容器的实质是进程,但与直接在宿主执行的进程不同,容器进程运行于属于自己的独立的命名空间。 kubernetes kubernetes是一个开源的,用于管理云平台中多个主机上的容器化的应用,Kubernetes的目标是让部署容器化的应用简单
", "1")。 第一种方式直接在请求流量的URL中通过设置参数的值来标识灰度流量,第二种是业务在调用SDK之前改变invocation中参数的值来标识灰度。 后端灰度节点的判断 后端的节点在自己的microservice.yaml文件中设置参数描述(参照CSE开发网站)。 按照
对象数组,标识从解析后的key,取哪些key作为值。 target_field:目标字段,解析到的值赋值给目标字段。 filter_keys: 字符串数组,从解析后的key中,依次获取到有值的进行赋值。【注意:该算子会将原始值和匹配的值转换成小写比较】。 default: 如果没有取到值的默认值。
用户可以自定义创建模型、模型服务及在线测试模型,检验模型的准确性、可靠性及反应效果。 提示语管理 用户自定义创建的、收藏的以及平台预置的提示语模板进行优化和改进。 大模型微调 提供调整大型语言模型的参数以适应特定任务的过程,通过在与任务相关的数据集上完成模型训练。