检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
部署模型是将模型部署为在线服务,通过创建部署服务实现,创建成功后,可以对在线服务可以进行预测和调用。本文需要为基座模型(原模型)和微调后的新模型分别创建模型服务。由于在线运行需消耗资源,请确保账户未欠费。 在AI原生应用引擎的左侧导航栏选择“模型中心 > 我的模型服务”。 在“我的模型服务”页面右上角单击“部署模型服务”。
负载均衡实例中的监听接收与配置的协议和端口匹配的请求。 监听再根据配置将请求转发至相应的后端服务器集群。如果配置了转发策略,监听会根据配置的转发策略评估传入的请求,如果匹配,请求将被转发至相应的后端服务器组。 后端服务器集群中健康检查正常的后端服务器将根据分配策略和在监听中配置的转发策略的路由规则接收流量,处理流量并返回客户端。
负载均衡实例中的监听接收与配置的协议和端口匹配的请求。 监听再根据配置将请求转发至相应的后端服务器集群。如果配置了转发策略,监听会根据配置的转发策略评估传入的请求,如果匹配,请求将被转发至相应的后端服务器组。 后端服务器集群中健康检查正常的后端服务器将根据分配策略和在监听中配置的转发策略的路由规则接收流量,处理流量并返回客户端。
进入AppStage运维中心。 单击,选择“运维 > 主机管理服务(VMS)”。 选择左侧导航栏的“云服务器管理”,根据实际情况选择主机类型“弹性云服务器”、“裸金属服务器”或“边缘云服务器”。 在主机列表勾选需要修改分配状态的主机,单击“修改分配状态”。 设置分配状态,单击“确定”。
基于数仓配置图表 配置warehouse类型数据源后,可以基于数仓中创建的指标或视图配置图表,本章节介绍如何配置数仓图表。 前提条件 已创建指标或创建视图。 已新增业务报表页面。 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 配置数仓图表 进入报表开发页面。
作即可。 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“实例管理”。 单击同步检查不一致实例操作列的“同步”,将SLB工作台的实例配置同步至SLB服务器。 人为原因(在SLB实例主机修改后端配置文件)导致的,将
进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 主机管理服务(VMS)”。 选择左侧导航栏的“云服务器管理”,根据实际情况选择主机类型“弹性云服务器”、“裸金属服务器”或“边缘云服务器”。 在主机列表上方单击“主机操作”。 选择“开机”、“关机”或“重启”。 开机:单击“确定”。
配置数据只是保存到数据库中,如需将灰度服务应用到SLB,需要在监听管理页面转发策略中关联灰度服务使用。 更多操作 表4 相关操作 参数 说明 编辑灰度服务配置 单击灰度服务列表中的灰度服务名称,在灰度服务详情页面,选择相应页签,重新评估风险等级、编辑配置信息。 同步配置 单击灰度服务列表操作列的“同步
为流程创建并关联标签 本章节介绍如何为流程创建标签,创建标签后可以为流程绑定标签,通过标签进行流程筛选。 目前此功能仅支持白名单用户通过提交工单申请使用。详细操作请参考提交工单。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 已创建流程。 步骤一:创建标签
}}中。 引用模板提示语内容: 单击输入框右侧的“引用模板”选择我创建的、我收藏的或平台预置的提示语模板。 在“在线优化”页面,参照表2进行参数配置。 表2 提示语在线优化参数说明 参数名称 参数说明 变量标识符 可选择以下符号标识提示语内容中的变量。 大括号{} 双大括号{{}}
模型调测时,无法选择模型服务商API是什么原因? 对模型服务商API调测前,需要先设置鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权。 父主题: AI原生应用引擎
在报表编辑页面,单击“新增辅助图形”,可以对图表进行组合,也可以为报表新增标题框、背景框和时钟。 切换至预览模式 进入报表编辑页面,默认为编辑模式,单击“切换至预览模式”,可以切换至预览模式,查看编辑效果。 画辅助线 在报表编辑页面,单击“画辅助线”,可以选择多种辅助线,便于编辑页面时对页面报表布局。
根据业务需要选择规模,本实践中选择集群规模为50节点。 购买集群 ECS服务器 购买1个ECS服务器,容灾场景下购买2个ECS服务器。 根据业务需要选择规格,本实践中选择规格为:通用计算增强型/2vCPUs/4GiB/c6.large.2 购买ECS 启用环境并录入账号信息,具体请参见环境配置及账号录入。
查看冗余主机 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 主机管理服务(VMS)”。 选择左侧导航栏的“云服务器管理 > 冗余主机”。 在“冗余主机”页面查看冗余主机。 可以单击主机所在行后“详情”列的内容,查看主机部署参数详情。 导出冗余资源 进入AppStage运维中心。
只能包含数字、字母、“-”、“_”,且字符长度不超过32。 应用 默认显示当前服务的产品中文名,不可修改。 服务 选择需要创建账号的服务,不选默认为所在产品下所有服务可用。 是否默认账号 选择创建的账号是否为选择服务的默认账号。 每个服务可以创建多个运维账号,只能设置其中一个为默认账号。 导入运维账号
get:get请求,用于从服务器获取数据,通常使用URL参数传递数据。 post:post请求,用于向服务器提交数据,通常将数据放在请求体中。 delete:delete请求,用于删除服务器上的资源,通常使用URL参数指定要删除的资源。 put:put请求,用于更新服务器上的资源,通常将更新的数据放在请求体中。
gethostname())))" 如何手工注册微服务 使用IaC部署在WiseDBA上创建数据库实例,报没有注册STS的错误,如果业务还没有接入STS,可以在STS管理台进行手工注册该微服务。 如何将服务器上生成的STS微服务证书信息迁移到window机器上调试。 将服务器上/opt/huaw
创建路由策略用于提供模型服务 通过配置路由策略,可以实现模型故障自动切换能力,当模型A因故障等原因无法正常工作时,可以自动切换为另一个可用的模型提供服务,从而提高模型服务的稳定性和可用性。 路由策略创建完成后,可以进行模型调测,并支持在创建Agent时使用或通过接口调用。 前提条件
选择左侧导航栏的“服务目录 > 一方服务”。 在一方服务页面,选择“微服务实例列表”页签。 单击微服务实例列表操作列的“上线”,将实例调整为上线状态。 下线实例 将在线的微服务调整为下线状态。下线实例将会让微服务实例不再接收流量,请确认后操作。 在微服务实例列表中,单击微服务实例列表操作列的“下线”。 在
00001400", "error_msg" : "Request body is missing" } 状态码: 500 服务器内部错误或三方服务器内部错误。 { "error_code" : "AIAE.00001500", "error_msg" : "Internal