检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
如何对平台接入的第三方模型服务设置鉴权 平台资产中心接入了第三方供应商的闭源模型,例如GLM系列、Moonshot系列等,这些模型服务在调测(体验)、调用前,需要先设置模型鉴权。 前提条件 需要具备AI原生应用引擎管理员权限,权限申请操作请参见AppStage组织成员申请权限。 操作步骤
中心”,选择“工具”页签,单击工具卡片上的“设置鉴权”,查看工具鉴权获取方式,如图1所示。 图1 设置鉴权信息 父主题: AI原生应用引擎
该主机所在行“执行机”列显示为“是”时,表示已设置完成。 如需取消设置执行机,可以单击主机所在行“操作”列的“更多 > 取消设置执行机”,当“执行机”列显示为“否”时,表示已取消设置。 如需查看执行机的部署、执行日志,可以单击执行机所在行“执行机日志”列的“详情”。 父主题: 管理主机
检查创建Agent时选择的模型是否为模型服务商API,使用模型服务商API时,需要配置模型服务鉴权,新开的租户没有配置模型鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权。 父主题: AI原生应用引擎
(可选)录入HTTPS监听所需的服务器证书 配置HTTPS监听时,涉及服务器身份验证,需要为监听绑定服务器证书。本文介绍如何录入服务器证书。 前提条件 已获取服务器证书。 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 创建证书 进入AppStage运维中心。
规则条件 设置规则条件。 网段:设置具体生效网段,例如主机的网段192.168.20.2,如果需要给租户下这种同网段的都加上白名单,规则条件可以设置为192.168.20.0/24,如果只给该机器加白名单,那规则条件可以设置为192.168.20.2/32,可设置多行,按Enter分行。
模型调测时,无法选择模型服务商API是什么原因? 对模型服务商API调测前,需要先设置鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权。 父主题: AI原生应用引擎
排班表:以周为单位设置事件排班表。 前提条件 已获取组织管理员权限,权限申请操作请参见申请权限。 设置事件单 进入AppStage运维中心。 将鼠标悬停在右上角的账号,选择下拉列表中的“工单管理”,默认显示“变更单管理”页面。 单击左侧导航栏的“设置”,进入“设置”页面。 设置事件单。 设置解决时
(可选)录入HTTPS监听所需的服务器证书 配置HTTPS监听时,涉及服务器身份验证,需要为监听绑定服务器证书。本文介绍如何录入服务器证书。 前提条件 已获取服务器证书。 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 创建证书 进入AppStage运维中心。
登录弹性云服务器主机 在VMS页面可以直接登录已纳管的弹性云服务器主机。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 登录业务主机 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 主机管理服务(VMS)”。 选择左侧导航栏的“云服务器管理
界面化管理和采集器Agent自动化部署的能力。 日志接入方式 虚拟机日志接入:通过日志配置下发任务部署filebeat,并根据日志采集配置设置,通过filebeat采集虚拟机上的业务日志。 容器日志接入:安装daemonset插件,通过daemonset实现容器日志接入。 日志接入场景
支持对我的模型(我部署的、我接入的)、我的路由策略、平台预置的模型以及平台接入的第三方模型进行调测。 前提条件 调测平台接入的第三方模型前,需要先设置鉴权,具体操作请参见如何对平台接入的第三方模型服务设置鉴权。 调测模型 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调测”。 对于平台预置的模型以及模型服务
后续操作:将已纳管的弹性云服务器主机设置为执行机 同一VPC下需要设置一个执行机,用于部署服务虚拟机部署、监控服务日志接入/脚本执行、负载均衡创建实例、数据库治理纳管实例和数据查询时使用。推荐使用内存2G及以上的主机作为执行机。 选择左侧导航栏的“云服务器管理 > 弹性云服务器”。 单击待设置为执行机的主机所在行“操作”列的“更多
创建事件单 本章节介绍如何创建事件单。 创建事件单 进入AppStage运维中心。 将鼠标悬停在右上角的账号,选择下拉列表中的“工单管理”,默认显示“变更单管理”页面。 单击左侧导航栏的“事件单管理”,进入“事件单管理”页面。 单击“新建”。 配置事件单参数,参数说明如表1所示。
对于租户上架的工具,可以在设置鉴权过程中,根据界面提示进行获取。 设置鉴权信息 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。 鼠标光标移至工具卡片上,单击“设置鉴权”。 在“设置鉴权信息”弹框中,输入鉴权信息,单击“保存”。 对于租户上架的工具,设置鉴权信息
接入CES告警 云监控服务CES提供对监控指标的告警功能,用户可以对云服务的核心监控指标设置告警规则,当监控指标触发用户设置的告警条件时通知用户,让用户在第一时间得知云服务发生异常,迅速处理故障,避免因资源问题造成业务损失。 AppStage运维中心支持将CES产生的告警接入至监
监控服务(ServiceInsight)” 选择左侧导航栏的“监控 > 报表开发”。 创建报表。 单击左下角的“设置和帮助”,会显示“设置和帮助”菜单栏下的内容,根据以下内容设置,设置完成后单击“设置和帮助”,收起“设置和帮助”菜单栏。 添加指标仓库数据源:选择“数据源修改”,数据源类型选择warehou
调用文本对话模型服务 功能介绍 调用大语言模型推理服务,根据用户问题,获取大语言模型的回答。 调用方法 请参见如何调用API。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/chat/completions 请求参数 表1
选择左侧导航栏的“云服务器管理”,选择主机类型“弹性云服务器”或“边缘云服务器”。 在主机列表勾选需要申请回收的主机,单击“申请回收”。 在“申请回收”页面绑定相应电子流,并设置可延迟回收的小时数。 单击“确定”。 申请回收期间主机会显示在回收站“待回收主机”页签,到期自动回收,放入回收站“已回收主机”页签。 立即
监控服务(ServiceInsight)”。 选择左侧导航栏的“监控 > 报表开发”。 创建报表。 单击左下角的“设置和帮助”,会显示“设置和帮助”菜单栏下的内容,根据以下内容设置,设置完成后单击“设置和帮助”,收起“设置和帮助”菜单栏。 添加指标仓库数据源:选择“数据源修改”,数据源类型选择warehou