检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
接入模型服务 支持通过API接入模型服务,模型服务接入后,可以进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 模型API接入之前,请确保符合相对应的接口
在AppStage开发中心创建开发团队并关联服务 在开发中心进行服务开发前,需要组织管理员创建一个团队,将团队关联需要开发的服务。一个团队只能归属一个部门,可以关联一个或多个服务。 团队创建后,会有单独的团队空间为团队成员提供一个项目开发和共享的工作区域,用于协作、交流和共享资源
上传镜像包和IaC3.0包 容器部署前需要完成业务代码和IaC包代码开发,IaC代码的开发规范请参见《开发指南》。用户可以使用如下两种方式进行代码开发和打包: 使用开发中心:用户使用开发中心进行代码开发,可通过开发中心将镜像包和IaC3.0包直接推送至运维中心,具体操作请参见开发中心用户指南。
创建路由策略用于提供模型服务 通过配置路由策略,可以实现模型故障自动切换能力,当模型A因故障等原因无法正常工作时,可以自动切换为另一个可用的模型提供服务,从而提高模型服务的稳定性和可用性。 路由策略创建完成后,可以进行模型调测,并支持在创建Agent时使用或通过接口调用。 前提条件
模型API接入接口规范 当前模型网关支持文本对话(Chat)、文本向量化(Embeddings)、文本排序(Rerank)三种类型的API接入。模型API接入之前,请确保符合相对应的接口规范,其中Chat接口和Embeddings接口需要符合OpenAI接口规范,Rerank接口需要符合AI引擎标准协议。
在AppStage开发中心管理插件 用户在代码开发中时常用到多种插件,除开发中心系统预置插件外,用户还可将自己需要的其他本地插件上传至开发中心进行灵活管理,也可以为插件分类创建标签,便于快速筛选及查找。 组织管理员可以在“插件管理”页面添加或管理插件,其他成员可以在开发插件库中查看插件详情或下载插件。
在SLB中配置黑白名单 黑名单对于请求进行一定筛选条件下的拒绝。 白名单相当于VIP,白名单上匹配的请求,将跳过黑名单以及流控规则限制。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 配置黑白名单 进入AppStage运维中心。
创建WeLink触发规则 通过WeLink触发规则可以使用WeLink消息触发并执行welink_trigger类型的流程。 目前此功能仅支持白名单用户通过提交工单申请使用。详细操作请参考提交工单。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。
方案概述 背景信息 随着业务数量增多,业务的数据开发需求也逐渐增多, 数据开发人员不能快速支撑业务的开发需求,了解业务的人员设计和开发业务的数据资产可以使数据发挥最大价值,因此需要业务人员来主导业务的数据治理开发工作。 数据治理的核心就是管理好业务的数据资产,随着业务特性和业务复
在SLB中配置黑白名单 黑名单对于请求进行一定筛选条件下的拒绝。 白名单相当于VIP,白名单上匹配的请求,将跳过黑名单以及流控规则限制。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 配置黑白名单 进入AppStage运维中心。
创建变更电子流 本章节介绍如何创建变更电子流。 创建变更电子流 进入AppStage运维中心。 将鼠标悬停在右上角的账号,选择下拉列表中的“工单管理”,默认显示“变更单管理”页面。 单击“新建”。 配置电子流参数,参数说明如表1所示,配置完成后,单击“提交”。 页面带“*”标志的
虚拟机日志接入 本章节介绍如何通过filebeat采集虚拟机日志。 监控服务安装filebeat是使用子用户sudo权限进行安装,SUSE15系统没有自带sudo命令。如果需要采集的虚拟机操作系统为SUSE15,需要使用root用户登录主机,并执行zypper install s
虚拟机日志接入 本章节介绍如何通过filebeat采集虚拟机日志。 监控服务安装filebeat是使用子用户sudo权限进行安装,SUSE15系统没有自带sudo命令。如果需要采集的虚拟机操作系统为SUSE15,需要使用root用户登录主机,并执行zypper install s
评测模型 平台支持从多个维度对模型的能力、性能进行评估,以保证模型效果,为模型选型提供可靠依据。 约束与限制 仅支持对文本对话类型的模型服务进行评测。 前提条件 评测模型前,请先通过调测/体验模型功能确认模型可用。 创建评测任务 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型评测”,单击“创建评测任务”。
接入虚拟机日志 本章节介绍如何通过filebeat采集虚拟机日志。 监控服务安装filebeat是使用子用户sudo权限进行安装,SUSE15系统没有自带sudo命令。如果需要采集的虚拟机操作系统为SUSE15,需要使用root用户登录主机,并执行zypper install s
使用监控服务进行主机运维监控 AppStage运维中心支持将华为云主机接入主机管理服务(VMS)进行统一管理,并使用监控服务(ServiceInsight)的日志、监控和告警功能对主机进行运维监控。 本章节以Linux主机为例介绍如何使用监控服务进行主机运维监控的操作。 日志:完
包年/包月 包年/包月是一种先付费再使用的计费模式,适用于对资源需求稳定且希望降低成本的用户。通过选择包年/包月的计费模式,您可以预先购买云服务资源并获得一定程度的价格优惠。本文将介绍包年/包月AppStage套餐包的计费规则。 适用场景 包年/包月计费模式需要用户预先支付一定时
创建告警屏蔽规则 告警屏蔽为您提供短时间的屏蔽功能,可以通过设置告警屏蔽的规则,告警将在屏蔽的时间内不再触发任何通知,规则过期后,将会被再次唤醒,屏蔽期间告警被清除后,将不再触发任何通知,减少您的处理频度。 当告警经过告警接入处理后进入告警处理模块时,会先判断告警是否符合屏蔽的规
将已有模型部署为模型服务 模型需要部署成功后才可正式提供模型服务。部署成功后,可以对模型服务进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 本文介绍如何将微调后的模型或部分平台资产中心的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。
配置开发团队及服务扩展信息 使用开发中心前,需要组织管理员添加开发中心用户、创建开发团队,以及配置服务扩展信息即为当前要进行开发的服务关联CodeArts项目。 步骤一:添加开发中心用户 开发中心的用户数根据购买规格有相应的用户数量限制,组织管理员通过用户的添加或删除来合理管理开发中心的使用人员。