检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
将已有模型部署为模型服务 模型需要部署成功后才可正式提供模型服务。部署成功后,可以对模型服务进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 本文介绍如何将微调后的模型或部分平台预置的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源
AppStage运营中心基本概念 表1 基本概念说明 基本概念 说明 指标 衡量或评估某个事物的标准。它可以用来衡量和比较不同事物之间的差异,以便更好地了解和管理它们。 OBS 对象存储服务(Object Storage Service,OBS)是一个基于对象的海量存储服务,为客户提供海量
创建运维事件通知组 通知组通常包括运维代表、开发代表、相关领域专家等。 通知组在运维事件发送通知、WarRoom基于通知组方式发送通知时使用。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 创建通知组 进入AppStage运维中心。 在顶部导航栏选择服务
数据导流 接入的日志数据存在于对应的Topic中,需要创建导流任务,将数据存储在对应的数据库中进行管理和后续开发。 创建导流任务 以ClickHouse数据库为例,介绍如何创建导流任务将数据存储在ClickHouse数据库,创建前需要先新建ClickHouse表。 如需使用其他数据库
创建告警定义规则定义需要上报的告警 如果您对于繁琐复杂的告警上报字段感到困惑,可以使用统一告警定义,该功能会自动下发到业务对应的agent,使用更加人性化的界面设计,让告警上报更加统一、准确。 告警定义依赖于业务在数据采集时部署了对应的Agent和数据采集的插件,首先需要有持续的采集数据上报
创建文件分发作业自动分发文件 监控服务支持配置文件分发作业,完成自动化文件分发。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 已设置执行机。 创建文件分发作业 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 监控服务
将接入数据导流至数据表中 监控服务已接入的数据,会保存在已创建或者系统自动创建的Kafka的Topic中,需要创建导流任务,将数据导流至ClickHouse或Influxdb数据表中。 将数据导流至ClickHouse/Influxdb表 进入AppStage运维中心。 在顶部导航栏选择服务
新建屏幕模板分组 为了更好地管理屏幕模板,使用该功能新建相应的屏幕模板分组,在对应的分组中新建屏幕模板。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。 新建屏幕模板分组 登录AppStage业务控制台。 在快捷入口选择“运营中心”,进入运营中心
容器日志接入 本章节介绍如何接入容器日志。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 步骤一:创建日志项目 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 监控服务(ServiceInsight)”。 选择左侧导航栏的
容器日志接入监控服务 本章节介绍如何接入容器日志。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 步骤一:创建日志项目 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 监控服务(ServiceInsight)”。 选择左侧导航栏的
使用AI原生应用引擎完成模型调优 模型调优是一种通过对模型进行微调来适应特定任务或数据集的技术,适用于需要个性化定制或在特定任务上追求更高性能表现的场景。在模型调优过程中,用户需要构建一个符合业务场景任务的训练集,这个训练集通常由业务数据和业务逻辑构成。然后,用户需要调整模型的参数
创建告警标记规则为告警打标签 告警标记的作用是为一段时间内的告警打上标签。例如现网变更时,由于要模拟大量异常请求和其他操作会造成大量无用告警上报,标记的作用就是为这一段时间的告警打上标签,与正常告警进行区分。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限
创建模型微调任务 模型微调是指调整大型语言模型的参数以适应特定任务的过程,适用于需要个性化定制模型或者在特定任务上追求更高性能表现的场景。这是通过在与任务相关的微调数据集上训练模型来实现的,所需的微调量取决于任务的复杂性和数据集的大小。在深度学习中,微调用于改进预训练模型的性能。
创建WarRoom事件通知 WarRoom是由运维代表决策,Oncall团队负责操作创建,针对重大故障的一种应急处置的协同机制,创建WarRoom,并选择相关人员进行通知。 在重大故障发生时,需要知会问题处理经验比较丰富的运维、开发和问题相关的外部专家,通过添加通知组功能提前预置。
在监控服务查看已接入日志 您可以通过本操作设置条件进行日志查询。 前提条件 已完成日志接入。 已完成创建导流任务。 操作步骤 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 监控服务(ServiceInsight)”。 选择左侧导航栏的“日志 > 日志检索
基于SQL配置图表 配置oapdruid、oapclickhouse、oapmppdb、oapinfluxdb、oaptsdb数据源后,可以使用druid、clickhouse等数据源基于SQL配置图表,本章节介绍如何基于SQL配置图表并将图表添加至业务报表中。 前提条件 已完成对于数据源的数据开发
产品功能 开发中心 团队管理 团队管理基于团队空间为团队成员提供项目开发和共享工作区域,用于协作、交流和共享资源。在团队空间中,团队成员可以共同编辑文档、共享文件、执行各自权限和责任事项、规划和排发任务等,从而提高团队的工作效率和协作能力。 版本管理 版本管理是一种管理和跟踪代码变化的方法
在监控服务新增业务报表页面 业务报表以页面来呈现和管理,本章节介绍如何新建业务报表页面。 前提条件 已新增业务报表数据源。 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 新建业务报表页面 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维
在运营中心创建数据模型 运营中心提供数据建模能力,运营人员可以新建数据模型,也可以通过逆向数据库生成数据模型。通过提供多表关联建模整合表能力,一个数据模型可以映射多个数据表数据。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。 已完成接入运营数据
管理资产中心预置提示语 提示语是给大模型的指令,它可以是一个问题、一段文字描述,也可以是带有一系列参数的文字描述。 AI原生应用引擎资产中心预置了多款提示语模板,这些模板是基于大量应用场景下的经验或者训练语料而总结出一些优质的提示语组成结构,将其抽离成为一种模板,支持测试、一键快速复制及收藏等