检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
为微服务配置告警策略 支持对某个服务下的单个微服务或者多个微服务配置告警策略,告警信息会进行上报,业务可在监控服务(ServiceInsight)管理台上查看告警信息。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 新增告警配置
灰度服务依赖转发策略,一个转发策略实例可以对应多个灰度服务,1个灰度服务只能对应一个转发策略实例。 工作原理 客户端向应用程序发出请求。 负载均衡实例中的监听接收与配置的协议和端口匹配的请求。 监听再根据配置将请求转发至相应的后端服务器集群。如果配置了转发策略,监听会根据配置的
Model,大语言模型)即大模型,仅包含“chat”一个执行动作。 运行动作 输入参数 用户配置运行动作执行动作,相关参数说明如表1所示。 表1 运行动作属性配置输入参数说明 参数 是否必填项 说明 模型服务调用ID 是 从“Agent编排中心 > 我的模型服务”列表中“模型服务调用ID”列获取。
静态指标 数据模型 选择已发布的数据模型,该参数的取值在“数据模型”页面配置。 计算方式 指标的计算方法。 仅当“指标类型”为“普通型指标”时,该参数显示,此时,“函数”为选填,“字段”为必填。 说明: 简易模式可选择常用聚合函数。 高级模式支持自定义计算公式。 计算时间单位 指标的统计时间单位。
我创建的微调数据集会被其他用户调用去训练他们的大模型吗? 用户个人创建的数据集是属于个人账号下的专属数据,未经本人许可不会被其他人员查看到,且不会被其他用户在大模型训练时调用。 父主题: AI原生应用引擎
应用指标摸板库生成指标运行失败 问题描述 应用指标摸板库生成指标时,提示运行失败。 处理方法 检查选择的数据源和应用的模型是否匹配。模型对选择的数据是有要求的,数据源和模型之间不匹配,将导致指标运行失败。 父主题: 运营中心
例如,智能对话、以文搜图、NL2SQL等通用应用场景,可在AI原生应用引擎体验各大模型推理云服务,并通过可视化画布流程编排进行业务集成。 细分领域如金融、电网场景,需要对推理结果进行定制调整,则可在AI原生应用引擎使用模型在线微调训练功能,快速生成行业场景定制模型服务,满足用户特定需求。 对话沟通 针对客户服务和
调流水线(即模型微调任务),以及调测模型。 创建及管理模型 创建模型微调流水线 调测模型 查看模型调用记录 知识中心 数据是模型训练(含数据标注)以及知识库的基础,在整个模型、知识库中起着至关重要的作用。平台提供统一的数据管理功能,将分散的数据进行集中式纳管,从而节省了数据收集和
能应用的竞争力转型。 企业构建AI原生应用过程中面临的痛点 管好大模型难:大模型百花齐放,能力各异,管好大模型难,为应用场景选择表现最佳模型难。 用好大模型难:在企业的复杂场景中,基础大模型效果不佳,且多个大模型结合缺乏有效手段。 获取高质量数据难:高质量数据决定AIGC的高度,
appstage.myhuaweicloud.com”。 基本概念 大模型推理服务 直接调用预置大模型提供API完成推理过程。 私有模型部署 针对已经微调训练好的模型,如需评测此模型效果,或通过应用调用此模型,则需将模型部署为线上服务。 向量知识库 通过引入多种类型和格式的企业知识,将
SLB监听依赖SLB实例,1个SLB实例可以对应多个SLB监听。 转发策略依赖SLB监听,比例关系为1:1。 灰度服务依赖转发策略,一个转发策略实例可以对应多个灰度服务,1个灰度服务只能对应一个转发策略实例。 父主题: SLB
按需计费适用于资源需求波动的场景,在使用AppStage的用户创建应用、测试模型服务时需要调用大模型微调服务API在线调用-SFT局部调优,按需计费模式能大幅降低客户的业务成本。 适用计费项 AI原生应用引擎的以下计费项支持按需计费。 表1 适用计费项 计费项 说明 大模型微调服务API在线调用-SFT局部调优 根
于改进预训练模型的性能。 2 生成模型服务 将已有模型部署为模型服务 自建模型并发布为模型服务 模型需要部署成功后才可正式提供模型服务。部署成功后,可以对模型服务进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 3 调测模型 通过调测模型,可检验模型的准确性、可
为隔离域关联安全组 安全组是一个逻辑上的分组,为具有相同安全保护需求并相互信任的资源实例提供访问策略。通过为已创建的隔离域关联安全组,为隔离域提供访问策略,本章节介绍如何为隔离域关联安全组。 前提条件 已获取服务运维岗位权限、基础运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。
任务配置完成后该任务会显示在任务列表,单击任务所在行“操作”列的“基础”,单击“字段配置”,参考表5修改基础数据,获取维度值。 参考步骤四:配置训练模型配置异常检测算法模型,并进行模型训练。 训练的汇聚任务可以选择左侧导航栏“AI辅助诊断 > 任务配置”,选择“异常检测 > 汇聚任务管理”查看。 父主题:
长期持续演进,确保先进性和生命力。 AI原生应用开发 痛点 管好大模型难:大模型百花齐放,能力各异,管好大模型难,为应用场景选择表现最佳模型难。 用好大模型难:在企业的复杂场景中,基础大模型效果不佳,且多个大模型结合缺乏有效手段。 获取高质量数据难:高质量数据决定AIGC的高度,
数据模型 运营中心提供数据建模能力,运营人员可以自定义数据模型,也可以通过逆向数据库生成数据模型。通过提供多表关联建模整合表能力,一个数据模型可以映射多个数据表数据。 指标管理 运营中心提供指标自定义灵活配置能力,可以配置普通指标、复合型指标和静态指标,基于数据模型,通过计算
务,将源端数据迁移到运营中心,为后续业务做数据准备。 创建数据模型:运营中心提供数据建模能力,运营人员可以新建实时数据模型和离线数据模型,也可以通过逆向数据库生成数据模型。通过提供多表关联建模整合表能力,一个数据模型可以映射多个数据表数据。 新建自定义指标:运营中心提供指标自定义
下载AI原生应用引擎SDK AI原生应用引擎面向开发者提供了一套搭建原生应用的Python SDK,包含了模型调用,知识获取,工具调用等功能。使用SDK调用AI原生应用引擎的各种能力,帮助开发者快速构建大模型应用。 用户可以通过AI原生应用引擎平台下载SDK,同时对SDK完整性进行校验以确保获取的
新建数据模型:运营中心提供数据建模能力,运营人员可以自定义数据模型,也可以通过逆向数据库生成数据模型。通过提供多表关联建模整合表能力,一个数据模型可以映射多个数据表数据。 新建指标:运营中心提供指标自定义灵活配置能力,可以配置普通指标和复合指标,基于数据模型,通过计算方式、计算