检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
按需计费 千tokens * 每千tokens单价 推理单元 将基础或者预训练后的模型部署为在线服务时使用的算力单元,通过购买推理单元实现服务QPS扩容。 包年/包月 包年/包月:实例数量*实例单价*购买时长 大模型调用 大模型调用次数。
在异常检测任务模型配置的“训练配置”页面,单击“立即训练”。 父主题: 异常检测Judge定时任务失败
私有模型部署 针对已经微调训练好的模型,如需评测此模型效果,或通过应用调用此模型,则需将模型部署为线上服务。 向量知识库 通过引入多种类型和格式的企业知识,将数据转化为向量,并利用高效的存储和索引方式进行查询,实现基于检索增强的大模型能力。
开发中心:开发中心专业版 运维中心:运维中心专业版、运维中心服务扩展包 运营中心:运营中心专业版、运营中心看板增量包、运营中心指标增量包-10个指标、运营中心指标增量包-100个指标 预置模型服务调用 API SaaS:ChatGLM3-6B大模型服务API在线调用 自定义模型训练
父主题: AI原生应用引擎
AI原生应用引擎 应用管理 提供自定义创建、开发、部署、发布、取消发布AI应用,还可以对自己收藏的AI应用进行运行调试、二次开发等。 应用体验 将平台预置的应用部署和用户自己创建的应用部署进行API调测,帮助开发人员发现并解决应用接口上的问题和错误。
配置AIOps规则参数,参数说明如表1所示,配置完成后,单击“确定”。 表1 AIOps规则参数说明 参数名称 参数说明 指标来源 选择告警的指标来源“AIOps”。 告警定义名称 自定义告警定义的名称。 级别 选择该规则生成告警的级别。
父主题: Rainbow SDK
AI原生应用引擎使用流程 AI原生应用引擎是企业专属的一站式大模型开发及应用构建平台,其核心是将自创建或平台预置的模型服务、工具、工作流及知识库等编排成具有一定智能性和自主性的Agent。本章节梳理了AI原生应用引擎使用流程,可帮助您快速了解AI原生应用引擎的核心功能。
实现故障快速恢复:AppStage运维中心具备强大的故障监测和自动恢复能力,当系统出现故障或异常时,AIOps可以及时发现并采取相应的措施进行修复,最大限度地减少停机时间和业务中断,减轻可能出现的业务损失和客户流失。
更多 AI原生应用引擎 我创建的微调数据集会被其他用户调用去训练他们的大模型吗? 模型微调任务一直在等待中是什么原因? AI原生应用引擎支持所有数据集进行数据标注吗? 更多 开发中心 如何申请组织管理员权限? 团队无法关联某个服务是什么原因?
发布Agent的时候提示套餐校验失败 发布Agent前需要订购智能应用运行时引擎资源,请参靠购买AI原生应用引擎,按照需要购买实例个数以及时长。 父主题: AI原生应用引擎
创建并发布Agent Agent指具备自主智能的AI实体应用,具有一定的智能和自主性,可以自主地发现问题、设定目标、构思策略、执行任务等。 平台在资产中心预置了部分AI应用,同时也支持用户创建Agent,当前支持创建LLM模式和工作流模式两种类型的Agent。
推理单元包周期 将基础或者预训练后的模型部署为在线服务时使用的算力单元,通过购买推理单元实现服务QPS扩容。 实例数 可购买的实例数量为1~50个。 AI原生应用引擎基础版 支持知识库容量,智能应用运行时引擎,开通ChatGLM3-6B服务、大模型调优服务API在线调用。
Code代码 Code代码是工作流的基础节点之一,仅包含“运行代码”一个执行动作。 支持在工作流中编写Python代码,可以将前置节点的输出作为函数的输入参数,函数的返回结果则作为输出参数供后置节点引用,从而提高工作流的灵活性和智能性。 运行代码配置说明 表1 运行代码配置参数说明
支持区域: 华北-北京四 创建及管理模型 创建模型微调流水线 调测模型 查看模型调用记录 知识中心 数据是模型训练(含数据标注)以及知识库的基础,在整个模型、知识库中起着至关重要的作用。平台提供统一的数据管理功能,将分散的数据进行集中式纳管,从而节省了数据收集和管理的成本。
AI原生应用引擎简介 什么是AI原生应用引擎 AI原生应用引擎基本概念
验证信息 API Key 必填项,单击“获取API key”跳转至AI原生应用引擎的“凭证管理 > 我的凭证”页面,在“平台API Key”页签获取,具体介绍请参见创建API Key。 单击“保存”,创建实例成功。 节点备注 输入节点备注信息,方便后续查阅节点功能。
AI原生应用引擎概览页介绍 进入AI原生应用引擎 登录AppStage。 在快捷入口选择“AI原生应用引擎”,进入AI原生应用引擎。 概览页介绍 在AI原生应用引擎的左侧导航栏选择“概览” ,进入概览页,可获得系统中各资源数据概览及产品的相关快速指引。
下载AI原生应用引擎SDK AI原生应用引擎面向开发者提供了一套搭建原生应用的Python SDK,包含了模型调用,知识获取,工具调用等功能。开发者可以使用SDK调用AI原生应用引擎的各种能力,快速构建大模型应用。