-
使用AI原生应用引擎完成大模型调优 - 应用平台 AppStage
我创建的”页面的模型列表中。 步骤三:部署模型 部署模型是将模型部署为在线服务,通过创建推理服务实现,创建成功后,可以对在线服务可以进行预测和调用。本文需要为基座模型(原模型)和微调后的新模型分别创建模型服务。由于在线运行需消耗资源,请确保账户未欠费。 在AI原生应用引擎工作台的左侧导航栏选择“应用编排中心
-
新建屏幕模板 - 应用平台 AppStage
建。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请操作请参见权限管理。 已创建我的卡片,具体请参见我的卡片、使用在线构建表单卡片、使用卡片模板新建卡片、使用离线构建新建卡片。 新建屏幕模板 在AppStage首页右上区域单击“运营中心”快捷入口,进入运营中心工作台。
-
AI原生应用引擎应用场景 - 应用平台 AppStage
型推理云服务,并通过可视化画布流程编排进行业务集成。 细分领域如金融、电网场景,需要对推理结果进行定制调整,则可在AI原生应用引擎使用模型在线微调训练功能,快速生成行业场景定制模型服务,满足用户特定需求。 对话沟通 针对客户服务和销售团队,通过对话沟通,快速理解并响应客户的需求,
-
创建及管理模型服务 - 应用平台 AppStage
型服务,生成的模型服务可用于创建应用或调测模型。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。 由于在线运行需消耗资源,请确保账户有可用资源,且用户费用状态正常。 已准备好模型,具体请参见创建及管理模型。 创建模型服务 在AI原生应用引擎工作台的左侧导航栏选择“Agent编排中心
-
创建及管理模型服务 - 应用平台 AppStage
型服务,生成的模型服务可用于创建应用或调测模型。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。 由于在线运行需消耗资源,请确保账户有可用资源,且用户费用状态正常。 已准备好模型,具体请参见创建及管理模型。 创建模型服务 在AI原生应用引擎工作台的左侧导航栏选择“Agent编排中心
-
创建代码仓 - 应用平台 AppStage
代码仓管理是开发中心集成代码托管CodeArts Repo服务的能力,是遵循Git的基本运行模式的分布式版本管理平台,其具备安全管控、成员/权限管理、分支保护/合并、在线编辑、统计服务等功能,旨在解决软件开发者在跨地域协同、多分支并发、代码版本管理、安全性等方面的问题。 如果您计划开始一个新项目,那么您可以
-
新增SDK配置 - 应用平台 AppStage
表示匹配全部微服务。 Keyspace名 选择Keyspace名称。 业务账号 连接数据库的业务账号名。 全表扫描 选择是否开启全表扫描。 在线压测 选择是否开启在线压测。 慢查询阈值 超过慢查询阈值的记录为慢sql,默认值为2000。 PK黑名单 选择是否开启PK黑名单。 单击“新增”,新增一条黑名单配置。
-
API概览 - 应用平台 AppStage
AppStage接口的分类与说明如表1所示。 表1 API概览 类型 说明 模型集市 调用预置大预言/向量化模型服务接口。 在线测试 私有部署的对话/向量化推理服务的在线测试接口。 知识库 知识库数据查询接口。
-
按需计费 - 应用平台 AppStage
推理单元将被释放,数据无法恢复。Baichuan-13B大模型服务API在线调用、bge-large-zh-v1.5 API在线调用、ChatGLM3-6B大模型服务API在线调用、大模型微调服务API在线调用-SFT局部调优将无法再使用。 华为云根据客户等级定义了不同客户的宽限期和保留期时长。
-
欠费说明 - 应用平台 AppStage
推理单元将被释放,数据无法恢复。Baichuan-13B大模型服务API在线调用、bge-large-zh-v1.5 API在线调用、ChatGLM3-6B大模型服务API在线调用、大模型微调服务API在线调用-SFT局部调优将无法再使用。 图1 按需计费ECS资源生命周期 华为
-
管理卡片 - 应用平台 AppStage
仅适用于使用“上传卡片”方式新建的卡片。 编辑卡片 卡片形式:在需要编辑的卡片上,单击“编辑”。 列表形式:在对应的“操作”列下,单击“编辑”。 说明: 适用于使用“在线构建”、“模板构建”方式新建的卡片。 查看卡片详情 卡片形式:单击“更多 > 详情”,可以查看卡片详情。 列表形式:在对应的“版本号”列下,单击版本号。
-
概述 - 应用平台 AppStage
实时查看关键指标数据,掌握产品运营中的重要数据,支撑下一步运营动作,提升产品运营效率。 特点 提供丰富的卡片类型,供看板选用。卡片构建方式包括:使用在线构建图表卡片、使用在线构建表单卡片、使用卡片模板新建卡片、使用离线构建新建卡片。 在看板编辑页面,通过拖拉拽的方式,以图表的形式进行呈现,直观展现产品运营看板数据。
-
API - 应用平台 AppStage
API 模型集市 在线测试 知识库
-
管理卡片 - 应用平台 AppStage
仅适用于使用“上传卡片”方式新建的卡片。 编辑卡片 卡片形式:在需要编辑的卡片上,单击“编辑”。 列表形式:在对应的“操作”列下,单击“编辑”。 说明: 适用于使用“在线构建”、“模板构建”方式新建的卡片。 查看卡片详情 卡片形式:单击“更多 > 详情”,可以查看卡片详情。 列表形式:在对应的“版本号”列下,单击版本号。
-
概述 - 应用平台 AppStage
实时查看关键指标数据,掌握产品运营中的重要数据,支撑下一步运营动作,提升产品运营效率。 特点 提供丰富的卡片类型,供看板选用。卡片构建方式包括:使用在线构建图表卡片、使用在线构建表单卡片、使用卡片模板新建卡片、使用离线构建新建卡片。 在看板编辑页面,通过拖拉拽的方式,以图表的形式进行呈现,直观展现产品运营看板数据。
-
我的卡片 - 应用平台 AppStage
输入完成后按Enter键,卡片分类新建成功。 使用在线构建图表卡片 支持无模板在线构建图表卡片,也支持基于使用在线构建的图表卡片模板新建卡片。 在“配置看板”界面“我的卡片”页签中,选择卡片分类,单击“新建卡片”。 选择卡片创建方式。在“创建方式”下单击“在线构建”。 支持在线构建、模板构建、上传卡片三种方式。
-
AI原生应用引擎计费项 - 应用平台 AppStage
计费项说明 适用的计费模式 大模型微调服务API在线调用-SFT局部调优 调用大模型Lora微调服务API时根据实际的输入和输出tokens总量收费(平台提供算力支持)。 按需计费 推理单元包周期 将基础或者预训练后的模型部署为在线服务时使用的算力单元,通过购买更多推理单元实现服务QPS扩容。
-
自定义运营看板提高篇 - 应用平台 AppStage
自定义运营看板提高篇 我的卡片界面介绍 新建卡片分类 新建项目 使用在线构建表单卡片 使用卡片模板新建卡片 使用离线构建新建卡片 管理卡片 使用模板构建新建屏幕 父主题: 看板管理
-
我的卡片 - 应用平台 AppStage
输入完成后按Enter键,卡片分类新建成功。 使用在线构建图表卡片 支持无模板在线构建图表卡片,也支持基于使用在线构建的图表卡片模板新建卡片。 在“配置看板”界面“我的卡片”页签中,选择卡片分类,单击“新建卡片”。 选择卡片创建方式。在“创建方式”下单击“在线构建”。 支持在线构建、模板构建、上传卡片三种方式。
-
纳管主机 - 应用平台 AppStage
主机分配后会自动触发OS扫描任务,为主机绑定账号,如果OS扫描失败,可参考OS发现手动触发。 更多操作 您还可以进行以下操作。 表2 相关操作 操作名称 操作步骤 管理扫描规则 VMS默认扫描华为公有云账号下的所有资源,可以禁用或者删除对应账号的扫描规则。 在“未纳管主机”页面,单击列表上方的“扫描规则”。