检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
收藏其他租户上架的工具 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。 在左侧“筛选”区域,可以按照行业、类型、其他三个维度快速筛选查找工具。 鼠标光标移至工具卡片上,单击卡片右上角。 单击工具卡片右上角的,可以取消收藏。
生活服务类:为用户提供各种用途全面,功能丰富的API资产,如银行网点查询、生活小窍门等。具体介绍请参见生活服务类。 我的工具类:包含AI原生应用引擎资产中心预置的三方工具以及自创建的工具。
为什么使用AppStage运营中心 运营中心在AppStage服务应用的全生命周期的背景下,以应用运营为主线,主要面向应用运营者提供应用运营的分析底座、领域或行业经验资产以及可视化看板等能力,帮助用户高效率、低门槛的展开应用运营,支撑业务的成功。
说明: 资产中心预置的三方工具在调用前需要配置认证鉴权,具体介绍请参见调用资产中心工具前设置认证鉴权。
如果调用其他租户或资源相互隔离的部门所上架的工具,请在AI原生应用引擎中,选择左侧导航栏的“资产中心”,选择“工具”页签,单击工具卡片上的“设置鉴权”,查看工具鉴权获取方式,如图1所示。 图1 设置鉴权信息 父主题: AI原生应用引擎
本文介绍如何将微调后的模型或部分平台资产中心的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。 由于在线运行需消耗资源,请确保账户有可用资源,且用户费用状态正常。
创建提示语 平台在资产中心预置了提示语模板,同时也支持用户根据需求自定义创建提示语。在模型调测时引用创建的提示语模板,可以快速推进引导对话的发展,或者增加故事的复杂性和深度。大模型会基于提示语所提供的信息,生成对应的文本或者图片。
平台在资产中心预置了部分微调数据集,同时也支持用户根据需求自定义创建微调数据集。本文介绍如何创建微调数据集。 前提条件 通过OBS(对象存储服务)接入数据时,操作账号需获得OBS只读权限,具体操作请参见对其他账号授予桶的读写权限。
申请上架工具 将工具上架至资产中心,具体操作请参见将创建的工具上架到资产中心。 创建执行动作 在工具列表中,单击工具名称,在工具详情页面创建执行动作,具体操作请参见创建执行动作。 下载工具 在工具列表中,选择操作列的“更多 > 下载”,下载工具的json格式文件。
支持将平台资产中心的部分模型作为微调前基础模型,也可以选择微调后的新模型作为基础模型再次进行微调。 前提条件 已订购大模型微调服务API在线调用-SFT局部调优,订购方法请参见购买AI原生应用引擎按需计费资源。
管理工具 创建工具 导入工具 将创建的工具上架到资产中心 收藏上架的工具 调用资产中心工具前设置认证鉴权
收藏预置微调数据集 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“数据集”页签。 选择“微调数据集”子页签,将鼠标光标移至数据集卡片上,单击卡片右上角。 单击工具卡片右上角的,可以取消收藏。
申请上架工具 将工具上架至资产中心,具体操作请参见将创建的工具上架到资产中心。 创建执行动作 在工具列表中,单击工具名称,在工具详情页面创建执行动作,具体操作请参见创建执行动作。 下载工具 在工具列表中,选择操作列的“更多 > 下载”,下载工具的json格式文件。
管理提示语 创建提示语 对创建的提示语进行优化 管理资产中心预置提示语
管理Agent Agent编排使用指引 创建并发布Agent 体验Agent 使用Agent 收藏资产中心预置的AI应用
管理模型 模型使用指引 基于微调数据集进行模型微调 生成模型服务 调测/体验模型 评测模型 查看模型调用记录 收藏平台资产中心的模型 模型API接入接口规范 如何对平台接入的第三方模型服务设置鉴权
平台定义了3种模型服务: 平台预置模型服务 登录AI原生应用引擎,在左侧导航栏选择”资产中心“,选择“大模型”页签,单击模型卡片进入模型详情页面,查看模型服务调用ID。
2 平台资产 在“平台资产”区域,可查看下述信息数据: Agent数据 模型数据 数据集数据 提示语数据 3 我的空间 在“我的空间”区域,可查看下述信息数据: Agent:当前账号创建的、收藏的、订阅的Agent个数。 模型:当前账号部署的、收藏的、接入的模型个数。
虚拟机部署流程 前提条件 已纳管主机,具体操作请参见一站式接入资源。 虚拟机部署流程 准备Terraform包和软件包:部署前需要准备Terraform包和软件包。如果使用开发中心进行代码开发,可通过开发中心将包直接推送至运维中心,具体操作请参见开发中心用户指南;如果使用本地工具进行代码开发
AI原生应用引擎:查看工作空间、资产中心,管理我的模型、数据集与知识库、我的提示语,创建访问密钥等操作。