应用平台 APPSTAGE-AI原生应用引擎使用流程:编排Agent的流程

时间:2024-06-21 17:55:01

编排Agent的流程

图1 编排Agent的流程
表1 编排Agent的流程详解

序号

流程环节

说明

1

创建数据集

创建微调数据集/创建知识库数据集

用户根据需要创建微调数据集、知识库数据集,分别用于模型微调、创建知识库。

标注数据

用户可以将数据集中的某些元素进行标记或分类,以便模型可以更好地理解和使用这些数据。

2

创建提示语

选择平台预置提示语或自定义提示语

用户根据需要选择平台预置的提示语模板或自定义提示语模板,可在创建Agent调测模型中快速引用。

优化提示语

针对提示语进行结构、排版、内容等维度的优化和改进,将大模型的输入限定在一个特定的范围中,进而更好地控制模型的输出。

3

创建模型服务

模型需要部署成功后才可正式提供模型推理服务,平台支持将微调后的模型、系统预置的模型以及通过自建模型服务接入的模型发布为模型服务。调测模型、应用调用均需先部署模型(即部署模型服务)。

4

创建知识库

自定义创建并管理知识库,创建的知识库启用后可在创建Agent时引用。

5

编排Agent

创建及发布Agent

将准备好的模型服务、提示语、知识库等编排Agent应用,以及将应用程序和相关的组件发布,使其能够正常运行。

support.huaweicloud.com/usermanual-appstage/appstage_04_0591.html