云服务器内容精选
-
操作指引 图1 Agent编排中心操作指引 表1 Agent编排中心操作指引详解 序号 流程环节 说明 1 创建数据集 创建微调数据集/创建知识库数据集 用户根据需要创建微调数据集、知识库数据集,分别用于模型微调、创建知识库。 标注数据 用户可以将数据集中的某些元素进行标记或分类,以便模型可以更好地理解和使用这些数据。 2 创建提示语 选择平台预置提示语或自定义提示语 用户根据需要选择平台预置的提示语模板或自定义提示语模板,可在创建Agent、调测模型中快速引用。 优化提示语 针对提示语进行结构、排版、内容等维度的优化和改进,将大模型的输入限定在一个特定的范围中,进而更好地控制模型的输出。 3 创建模型服务 模型需要部署成功后才可正式提供模型推理服务,平台支持将微调后的模型、系统预置的模型以及通过自建模型服务接入的模型发布为模型服务。调测模型、应用调用均需先部署模型(即部署模型服务)。 4 创建知识库 自定义创建并管理知识库,创建的知识库启用后可在创建Agent时引用。 5 创建工具 用户根据实际需求可自主创建用于实现特定功能的模块或组件或选择系统预置的通用工具。 6 创建工作流 用户根据实际需求可自主创建工作流(一系列有序执行的工具,完成复杂任务的过程)或选择系统预置的通用工作流。 7 编排Agent 创建及发布Agent 将准备好的模型服务、提示语、知识库等编排Agent应用,以及将应用程序和相关的组件发布,使其能够正常运行。
-
更多操作 创建数据集完成后,可根据需要执行如表2所示的操作。 表2 更多操作 操作 步骤 修改数据集 在“知识库数据集”页面选择“我创建的”页签。 在数据集列表勾选数据集并单击“操作”列的“修改”。 在“修改数据集”页面,仅支持修改数据集描述、修改标签名称。 删除数据集 单个删除数据集: 在“知识库数据集”页面选择“我创建的”页签。 在数据集列表勾选单个数据集,然后选择“操作”列的“删除”。 单击“确认”。 批量删除数据集: 在“知识库数据集”页面选择“我创建的”页签。 在数据集列表勾选多个数据集,再单击列表上方“批量删除”。 在“批量删除”对话框,单击“确认”。
-
修订记录 发布日期 修订记录 2024-07-19 第五次正式发布。 修改如下章节: 资产中心 创建及管理知识库 创建及管理工具 创建工作流 创建及管理Agent 2024-06-20 第四次正式发布。 新增如下章节: 设置模型鉴权 下载SDK开发Agent 创建及管理工具 创建及管理工作流 修改如下章节: 进入AI原生应用引擎 工作空间 资产中心 创建及管理Agent 创建微调数据集 创建知识数据集 2024-05-07 第三次正式发布。 新增查看模型调用记录 修改如下章节: AI原生应用引擎使用流程 进入AI原生应用引擎 创建部署服务 创建及管理知识库 创建及管理Agent 创建接入模型服务 调测模型 创建微调数据集 创建知识数据集 删除“接入数据”章节 2024-03-30 第二次正式发布。 同步产品框架变更刷新全文。 2023-02-08 第一次正式发布。
-
调优大模型的流程 图2 调优大模型的流程 表2 调优大模型的流程详解 序号 流程环节 说明 1 创建数据集 创建微调数据集 用户根据需要创建微调数据集,用于模型微调。 标注数据 用户可以将数据集中的某些元素进行标记或分类,以便模型可以更好地理解和使用这些数据。 2 创建提示语 选择平台预置提示语或自定义提示语 用户根据需要选择平台预置的提示语模板或自定义提示语模板,可在创建Agent、调测模型中快速引用。 优化提示语 针对提示语进行结构、排版、内容等维度的优化和改进,将大模型的输入限定在一个特定的范围中,进而更好地控制模型的输出。 3 调优大模型 创建模型微调流水线 通过选择合适的数据集,调整参数,训练平台预置的模型以提高模型效果,可通过训练过程/结果指标初步判断训练效果。 创建模型服务 训练好的模型需要部署后才可提供推理服务(在线测试模型、应用调用均需先部署模型)。 调测模型 通过调测模型,检验模型的准确性、可靠性及反应效果,发现模型中存在的问题和局限性。
-
编排Agent的流程 图1 编排Agent的流程 表1 编排Agent的流程详解 序号 流程环节 说明 1 创建数据集 创建微调数据集/创建知识库数据集 用户根据需要创建微调数据集、知识库数据集,分别用于模型微调、创建知识库。 标注数据 用户可以将数据集中的某些元素进行标记或分类,以便模型可以更好地理解和使用这些数据。 2 创建提示语 选择平台预置提示语或自定义提示语 用户根据需要选择平台预置的提示语模板或自定义提示语模板,可在创建Agent、调测模型中快速引用。 优化提示语 针对提示语进行结构、排版、内容等维度的优化和改进,将大模型的输入限定在一个特定的范围中,进而更好地控制模型的输出。 3 创建模型服务 模型需要部署成功后才可正式提供模型推理服务,平台支持将微调后的模型、系统预置的模型以及通过自建模型服务接入的模型发布为模型服务。调测模型、应用调用均需先部署模型(即部署模型服务)。 4 创建知识库 自定义创建并管理知识库,创建的知识库启用后可在创建Agent时引用。 5 创建工具 用户根据实际需求可自主创建用于实现特定功能的模块或组件或选择系统预置的通用工具。 6 创建工作流 用户根据实际需求可自主创建工作流(一系列有序执行的工具,完成复杂任务的过程)或选择系统预置的通用工作流。 5 编排Agent 创建及发布Agent 将准备好的模型服务、提示语、知识库等编排Agent应用,以及将应用程序和相关的组件发布,使其能够正常运行。
-
工作空间 在AI原生应用引擎工作台左侧导航栏选择“工作空间” ,进入工作空间页面,可获得系统中各资源数据概览及产品的相关快速指引。 工作空间页面分为数据统计、选择应用创建类型、操作指引三个区域,如图1所示,各区域的功能说明如表1所述。 图1 工作空间 表1 AI工作空间页面说明 序号 区域 说明 1 创建Agent快捷入口 在该区域单击“创建Agent”可快速进入一站式创建Agent页面,详细介绍请参见一站式创建Agent。 2 平台资产 在“平台资产”区域,可查看下述信息数据: Agent数据 模型数据 数据集数据 提示语数据 3 我的空间 在“我的空间”区域,可查看下述信息数据: Agent:当前账号创建的、收藏的、订阅的Agent个数 模型:当前账号部署的、收藏的、接入的模型个数 数据集:当前账号创建的微调数据集个数、知识库数据集个数 提示语:当前账号创建的、收藏的提示语个数 工具:当前账号创建的、收藏的、订阅的技能个数 知识库:当前账号创建的知识库个数 4 操作指引 在“操作指引”区域,可概览各使用场景的流程指引: 零代码应用开发:详细流程说明请参见零代码应用开发。 全码化应用开发:详细流程说明请参见全码化应用开发。 模型调用与优化:详细流程说明请参见创建模型微调流水线、调测模型、创建部署服务。 提示语优化工程:详细流程说明请参见创建提示语、优化提示语。 知识库构建:详细流程说明请参见创建及管理知识库。 5 为您推荐 为您推荐的热门Agent、热门模型。 单击“换一批”可查看更多推荐的热门Agent、热门模型。 6 我的任务 分别展示我创建的模型微调任务、数据标注任务状态统计,包括如下: 进行中、已完成、异常状态的模型微调任务数 进行中、已完成状态的标注数据数
-
更多操作 创建数据集完成后,可根据需要执行如表2所示的操作。 表2 更多操作 操作 步骤 修改数据集 在“微调数据集”页面选择“我创建的”页签。 在数据集列表勾选数据集并单击“操作”列的“修改”。 在“修改数据集”页面,仅支持修改数据集描述、修改标签名称。 删除数据集 单个删除数据集: 在“我的数据集”页面选择“我创建的”页签。 在数据集列表勾选单个数据集,然后选择“操作”列的“删除”。 单击“确认”。 批量删除数据集: 在“我的数据集”页面选择“我创建的”页签。 在数据集列表勾选多个数据集,再单击列表上方“批量删除”。 在“批量删除”对话框,单击“确认”。 标注数据集 说明: 只有同时满足用途为“模型训练”、任务领域为“ 自然语言处理 ”、任务子领域为“文本生成”、数据集格式为“对话文本”四个条件的数据集才可进行标注。 在“微调数据集”页面选择“我创建的”页签。 在数据集列表勾选单个数据集,然后选择“操作”列的“标注”。 进入“数据标注”页面,参照标注数据进行数据标注。
-
管理知识库 创建知识库完成后,可执行如下表2所示的管理知识库相关操作。 表2 管理知识库 操作 说明 查看知识库详情 在知识库列表中单击知识库名称,进入知识库详情页,可查看该知识库数据概况和更新记录。 命中测试 命中测试即测试检索的命中率。 在知识库列表中“操作”列单击“命中测试”。 在“命中测试”页面根据界面提示输入测试文本,设置“相似度阈值”(相似度阈值的取值范围[0, 1],例如配置为0.5,则返回相似度大于等于0.5的结果)、“查询数量”。 单击“测试”。 在页面右侧“测试结果”区域可查看测试效果。相似度越大则表示检索命中率越高。 在页面左侧“测试历史”区域可查看该知识库的测试历史记录,每个知识库测试记录最多保留50条。 修改知识库 不能修改已启用的知识库;可先停用知识库后再修改。 在知识库列表中“操作”列单击“修改”。 在“修改知识库”页面,可修改知识库描述。 删除知识库 不能删除已启用的知识库;可先停用知识库后再删除。 在知识库列表中“操作”列单击“删除”。 在“删除知识库”对话框,单击“确认”。 启用知识库 在知识库列表中,对于“已停用”状态的知识库,可在“操作”列单击“启用”将其重新启用,启用后的知识库才可在创建应用时引用。 停用知识库 在知识库列表中,对于“已启用”状态的知识库,可在“操作”列单击“停用”将其暂停使用。
-
异常监控和处理 异常监控和处理(try-catch),左侧为try,右侧为catch。当左侧try分支出现错误时,会进入右侧catch分支,执行右侧的逻辑,如果左侧try逻辑无错误,则继续向下执行。 输入参数 该执行动作无输出参数。 输出参数 用户可以在之后的执行动作中调用该输出参数,输出参数说明请参考循环输出参数说明。 表14 循环输出参数说明 参数 说明 异常响应内容 左侧try分支中异常连接器节点的报错信息。 异常连接器 左侧try分支中异常连接器节点的连接器名称。 异常执行动作 左侧try分支中异常连接器节点的执行动作名称。 响应头 存放以上三个异常信息的集合。
-
数据分片 数据分片执行动作可以将数组类型的变量按指定策略进行分组。例如:输入参数为[1,2,3,4],按固定数量策略进行分组,期望分片数量为2,那么最终结果为[[1,2],[3,4]]。如果不能整分,则每小组数量为入参数组长度与期望分片数量相除,结果向上取整,例如:输入参数为[1,2,3,4,5],按固定数量策略进行分组,期望分片数量为2,那么最终结果为[[1,2,3],[4,5]]。 输入参数 用户配置数据分片执行动作,相关参数如表5所示。 表5 数据分片输入参数说明 参数 必填 说明 分片对象 是 数组类型的自定义变量或之前节点的出参。 分片策略 是 设置分片策略,目前策略仅有“固定数量”一种。 分片数量 是 获得数组数量的期望值。 输出参数 用户可以在之后的执行动作中调用该输出参数,输出参数说明请参考表6。 表6 数据分片输出参数说明 参数 说明 执行结果 数据分片是否运行成功。 true:表示成功。 false:表示失败。 数据分片结果 数据分片后的结果,返回值为二维数组。
-
循环 循环(while),当满足条件时,重复执行循环块内的逻辑,直到不满足条件或者超出最大循环次数,或者超出超时时间。 输入参数 用户配置终止执行动作,相关参数说明如循环输入参数说明所示。 表12 循环输入参数说明 参数 说明 条件1 是否循环的条件。 最大循环次数 默认值循环5000。 超时时间 默认值30min。 输出参数 用户可以在之后的执行动作中调用该输出参数,输出参数说明请参考循环输出参数说明。 表13 循环输出参数说明 参数 说明 循环次数 循环次数。
-
流程块 流程块(flow block),流程块用来监控上个节点的状态,并进入到流程块中执行流程块里面的逻辑。 输入参数 用户配置终止执行动作,相关参数说明如流程块输入参数说明所示。 表10 流程块输入参数说明 参数 必填 说明 参照对象 是 默认上个节点。 运行条件 是 执行成功/执行失败。 输出参数 用户可以在之后的执行动作中调用该输出参数,输出参数说明请参考流程块输出参数说明。 表11 流程块输出参数说明 参数 说明 是否执行 流程块内步骤是否执行。 异常响应内容 异常响应内容。 异常连接器 异常连接器。 异常执行动作 异常执行动作。
-
分支 用户选择分支后,画布上会展示一个分支的白色框,单击“添加分支”,添加业务场景所需要的各个分支,同时画布上会展示各个分支的信息,最多可以配置五个分支,分支里面可以再添加其他分支。以下图为例: 如果想对分支的当前项进行数据处理,可在分支中进行业务编排。流开始运行时,会先运行分支里面的各个执行动作,之后运行分支以外的执行动作。 输入参数 该执行动作无输入参数。 输出参数 用户可以在之后的执行动作中调用该输出参数,输出参数说明请参考表4。 表4 分支输出参数说明 参数 说明 当前项 分支中的当前项。
-
多分支条件 用户选择多分支条件后,侧边栏会展示该动作包含的参数,画布上会展示一个多分支条件的白色框,单击“添加分支”,添加业务场景所需要的各个分支条件,同时画布上会展示各个分支条件的信息,分支条件里面可以再添加其他分支。以下图为例: 如果想对多分支条件的当前项进行数据处理,可在多分支条件中进行业务编排。流开始运行时,会先运行多分支条件里面的各个执行动作,之后运行分支以外的执行动作。如果多分支条件运行没有结果,系统默认会按照分支默认条件去执行。 输入参数 用户配置多分支条件执行动作,相关参数说明如表7所示。 表7 多分支条件输入参数说明 参数 必填 说明 多分支条件 是 多分支条件需要满足的条件。 输出参数 用户可以在之后的执行动作中调用该输出参数,输出参数说明请参考表8。 表8 多分支条件输出参数说明 参数 说明 当前项 多分支条件中的当前项。
-
遍历集合元素 添加执行动作时,如果选择了“计划”执行动作,则流编排能映射上遍历集合元素里面需要选到遍历项的子节点。 用户选择该执行动作后,侧边栏弹出输入框: 用户需在输入框内填入数组参数,如[1,2,3]或引用数组参数。 如果想对遍历的当前项进行数据处理,可在上下文引用中获取到当前项。 输入参数 用户配置遍历集合元素执行动作,相关参数说明如表2所示。 表2 遍历集合元素输入参数说明 参数 必须 说明 条件 是 数据集合需要满足的条件。 输出参数 用户可以在之后的执行动作中调用该输出参数,输出参数说明请参考表3。 表3 遍历集合元素输出参数说明 参数 说明 当前项 遍历集合元素的当前项。
更多精彩内容
CDN加速
GaussDB
文字转换成语音
免费的服务器
如何创建网站
域名网站购买
私有云桌面
云主机哪个好
域名怎么备案
手机云电脑
SSL证书申请
云点播服务器
免费OCR是什么
电脑云桌面
域名备案怎么弄
语音转文字
文字图片识别
云桌面是什么
网址安全检测
网站建设搭建
国外CDN加速
SSL免费证书申请
短信批量发送
图片OCR识别
云数据库MySQL
个人域名购买
录音转文字
扫描图片识别文字
OCR图片识别
行驶证识别
虚拟电话号码
电话呼叫中心软件
怎么制作一个网站
Email注册网站
华为VNC
图像文字识别
企业网站制作
个人网站搭建
华为云计算
免费租用云托管
云桌面云服务器
ocr文字识别免费版
HTTPS证书申请
图片文字识别转换
国外域名注册商
使用免费虚拟主机
云电脑主机多少钱
鲲鹏云手机
短信验证码平台
OCR图片文字识别
SSL证书是什么
申请企业邮箱步骤
免费的企业用邮箱
云免流搭建教程
域名价格