检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
节点”,在当前设备节点操作列单击“激活”,节点状态将从“未激活”转为“已激活”。 图4 激活边缘节点 进入“边缘资源池 > 资源池”,单击“创建”。填写资源池名称,选择“ModelArts边缘节点”,在“主控节点”处单击“添加”,选择要添加的主控节点,单击“确定”。 图5 添加主控节点 在“工作节
CPU:部署需要使用的最小CPU值(物理核)。 内存:部署需要使用的最小内存值。 Ascend:部署使用的NPU数量。 负载均衡:创建负载均衡步骤请详见步骤5:创建负载均衡。 实例数:设置部署模型时所需的实例数。 安全护栏 选择模式 安全护栏保障模型调用安全。 计费模式 当前支持安全护栏基础版,内置了默认的内容审核规则。
在编排工作流时,可以使用以下节点进行功能设计: 开始节点:开始节点是工作流的起始节点,用户输入的信息由开始节点传入。 结束节点:结束节点是工作流的最终节点,用于定义整个工作流的输出信息。 大模型节点:用于在工作流中引入大模型能力。 意图识别节点:用于根据用户的输入进行意图分类并导向后续不同的处理流程。
工作流常见报错及解决方案请详见表1。 表1 工作流节点常见报错与解决方案 模块名称 错误码 错误描述 解决方案 开始节点 101501 开始节点全局配置未传入值。 开始节点错误,请联系客服解决。 结束节点 101531 结束节点初始化失败。 检查结束节点配置,可能为校验报错。 101532 结束节点模板拼接失败。
CPU:部署需要使用的最小CPU值(物理核)。 内存:部署需要使用的最小内存值。 Ascend:部署使用的NPU数量。 负载均衡:创建负载均衡步骤请详见步骤5:创建负载均衡。 实例数:设置部署模型时所需的实例数。 作业输入方式 选择 “OBS”表示从OBS中读取数据。 作业输出方式 选择
流程型Agent:以工作流为任务执行核心,用户可以通过在画布上“拖拽”节点来搭建任务流程。支持编排的节点类型包括:大模型节点、知识检索节点、意图识别节点、插件节点、判断节点、代码节点、消息节点、提问器节点。 优点:高度可扩展,支持低代码开发。 缺点:对话交互的智能度较低,复杂场景下流程分支较多,维护难度较大。
start,开始节点,表示开始调用模型进行会话。 message,消息节点,表示模型返回的消息。 plugin_start,插件调用请求节点,表示调用插件的请求信息。 plugin_end,插件调用响应节点,表示调用插件的响应信息。 statistic_data,执行数据节点,包含本次调用的耗时信息。
WORKFLOW_STARTED,开始节点,表示开始调用模型进行会话。 MESSAGE,消息节点,表示工作流执行过程中流式返回的消息。 WORKFLOW_NODE_MESSAGE,节点调试信息,当debug开启时可以看到各个节点响应。 WORKFLOW_FINISHED,全量响应节点,表示最终模型回复的全量信息。
停止。单击操作列的“更多 > 停止”,可以停止处于“排队中”或“运行中”状态的任务。 重试。单击操作列的“更多 > 重试”,可以重试处于“失败”状态的节点,重试该节点的训练。 删除。单击操作列的“更多 > 删除”,可以删除当前不需要的训练任务。 删除属于高危操作,删除前请确保当前任务不再需要。 父主题:
编排页面。 开始节点配置说明(必选) 开始节点是工作流的起始节点,包含用户输入信息,用于触发一个工作流,是每个工作流的入口节点。开始节点不支持新增或者删除。 开始节点为必选节点,需要配置于所有场景。 开始节点配置步骤如下: 拖动左侧任意节点至画布中,以显示开始节点。 单击画布中的开始节点以打开节点配置页面。
} ] } 单击Postman界面“Send”,发送请求。当接口返回状态为200时,表示应用API调用成功,响应示例如下: 提问器节点返回示例: { "conversation_id": "2c90493f-803d-431d-a197-57543d414317"
且复杂的流程。 流程型Agent:以工作流为任务执行核心,用户通过在画布上对节点进行“拖拉拽”即可搭建出任务流程,场景的节点包括大模型节点、意图识别节点、提问器节点、插件节点、判断节点、代码节点、消息节点,优点是可扩展能力强,用户适当使用低码开发,缺点是对话交互智能度不高,复杂场景下分支多,难以维护。
插件”中查看当前已添加的插件。 图3 配置应用插件 步骤4:添加工作流 应用支持添加工作流技能。工作流支持通过画布编排的方式,使用插件、大模型等不同节点的组合,从而实现复杂、稳定的业务流程编排。 如果需要添加工作流,请确保已完成编排工作流操作。 添加工作流的步骤如下: 在“技能 > 工作流”模块,单击“”。
错与解决方案。 训练日志可以按照不同的节点(训练阶段)进行筛选查看。分布式训练时,任务被分配到多个工作节点上进行并行处理,每个工作节点负责处理一部分数据或执行特定的计算任务。日志也可以按照不同的工作节点(如worker-0表示第一个工作节点)进行筛选查看。 图2 获取训练日志 父主题:
文本翻译意图:当用户请求翻译时,意图识别节点的关键任务是准确判断用户翻译的需求,执行翻译节点分支,并给出正确的翻译结果。 如图1,当用户输入翻译类问题时,“意图识别”节点对用户的意图分类为“文本翻译”,此时工作流将运行“提问器”节点分支,并依次运行后序节点,最终输出翻译后的内容。 图1 试运行工作流-1
错与解决方案。 训练日志可以按照不同的节点(训练阶段)进行筛选查看。分布式训练时,任务被分配到多个工作节点上进行并行处理,每个工作节点负责处理一部分数据或执行特定的计算任务。日志也可以按照不同的工作节点(如worker-0表示第一个工作节点)进行筛选查看。 图2 获取训练日志 父主题:
停止。单击操作列的“更多 > 停止”,可以停止处于“排队中”或“运行中”状态的任务。 重试。单击操作列的“更多 > 重试”,可以重试处于“失败”状态的节点,重试该节点的训练。 删除。单击操作列的“更多 > 删除”,可以删除当前不需要的训练任务。 父主题: 训练科学计算大模型
本章将详细介绍如何利用不同的节点构建一个高效的多语言文本翻译工作流,并确保不同用户需求(如普通对话、文本翻译)能够被准确识别和处理。 工作流节点设计 选取工作流的几个重要节点,每个节点负责特定的任务。以下是各节点的功能和设计思路: 开始节点:作为工作流的入口,开始节点负责接收用户输入的文
在工作流编排页面,平台已预先编排了开始、大模型与结束节点。 单击节点右上角的,可以对当前节点执行重命名、复制、删除操作。开始和结束节点为必选节点,无法删除。 图3 节点的重命名、复制、删除操作 配置“开始”节点。单击“开始”节点,该节点已默认配置query参数,表示用户输入的内容。当前场景下无需新增参数,单击“确定”。
获取项目ID的接口为“GET https://{Endpoint}/v3/projects”,其中{Endpoint}为IAM的终端节点,可以从地区和终端节点获取。接口的认证鉴权请参见认证鉴权。 响应示例如下,例如,对话机器人服务部署的区域为“cn-north-4”,响应消息体中查找“