检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
创建工作流 工作流体现的是一个具体的业务场景,通过一系列不同功能节点中的触发事件和执行动作编排而成,AI原生应用引擎通过将传统工具API和大模型编排在一起实现复杂的工作流。工作流可在用户创建Agent时调用,Agent使用过程中,当起始节点触发,后续动作即可自动执行,完成一系列复杂的任务。
收藏资产中心预置的AI应用 支持收藏平台资产中心预置的AI应用。将自己关注的AI应用收藏后,可便捷地在收藏列表中查看应用详情及体验Agent。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏资产中心预置AI应用 在
将已有模型部署为模型服务 模型需要部署成功后才可正式提供模型服务。部署成功后,可以对模型服务进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 本文介绍如何将微调后的模型或部分平台资产中心的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。
工作流工具节点说明 工作流的工具节点可以是系统提供的,也可以是用户自定义的工具,用于实现特定的业务逻辑或功能。,包含以下三种类型: 华为类:为用户提供各种华为类的工具节点,如华为会议、华为天气服务等。具体介绍请参见华为类。 生活服务类:为用户提供各种用途全面,功能丰富的API资产
工作流基础节点说明 起始节点 调用子工作流 数据连接器 LLM 知识库 变量V2 控制 JSON构造器 Code代码 结束 父主题: 管理工作流
配置服务扩展信息 开发中心深度集成CodeArts服务的功能,需组织管理员或项目经理对当前服务关联CodeArts项目,后续的服务开发过程中才能正常使用CodeArts服务的代码托管、流水线、编译构建功能;同时在服务配置页面,可查看当前服务的基础信息(如所属产品、所属部门、服务状态等)。
管理台上服务下无法选到相应的微服务。 在安全管理台上配置敏感配置项、证书时,服务下只显示已经在相应环境下在STS上注册过的微服务。需要让站点的业务SRE在运维管理台上进行微服务注册。 KeyStoreException: empty private key or certificate 出现该提
在AppStage开发中心为服务关联CodeArts项目 开发中心默认集成CodeArts工具链,创建团队后,组织管理员或项目经理需要为团队关联的服务关联CodeArts项目,后续服务开发过程中才能正常使用CodeArts服务的代码托管、流水线、编译构建功能;同时在服务配置页面,
调用资产中心工具前设置认证鉴权 资产中心展示了平台预置的第三方厂商工具以及租户上架的工具,这些三方工具可以在创建Agent时进行便捷调用。 如果三方工具在创建时设置了鉴权信息,在调用前还需要配置认证鉴权。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。
将创建的工具上架到资产中心 工具创建完成后,可以将工具上架至资产中心,其他租户或资源相互隔离的部门收藏工具后,可便捷地进行使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 上架工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心
结束 结束节点是工作流的基础节点之一,仅包含“结束节点”一个执行动作。 结束节点作为整条工作流的输出返回,需配置响应体、状态码、响应头参数。 表1 结束节点参数说明 参数 说明 选择回答模式 由Agent生成回答:Agent绑定了大模型时,由大模型对工作流的输出进行总结,生成自然语言回答。
控制 控制连接器包含“中断”、“条件判断”、“继续”、“遍历集合元素”、“分支”、“数据分片”、“多分支条件”、“终止”、“流程块”、“循环”、“异常监控和处理”执行动作。 连接参数 控制连接器无需认证,无连接参数。 中断 中断(break),设置了中断节点,流运行到中断节点后,
创建路由策略用于提供模型服务 通过配置路由策略,可以实现模型故障自动切换能力,当模型A因故障等原因无法正常工作时,可以自动切换为另一个可用的模型提供服务,从而提高模型服务的稳定性和可用性。 路由策略创建完成后,可以进行模型调测,并支持在创建Agent时使用或通过接口调用。 前提条件
为AppStage开发中心开发团队添加成员 在团队多人员协作开发过程中,不同角色成员执行各自权限和责任事项,因此需要在团队中添加协作开发的各角色成员(如项目经理、开发人员、测试人员等);当团队中成员发生岗位变动或人员流动时,也可进行相应修改或删除,实现统一有序的成员信息管理。 前提条件
起始节点 起始节点是工作流的入口,可以接受和存储初始化参数,当Agent调用工作流时,会提取起始节点入参,并初始化工作流实例,随后按照工作流定义的逻辑顺序执行各个节点。 请参考表1配置起始节点参数,配置完成后可以单击“设置参数”,对当前节点进行正确性测试。调测成功后,会将测试的输
LLM LLM(Large Language Model,大语言模型)即大模型,是工作流的基础节点之一,仅包含“chat”一个执行动作。 在工作流中添加LLM节点,可以使用大语言模型推理服务实现智能问答,在输入参数中引入前置节点的输出或自定义文本作为输入问题,大语言模型根据问题生成回答。
在AppStage开发中心创建开发团队并关联服务 在开发中心进行服务开发前,需要组织管理员创建一个团队,并将团队关联需要开发的服务。一个团队只能归属一个部门,关联一个或多个服务。 团队创建后,会有单独的团队空间为团队成员提供一个项目开发和共享的工作区域,用于协作、交流和共享资源。
AppStage运营中心应用场景 运营中心面向运营人员提供运营管理服务,提供应用数据接入、数据处理、指标开发、指标管理的应用数据运营分析底座,支撑各类数据指标及模板快速构建和生成,支撑应用用户运营和持续增长。 业务决策者(如领导、业务负责人等)可以基于全场景运营看板随时随地了解业务情况。
基于屏幕模板构建屏幕 通过选择运营中心公共模板新建屏幕,完成卡片交互功能的配置,还可二次定义相关属性配置。保存后通过预览可以看大屏上卡片间弹出、联动、卡片全屏、区域切换、下钻等交互效果。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。
创建模型微调任务 模型微调是指调整大型语言模型的参数以适应特定任务的过程,适用于需要个性化定制模型或者在特定任务上追求更高性能表现的场景。这是通过在与任务相关的微调数据集上训练模型来实现的,所需的微调量取决于任务的复杂性和数据集的大小。在深度学习中,微调用于改进预训练模型的性能。