检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用容器部署应用 本章节介绍如何使用容器部署应用。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 使用容器部署应用 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。
AI原生应用引擎训练好后的模型如何获取? 使用模型微调训练好模型后的新模型只能通过模型部署(创建模型服务)上线,无法下载至本地使用。 父主题: AI原生应用引擎
如何自动获取验签? 检查对应的服务环境,是否已部署了对应的镜像包。 Docker镜像包的完整坐标(图中packagePath),需包含SWR地址,也即swr.cn-north-4.myhuaweicloud.com。不完整的Docker镜像包坐标无法获取相关Sha256验签信息。
若已经安装过最新版本SDK,可以忽略此步骤。 执行如下命令,快速安装。 将${version}替换成实际所使用的SDK版本。 如果采用本地依赖的方式引入SDK,即手动将本地下载的SDK包引入到工程,还需要添加间接依赖:httpx、pydantic、jinja2。 pip install
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
如何查询隔离域关联的子网信息? 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 弹性网络服务(ENS)”。 选择左侧导航栏的“隔离域”。 如果知道子网名称或者网段,可以单击“按网络资源搜索”,输入条件搜索,找到隔离域;如果不知道子网,可以参考6,逐个展开隔离域查看对应的子网。
如何保证Agent每次问答都调用知识库? 创建Agent时,支持配置支持库调用方式,当调用方式选择为“自动调用”时每次问答都会调用知识库,选择“按需调用”时由大模型决定是否调用知识库,如图1所示。具体介绍请参见创建并发布Agent。 图1 调用方式 父主题: AI原生应用引擎
Model,大语言模型)即大模型,是工作流的基础节点之一,仅包含“chat”一个执行动作。 在工作流中添加LLM节点,可以使用大语言模型推理服务实现智能问答,在输入参数中引入前置节点的输出或自定义文本作为输入问题,大语言模型根据问题生成回答。 chat配置说明 输入 用户配置运行动作执行动作,相关参数说明如表1所示。
如何获取Agent发布时要所需的API Key? 填写AI原生应用引擎平台的API Key,生成方式请参见新增平台API Key。 父主题: AI原生应用引擎
创建Agent(工作流模式)时,所选工作流的起始节点必须引入用户对话输入,包含默认的WISEAGENT_USER_INPUT参数,如图1所示,表示在Agent调用工作流时,以用户在问答对话中输入的内容作为工作流的请求参数。不满足要求的工作流无法选用。 图1 引入用户对话输入 父主题: AI原生应用引擎
Agent编排使用指引 操作指引 图1 AI原生应用引擎使用流程 表1 编排Agent的流程详解 序号 流程环节 说明 1 创建及发布Agent 一站式创建专属Agent,并将应用程序及相关组件进行发布,使其能够正常运行。当前支持创建LLM模式和工作流模式两种类型的Agent。
工作流中工具节点的实例如何配置? 工具节点实例需要填写工具创建时所配置的鉴权信息。 三方厂商的工具API,请到工具对应官网获取鉴权信息。 自创建工具请填写工具创建时所配置的鉴权信息。 如果调用其他租户或资源相互隔离的部门所上架的工具,请在AI原生应用引擎中,选择左侧导航栏的“资产
为什么使用运维中心 运维面临的问题 应用的快速迭代与现网业务稳定性之间存在冲突,应用发布周期短,版本可能未经过充分的现网验证。 运维平台基于开源软件或者各类分散工具构建,各工具能力参差不齐,缺乏统一的数据接入、监控、诊断、数据治理体系。 系统可用性依赖全栈可观测,运维人员需要被动
如何调整纳管集群的资源占用量? 集群纳管成功后会在集群中新增一个ers-manager命名空间,并拉起一个名称为ers-cluster-agent-XXX的pod,用来定期向ERS上报数据。 配置容器日志接入时会拉起两个pod,其中一个名称为logservice-filebeat
如何往容器中拷贝文件或拷出文件? 前提条件 要求NUWA镜像的版本为3.0.4.101或以上。 准备一台VM机器。 从VM拷贝文件到容器 scp username@server-ip:/path/filename /path // 从VM下载文件 将容器中的文件拷贝到VM 将容器中的文件拷贝到VM
如何从ENS找到服务容器绑定的安全组? 前提条件 已通过部署服务创建容器。 已完成隔离域规划。 操作步骤 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 弹性网络服务(ENS)”。 选择左侧导航栏的“隔离域”,默认显示“隔离域配置”页签。 单击“隔离域规划”,切换至“隔离域规划”页签。
运维中心功能介绍 弹性网络服务 弹性网络服务(ENS)通过引入“隔离域”这一网络资源概念,将业务使用的底层网络资源进行封装,为具有相同安全保护需求并相互信任的服务提供访问策略的安全分组。当服务器加入到隔离域后,即受到这些访问规则的保护。访问规则继承自选定的安全区域(安全域),并根据租户声明的服务依赖关系自动生成。
运维中心使用流程 本章节介绍AppStage运维中心的使用流程。 前提条件 使用运维中心前需要完成使用前准备。 使用流程 参考图1可帮助您快速上手运维中心的主流程和核心功能。 图1 运维中心使用流程 表1 运维中心使用流程介绍 主流程 子任务 说明 操作指导 接入资源 - 将华为云已购买的资源接入至运维中心。
使用JOB创建作业任务 创建业务工具并执行脚本 创建定时作业执行脚本 创建定时日志清理作业 创建自动分发文件作业 查看已创建作业清单 导出作业输出或作业日志 父主题: 监控资源和应用
使用工作流规划旅游行程 场景介绍 工作流体现的是一个具体的业务场景,通过一系列不同功能节点中的触发事件和执行动作编排而成,AI原生应用引擎通过将传统工具API和大模型编排在一起实现复杂的工作流。工作流可在用户创建Agent时调用,Agent使用过程中,当起始节点触发,后续动作即可自动执行,完成一系列复杂的任务。