AI原生应用引擎-华为云

应用平台 APPSTAGE-快速开始:安装AI原生应用引擎SDK

安装AI原生应用引擎SDK 执行如下命令，快速安装。 pip install huawei_wiseagent_dev_sdk_python-{version}-py3-none-any.whl 若已经安装过最新版本SDK，可以忽略此步骤。将${version}替换成实际所使用的SDK版本。如果采用本地依赖的方式引入SDK，即手动将本地下载的SDK包引入到工程，还需要添加间接依赖：httpx、pydantic、jinja2。

应用平台 APPSTAGE AI原生应用引擎

应用平台 APPSTAGE-AI原生应用引擎功能介绍

AI原生应用引擎功能介绍 AI原生应用引擎的主要功能如表1所示。表1 AI原生应用引擎功能介绍主要功能功能简介 Agent管理提供自定义创建、开发、发布、取消发布AI应用，还可以对自己收藏的AI应用进行运行调试等。用户可以将自己在AI资产中心关注或后续计划使用的AI应用、技能（工具）进行收藏或取消收藏。 AI应用体验将平台预置的应用和用户自己创建的应用进行API调测，帮助开发人员发现并解决应用接口上的问题和错误。数据管理平台纳管了用户自定义的和平台预置的数据集，用户使用这些数据集进行模型训练、知识库构建等，快速完成平台使用并验证模型训练效果。模型管理用户可以将平台预置模型通过创建模型微调流水线生成微调的模型，还可以创建模型服务及调测模型，检验模型的准确性、可靠性及反应效果。提示语管理用户可以将自己创建的、收藏的及平台预置的提示语模板进行优化和改进。知识库管理用户可以自定义创建并管理知识库，用于组织和管理大量的数据信息，且创建的知识库启用后可在创建及管理Agent时引用。父主题： AI原生应用引擎简介

应用平台 APPSTAGE AI原生应用引擎简介

应用平台 APPSTAGE-大模型微调需要的数据有要求吗？

大模型微调需要的数据有要求吗？ AI原生应用引擎用于大模型微调的数据集任务领域为“ 自然语言处理 ”、数据集格式为“对话文本”。文件内容要求为标准json数组，例如： [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction": "bbb", "input": "bbb", "output": "bbb"}] 父主题： AI原生应用引擎

应用平台 APPSTAGE AI原生应用引擎

应用平台 APPSTAGE-工作空间

工作空间在AI原生应用引擎工作台左侧导航栏选择“工作空间” ，进入工作空间页面，可获得系统中各资源数据概览及产品的相关快速指引。工作空间页面分为数据统计、选择应用创建类型、操作指引三个区域，如图1所示，各区域的功能说明如表1所述。图1 工作空间表1 AI工作空间页面说明序号区域说明 1 创建Agent快捷入口在该区域单击“创建Agent”可快速进入一站式创建Agent页面，详细介绍请参见一站式创建Agent。 2 平台资产在“平台资产”区域，可查看下述信息数据： Agent数据模型数据数据集数据提示语数据技能数据知识库数据 3 我的空间在“我的空间”区域，可查看下述信息数据： Agent：当前账号创建的、收藏的、订阅的Agent个数模型：当前账号部署的、收藏的、接入的模型个数数据集：当前账号创建的微调数据集个数、知识库数据集个数提示语：当前账号创建的、收藏的提示语个数技能：当前账号创建的、收藏的、订阅的技能个数知识库：当前账号创建的知识库个数 4 操作指引在“操作指引”区域，可概览各使用场景的流程指引：零代码应用开发：详细流程说明请参见零代码应用开发。全码化应用开发：详细流程说明请参见全码化应用开发。模型调用与优化：详细流程说明请参见创建模型微调流水线、调测模型、创建及管理模型服务。提示语优化工程：详细流程说明请参见创建提示语、优化提示语。知识库构建：详细流程说明请参见创建及管理知识库。 5 为您推荐为您推荐的热门Agent、热门模型。单击“换一批”可查看更多推荐的热门Agent、热门模型。 6 我的任务分别展示我创建的模型微调任务、数据标注任务状态统计，包括如下：进行中、已完成、异常状态的模型微调任务数进行中、已完成状态的标注数据数父主题： AI原生应用引擎

应用平台 APPSTAGE AI原生应用引擎

应用平台 APPSTAGE-AI原生应用引擎功能介绍

AI原生应用引擎功能介绍 AI原生应用引擎的主要功能如表1所示。表1 AI原生应用引擎功能介绍主要功能功能简介 Agent管理提供自定义创建、开发、发布、取消发布AI应用，还可以对自己收藏的AI应用进行运行调试等。用户可以将自己在AI资产中心关注或后续计划使用的AI应用、技能（工具）进行收藏或取消收藏。 AI应用体验将平台预置的应用和用户自己创建的应用进行API调测，帮助开发人员发现并解决应用接口上的问题和错误。数据管理平台纳管了用户自定义的和平台预置的数据集，用户使用这些数据集进行模型训练、知识库构建等，快速完成平台使用并验证模型训练效果。模型管理用户可以将平台预置模型通过创建模型微调流水线生成微调的模型，还可以创建模型服务及调测模型，检验模型的准确性、可靠性及反应效果。提示语管理用户可以将自己创建的、收藏的及平台预置的提示语模板进行优化和改进。知识库管理用户可以自定义创建并管理知识库，用于组织和管理大量的数据信息，且创建的知识库启用后可在创建及管理Agent时引用。父主题： AI原生应用引擎简介

应用平台 APPSTAGE AI原生应用引擎简介

应用平台 APPSTAGE-AI原生应用引擎基本概念

AI原生应用引擎基本概念使用之前，请先了解表1中相关概念，从而更好的使用AI原生应用引擎。表1 基本概念说明基本概念说明 Agent Agent指具备自主智能的实体，具有一定的智能和自主性，可以自主地发现问题、设定目标、构思策略、执行任务等。技能技能是在自动化和人工智能领域的应用程序。能够自动地执行一些任务或提供一些服务，如客户服务、数据分析、信息传输、智能助手、自动回复等。智能编排智能编排是一种基于人工智能技术的自动化流程编排工具，通过分析业务流程，自动构建流程模型，并根据预设规则自动化执行流程，从而提高工作效率和准确性。 ClickHouse ClickHouse是一个开源的分布式列式数据库管理系统，主要用于在线分析处理（OLAP）场景。它具有高性能、高可靠性、高可扩展性等特点，可以处理海量数据，支持复杂的查询和数据分析操作。ClickHouse支持SQL语言，同时还提供了许多扩展功能，如数据压缩、数据分区、分布式查询等。它被广泛应用于互联网企业、金融、电商、游戏等领域。节点数节点数是指在一个特定的环境中，例如测试或生产环境，需要部署的节点数量。镜像名称用于标识环境配置的镜像。镜像版本用于区分一个镜像库中不同的镜像文件所使用的标签。资源规格指根据不同的环境类型和用途，对服务器的 CPU 、内存、数据盘等硬件资源进行合理分配和管理的过程。例如，开发环境的资源规格可能会比生产环境的小，而性能测试环境的资源规格可能会更大，以满足其对硬件资源的需求。容器端口容器端口是指在容器内部运行的应用程序所监听的网络端口。容器是一种虚拟化技术，它可以将应用程序及其依赖项打包在一起，形成一个独立运行的环境。在容器内部，应用程序需要监听一个或多个网络端口，以便与外部系统进行通信。服务端口服务端口是计算机网络中用于标识应用程序的端口号，它是一个16位的整数，范围从0到65535。在一个计算机上，可以同时运行多个应用程序，每个应用程序都需要一个唯一的端口号来标识自己。当一个应用程序需要接受网络请求时，它会监听自己的端口号，等待来自网络的连接请求。当连接请求到达时，应用程序会接受连接并开始处理请求。推理单元推理单元是指计算机系统中的一个模块，用于进行逻辑推理和推断。其主要功能是根据已知的事实和规则，推导出新的结论或答案。推理单元常常被用于解决问题、推理、诊断、规划等任务。它可以帮助计算机系统自动推理出一些结论，从而实现智能化的决策和行为。推理单元通常包括知识表示、推理机和推理策略三个部分。知识表示用于将事实和规则以一定的形式表示出来，推理机则用于实现推理过程，推理策略则用于指导推理机的搜索和推理方向。大语言模型大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练，以便它们能够识别语言中的模式和规律。大语言模型的应用范围非常广泛，包括自然语言处理、机器翻译、语音识别、智能问答等领域。向量化模型向量化模型是将文本数据转换为数值向量的过程。常用于将文本转换为机器可以处理的形式，以便进行各种任务，如文本分类、情感分析、机器翻译等。多模态模型多模态模型是指能够处理多种类型数据（如文本、图像、音频等）的机器学习模型。这些模型可以将不同类型的数据进行融合和联合分析，从而实现更全面的理解和更准确的预测。多模态模型的应用非常广泛，例如在图像识别中，可以将图像和文本信息结合起来，提高图像识别的准确性；在自然语言处理中，可以将文本和语音信息结合起来，提高文本语义理解的准确性。 LoRA Low-Rank Adaptation，低秩适应，是一种将预训练模型权重冻结，并将可训练的秩分解矩阵注入Transformer架构每一层的技术，该技术可减少下游任务的可训练参数数量。 Loss曲线 Loss曲线是一个用于评估模型训练效果的工具，它展示了模型在训练过程中产生的损失（Loss）随时间的变化情况。通过观察Loss曲线，可以了解模型的收敛效果、参数的敏感性和有效性。父主题： AI原生应用引擎简介

应用平台 APPSTAGE AI原生应用引擎简介

应用平台 APPSTAGE-管理账号信息:修改成员账号密码（通过OrgID创建的成员账号）

修改成员账号密码（通过OrgID创建的成员账号）适用于通过添加成员加入组织的成员账号修改密码。为保障账号安全，建议定期更新密码。在AI原生应用引擎工作台，鼠标光标移至右上角登录的用户名，弹出“账号信息”页面。在“账号信息”页面，单击“修改密码”。为确认本人操作需进行身份验证，可选择手机短信验证码方式或邮件验证码方式。如果该账号已同时绑定手机号码和邮箱，则可使用手机短信验证码方式或邮件验证码两种方式。如果该账号仅绑定手机号码或邮箱其中一个，则相应的只需使用手机验证码方式或邮政验证码一种方式。手机短信验证码验证方式的操作如下：单击“获取验证码”。输入手机上收到的短信验证码，单击“确定”。邮件验证码验证方式的操作如下：单击“选择其他验证方式”。勾选使用邮箱的方式，单击“下一步”。单击“获取验证码”。输入邮箱收到的邮件验证码，单击“确定”。在“重置帐号密码”页面，输入旧密码、新密码及再次输入新密码，单击“确定”。密码需满足以下要求：至少8个字符。至少包含字母和数字，不能包含空格。密码强度：勿使用其他账号的密码。如果忘记旧密码，可通过如下操作找回密码：单击“忘记旧密码”。在“找回密码”页面，输入华为账号（注册账号的手机号或邮件地址）。输入图形验证码，单击“下一步”。单击“获取验证码”，输入相应的邮件验证码或手机验证码，再单击“下一步”。设置新密码并确认新密码，单击“确定”。密码需满足以下要求：至少8个字符。至少包含字母和数字，不能包含空格。密码强度：勿使用其他账号的密码。如果您有其他设备使用此账号，设置新密码后需重新登录，以确保正常使用华为服务。

应用平台 APPSTAGE AI原生应用引擎

应用平台 APPSTAGE-管理账号信息:修改个人华为账号的密码

修改个人华为账号的密码适用于修改个人华为账号（包括购买AppStage的租户开通者的个人华为账号、通过邀请成员加入组织的个人华为账号）的密码。为保障账号安全，建议定期更新密码。鼠标光标移至右上角登录的用户名，弹出“账号信息”页面。在“账号信息”页面，单击“修改密码”，进入华为账号的“帐号与安全”页面。在“安全中心”区域单击“重置帐号密码”右侧“重置”。在“重置帐号密码”页面，输入旧密码、新密码及再次输入新密码，单击“确定”。密码需满足以下要求：至少8个字符。至少包含字母和数字，不能包含空格。密码强度：勿使用其他账号的密码。如果忘记旧密码，可通过如下操作找回密码：单击“忘记旧密码”。在“找回密码”页面，输入华为账号（注册账号的手机号或邮件地址）。输入图形验证码，单击“下一步”。单击“获取验证码”，输入相应的邮件验证码或手机验证码，再单击“下一步”。设置新密码并确认新密码，单击“确定”。密码需满足以下要求：至少8个字符。至少包含字母和数字，不能包含空格。密码强度：勿使用其他账号的密码。如果您有其他设备使用此账号，设置新密码后需重新登录，以确保正常使用华为服务。

应用平台 APPSTAGE AI原生应用引擎

应用平台 APPSTAGE-为什么使用AI原生应用引擎:AI原生应用引擎优势

AI原生应用引擎优势提供企业专属大模型开发的整套工具链，包括数据准备、模型选择/调优、知识工程等能力，广泛纳入业界优秀大模型，快速接入模型，提供行业模型评测能力，对多系列、多规格、多版本、多领域、多场景的大模型完成分级分权等精细化管理。提供基于大模型快速构建AI原生应用的整套工具链，支持可视化画布流程编排，开箱即用的RAG/Prompt模版应用，应用部署及应用集成能力，帮助企业用好大模型。构建企业应用与大模型之间的安全隔离带，保障AI原生应用安全可信。

应用平台 APPSTAGE AI原生应用引擎简介

应用平台 APPSTAGE-入门指引:使用流程

使用流程通过图1您可以了解如何在AI原生应用引擎创建数据集、创建微调任务、部署推理模型以及在线测试模型效果。图1 模型微调流程创建微调数据集数据集是模型微调的基础，首先需要创建用于模型训练的数据集。创建模型微调流水线通过模型微调任务进行模型训练，微调任务结束后，将生成改进后的新模型。部署模型模型部署是通过为基座模型（即原模型）和微调后的新模型创建用于预测的模型服务的过程实现。测试模型调优效果在线测试微调后的模型（输入问题发起请求获取数据分析结果），可检验模型的准确性、可靠性及反应效果。清除相应资源对不再需要使用的微调任务和模型服务，清除相应资源，避免不必要的扣费。

应用平台 APPSTAGE 使用AI原生应用引擎完成大模型调优并测试效果

云服务器内容精选

AI原生应用引擎

7*24

备案

专业服务

退订

建议反馈

售前咨询热线