云服务器内容精选

  • AI原生应用引擎基本概念 使用之前,请先了解表1中相关概念,从而更好的使用AI原生应用引擎。 表1 基本概念说明 基本概念 说明 Agent Agent指具备自主智能的实体,具有一定的智能和自主性,可以自主地发现问题、设定目标、构思策略、执行任务等。 技能 技能是在自动化和人工智能领域的应用程序。能够自动地执行一些任务或提供一些服务,如客户服务、数据分析、信息传输、智能助手、自动回复等。 智能编排 智能编排是一种基于人工智能技术的自动化流程编排工具,通过分析业务流程,自动构建流程模型,并根据预设规则自动化执行流程,从而提高工作效率和准确性。 ClickHouse ClickHouse是一个开源的分布式列式数据库管理系统,主要用于在线分析处理(OLAP)场景。它具有高性能、高可靠性、高可扩展性等特点,可以处理海量数据,支持复杂的查询和数据分析操作。ClickHouse支持SQL语言,同时还提供了许多扩展功能,如数据压缩、数据分区、分布式查询等。它被广泛应用于互联网企业、金融、电商、游戏等领域。 节点数 节点数是指在一个特定的环境中,例如测试或生产环境,需要部署的节点数量。 镜像名称 用于标识环境配置的镜像。 镜像版本 用于区分一个镜像库中不同的镜像文件所使用的标签。 资源规格 指根据不同的环境类型和用途,对服务器的 CPU 、内存、数据盘等硬件资源进行合理分配和管理的过程。例如,开发环境的资源规格可能会比生产环境的小,而性能测试环境的资源规格可能会更大,以满足其对硬件资源的需求。 容器端口 容器端口是指在容器内部运行的应用程序所监听的网络端口。容器是一种虚拟化技术,它可以将应用程序及其依赖项打包在一起,形成一个独立运行的环境。在容器内部,应用程序需要监听一个或多个网络端口,以便与外部系统进行通信。 服务端口 服务端口是计算机网络中用于标识应用程序的端口号,它是一个16位的整数,范围从0到65535。在一个计算机上,可以同时运行多个应用程序,每个应用程序都需要一个唯一的端口号来标识自己。当一个应用程序需要接受网络请求时,它会监听自己的端口号,等待来自网络的连接请求。当连接请求到达时,应用程序会接受连接并开始处理请求。 推理单元 推理单元是指计算机系统中的一个模块,用于进行逻辑推理和推断。其主要功能是根据已知的事实和规则,推导出新的结论或答案。 推理单元常常被用于解决问题、推理、诊断、规划等任务。它可以帮助计算机系统自动推理出一些结论,从而实现智能化的决策和行为。推理单元通常包括知识表示、推理机和推理策略三个部分。知识表示用于将事实和规则以一定的形式表示出来,推理机则用于实现推理过程,推理策略则用于指导推理机的搜索和推理方向。 大语言模型 大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练,以便它们能够识别语言中的模式和规律。大语言模型的应用范围非常广泛,包括 自然语言处理 机器翻译 语音识别 、智能问答等领域。 向量化模型 向量化模型是将文本数据转换为数值向量的过程。常用于将文本转换为机器可以处理的形式,以便进行各种任务,如文本分类、情感分析、机器翻译等。 多模态模型 多模态模型是指能够处理多种类型数据(如文本、图像、音频等)的机器学习模型。这些模型可以将不同类型的数据进行融合和联合分析,从而实现更全面的理解和更准确的预测。多模态模型的应用非常广泛,例如在图像识别中,可以将图像和文本信息结合起来,提高图像识别的准确性;在自然语言处理中,可以将文本和语音信息结合起来,提高文本语义理解的准确性。 LoRA Low-Rank Adaptation,低秩适应,是一种将预训练模型权重冻结,并将可训练的秩分解矩阵注入Transformer架构每一层的技术,该技术可减少下游任务的可训练参数数量。 Loss曲线 Loss曲线是一个用于评估模型训练效果的工具,它展示了模型在训练过程中产生的损失(Loss)随时间的变化情况。通过观察Loss曲线,可以了解模型的收敛效果、参数的敏感性和有效性。 父主题: AI原生应用引擎简介
  • AI原生应用引擎优势 提供企业专属大模型开发的整套工具链,包括数据准备、模型选择/调优、知识工程等能力,广泛纳入业界优秀大模型,快速接入模型,提供行业模型评测能力,对多系列、多规格、多版本、多领域、多场景的大模型完成分级分权等精细化管理。 提供基于大模型快速构建AI原生应用的整套工具链,支持可视化画布流程编排,开箱即用的RAG/Prompt模板应用,应用部署及应用集成能力,帮助企业用好大模型。 构建企业应用与大模型之间的安全隔离带,保障AI原生应用安全可信。
  • 安装AI原生应用引擎SDK 执行如下命令,快速安装。 pip install huawei_wiseagent_dev_sdk_python-{version}-py3-none-any.whl 若已经安装过最新版本SDK,可以忽略此步骤。 将${version}替换成实际所使用的SDK版本。 如果采用本地依赖的方式引入SDK,即手动将本地下载的SDK包引入到工程,还需要添加间接依赖:httpx、pydantic、jinja2。
  • AI原生应用引擎应用场景 面向不同的企业需求,AI原生应用引擎提供不同的功能服务。 例如,智能对话、以文搜图、NL2SQL等通用应用场景,可在AI原生应用引擎体验各大模型推理云服务,并通过可视化画布流程编排进行业务集成。 细分领域如金融、电网场景,需要对推理结果进行定制调整,则可在AI原生应用引擎使用模型在线微调训练功能,快速生成行业场景定制模型服务,满足用户特定需求。 对话沟通 针对客户服务和销售团队,通过对话沟通,快速理解并响应客户的需求,以提供高效的解决方案或产品信息。这包括了使用CRM系统进行客户管理、利用即时通讯工具与客户进行互动、进行销售拓展,以及提供定制化的服务方案,旨在提高客户满意度和忠诚度。 内容创作 可应用于市场营销和品牌传播部门。根据目标受众的偏好和需求,创作吸引人的营销文案、视频剧本和故事内容,包括市场研究、内容策划、以及利用各种数字媒体平台发布和推广内容。帮助企业增强品牌影响力,提高用户参与度和品牌忠诚度。 分析控制 针对数据分析和业务智能部门,利用先进的数据分析工具和算法,从海量数据中提取有价值的信息,帮助企业做出基于数据的决策。包括客户行为分析、市场趋势预测、以及优化业务流程等。帮助企业提高运营效率,降低成本,同时为客户提供更加个性化的服务。 父主题: AI原生应用引擎简介
  • 大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction": "bbb", "input": "bbb", "output": "bbb"}] 父主题: AI原生应用引擎
  • 工作空间 在AI原生应用引擎工作台左侧导航栏选择“工作空间” ,进入工作空间页面,可获得系统中各资源数据概览及产品的相关快速指引。 工作空间页面分为数据统计、选择应用创建类型、操作指引三个区域,如图1所示,各区域的功能说明如表1所述。 图1 工作空间 表1 AI工作空间页面说明 序号 区域 说明 1 创建Agent快捷入口 在该区域单击“创建Agent”可快速进入一站式创建Agent页面,详细介绍请参见一站式创建Agent。 2 平台资产 在“平台资产”区域,可查看下述信息数据: Agent数据 模型数据 数据集数据 提示语数据 技能数据 知识库数据 3 我的空间 在“我的空间”区域,可查看下述信息数据: Agent:当前账号创建的、收藏的、订阅的Agent个数 模型:当前账号部署的、收藏的、接入的模型个数 数据集:当前账号创建的微调数据集个数、知识库数据集个数 提示语:当前账号创建的、收藏的提示语个数 技能:当前账号创建的、收藏的、订阅的技能个数 知识库:当前账号创建的知识库个数 4 操作指引 在“操作指引”区域,可概览各使用场景的流程指引: 零代码应用开发:详细流程说明请参见零代码应用开发。 全码化应用开发:详细流程说明请参见全码化应用开发。 模型调用与优化:详细流程说明请参见创建模型微调流水线、调测模型、创建及管理模型服务。 提示语优化工程:详细流程说明请参见创建提示语、优化提示语。 知识库构建:详细流程说明请参见创建及管理知识库。 5 为您推荐 为您推荐的热门Agent、热门模型。 单击“换一批”可查看更多推荐的热门Agent、热门模型。 6 我的任务 分别展示我创建的模型微调任务、数据标注任务状态统计,包括如下: 进行中、已完成、异常状态的模型微调任务数 进行中、已完成状态的标注数据数 父主题: AI原生应用引擎
  • AI原生应用引擎功能介绍 AI原生应用引擎的主要功能如表1所示。 表1 AI原生应用引擎功能介绍 主要功能 功能简介 Agent管理 提供自定义创建、开发、发布、取消发布AI应用,还可以对自己收藏的AI应用进行运行调试等。用户可以将自己在AI资产中心关注或后续计划使用的AI应用、技能(工具)进行收藏或取消收藏。 AI应用体验 将平台预置的应用和用户自己创建的应用进行API调测,帮助开发人员发现并解决应用接口上的问题和错误。 数据管理 平台纳管了用户自定义的和平台预置的数据集,用户使用这些数据集进行模型训练、知识库构建等,快速完成平台使用并验证模型训练效果。 模型管理 用户可以将平台预置模型通过创建模型微调流水线生成微调的模型,还可以创建模型服务及调测模型,检验模型的准确性、可靠性及反应效果。 提示语管理 用户可以将自己创建的、收藏的及平台预置的提示语模板进行优化和改进。 知识库管理 用户可以自定义创建并管理知识库,用于组织和管理大量的数据信息,且创建的知识库启用后可在创建及管理Agent时引用。 父主题: AI原生应用引擎简介
  • 修改成员账号密码(通过OrgID创建的成员账号) 适用于通过添加成员加入组织的成员账号修改密码。为保障账号安全,建议定期更新密码。 在AI原生应用引擎工作台,鼠标光标移至右上角登录的用户名,弹出“账号信息”页面。 在“账号信息”页面,单击“修改密码”。 为确认本人操作需进行身份验证,可选择手机短信验证码方式或邮件验证码方式。 如果该账号已同时绑定手机号码和邮箱,则可使用手机短信验证码方式或邮件验证码两种方式。 如果该账号仅绑定手机号码或邮箱其中一个,则相应的只需使用手机验证码方式或邮政验证码一种方式。 手机短信验证码验证方式的操作如下: 单击“获取验证码”。 输入手机上收到的短信验证码,单击“确定”。 邮件验证码验证方式的操作如下: 单击“选择其他验证方式”。 勾选使用邮箱的方式,单击“下一步”。 单击“获取验证码”。 输入邮箱收到的邮件验证码,单击“确定”。 在“重置帐号密码”页面,输入旧密码、新密码及再次输入新密码,单击“确定”。 密码需满足以下要求: 至少8个字符。 至少包含字母和数字,不能包含空格。 密码强度:勿使用其他账号的密码。 如果忘记旧密码,可通过如下操作找回密码: 单击“忘记旧密码”。 在“找回密码”页面,输入华为账号(注册账号的手机号或邮件地址)。 输入图形验证码,单击“下一步”。 单击“获取验证码”,输入相应的邮件验证码或手机验证码,再单击“下一步”。 设置新密码并确认新密码,单击“确定”。 密码需满足以下要求: 至少8个字符。 至少包含字母和数字,不能包含空格。 密码强度:勿使用其他账号的密码。 如果您有其他设备使用此账号,设置新密码后需重新登录,以确保正常使用华为服务。
  • 修改个人华为账号的密码 适用于修改个人华为账号(包括购买AppStage的租户开通者的个人华为账号、通过邀请成员加入组织的个人华为账号)的密码。为保障账号安全,建议定期更新密码。 鼠标光标移至右上角登录的用户名,弹出“账号信息”页面。 在“账号信息”页面,单击“修改密码”,进入华为账号的“帐号与安全”页面。 在“安全中心”区域单击“重置帐号密码”右侧“重置”。 在“重置帐号密码”页面,输入旧密码、新密码及再次输入新密码,单击“确定”。 密码需满足以下要求: 至少8个字符。 至少包含字母和数字,不能包含空格。 密码强度:勿使用其他账号的密码。 如果忘记旧密码,可通过如下操作找回密码: 单击“忘记旧密码”。 在“找回密码”页面,输入华为账号(注册账号的手机号或邮件地址)。 输入图形验证码,单击“下一步”。 单击“获取验证码”,输入相应的邮件验证码或手机验证码,再单击“下一步”。 设置新密码并确认新密码,单击“确定”。 密码需满足以下要求: 至少8个字符。 至少包含字母和数字,不能包含空格。 密码强度:勿使用其他账号的密码。 如果您有其他设备使用此账号,设置新密码后需重新登录,以确保正常使用华为服务。
  • 使用流程 通过图1您可以了解如何在AI原生应用引擎创建数据集、创建微调任务、部署推理模型以及在线测试模型效果。 图1 模型微调流程 创建微调数据集 数据集是模型微调的基础,首先需要创建用于模型训练的数据集。 创建模型微调流水线 通过模型微调任务进行模型训练,微调任务结束后,将生成改进后的新模型。 部署模型 模型部署是通过为基座模型(即原模型)和微调后的新模型创建用于预测的模型服务的过程实现。 测试模型调优效果 在线测试微调后的模型(输入问题发起请求获取数据分析结果),可检验模型的准确性、可靠性及反应效果。 清除相应资源 对不再需要使用的微调任务和模型服务,清除相应资源,避免不必要的扣费。