检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据集是模型微调的基础,
权重衰减因子 对模型参数进行正则化的一种因子,可以缓解模型过拟合现象。 warmup_ratio 学习率热启动比例 学习率热启动参数,一开始以较小的学习率去更新参数,然后再使用预设学习率,有效避免模型震荡。 表3 LoRA参数配置说明 参数英文名 参数中文名 参数说明 lora_rank
竞争力底座。 开发应用主要使用AppStage的开发中心,其深度集成CodeArts的功能,购买AppStage后需开通CodeArts后才能使用开发中心,请在AppStage购买页面根据页面提示,前往开通CodeArts地址进行开通。 解决方案 一站式使用应用平台流程如图1所示。
使用前必读 欢迎使用应用平台(AppStage),华为云AppStage是基于平台工程(Platform Engineering)理念打造的下一代应用全生命周期管理和AI原生应用生命周期管理平台,帮助客户快速高效地实现传统应用及AI原生应用全生命周期管理,为应用构建、运维和运营等生命周期管理活动提供自助式服务能力。
在Agent的对话输入框输入问题,按Enter键或单击使用Agent。 如果创建Agent时,使用配置变量的方式实现了记忆能力,在使用Agent时,会自动识别对话与变量匹配的内容,自动更新变量取值,单击页面右上角的“变量”,可以查看变量使用效果。 如果创建Agent时,开启了“片段记忆”,在使用Agent时,会自动
可选非流式、流式。二者区别如下: 非流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,大语言模型完整生成回答后一次性返回。 流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,逐个字词的快速返回模式,不需等待大语言模型生成完成。 输出最大token数 表示模型输出的最大token数。
准备工作 开发技能要求 熟悉Java语言,能够编写Java语言代码。 掌握IaC开发技术,熟悉YAML语言。 了解Spring Cloud框架。 环境准备 已下载并安装Maven,根据以下步骤配置Maven。 在<localRepository>标签内添加自己的本地仓库位置路径,这个本地仓库位置是自己创建的。
使用Gray SDK 本文介绍如何在NUWA框架下使用Gray SDK,Spring Cloud框架下暂时不支持使用Gray SDK。 使用Gray SDK时,需要先在AppStage运维中心SLB服务中配置好灰度规则,再启动Gray SDK,否则灰度规则不生效。 引入Gray SDK
Agent体验是指以对话的形式,对创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 3 使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 父主题: 管理Agent
程,推理策略则用于指导推理机的搜索和推理方向。 大语言模型 大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练,以便它们能够识别语言中的模式和规律。大语言模型的应用范围非常广泛,包括自然语言处理、机器翻译、语音识别、智能问答等领域。 向量化模型
AppStage开发中心使用前准备 使用开发中心前,需要先准备如表1所示内容。 表1 准备事项 准备事项 说明 购买AppStage开发中心 首次使用需要先购买开发中心专业版,具体操作请参见购买AppStage。 关联组织 首次购买AppStage后,其账号需创建并关联使用AppStage
使用及管理预置模板 公共屏幕模板是为用户提供具有业务属性的模板,方便用户基于这些模板快速创建屏幕。 公共屏幕模板包含我的模板和预置模板。预置模板为系统预置的屏幕模板,所有用户均可以使用。预置模板支持复制、预览及查看详情。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。
AppStage开发中心使用流程 本章节介绍AppStage开发中心的使用流程。 前提条件 使用开发中心前需要完成使用前准备。 使用流程 参考图1和表1可帮助您快速上手开发中心的主流程和核心功能。 图1 开发中心使用流程 表1 使用流程详解 序号 流程环节 说明 1 添加开发中心用户
AI原生应用引擎使用流程 AI原生应用引擎是企业专属的一站式大模型开发及应用构建平台,其核心是将自创建或平台预置的模型服务、工具、工作流及知识库等编排成具有一定智能性和自主性的Agent。本章节梳理了AI原生应用引擎使用流程,可帮助您快速了解AI原生应用引擎的核心功能。 图1 AI原生应用引擎使用流程
AppStage运营中心使用流程 按照不同的使用场景,运营中心使用流程如图1所示。 图1 使用流程 使用场景一:数据工程师/分析师支撑或配合业务提出的数据相关需求,完成一些相对复杂的数据接入、数据建模以及数据指标开发的工作。 接入运营数据:运营中心提供通用数据接入能力,通过与数据
使用主机管理服务管理主机 将华为云堡垒机CBH纳管至运维中心VMS 为服务规划业务账号 将华为云Linux主机纳管至运维中心VMS 将华为云Windows主机纳管至运维中心VMS 管理已纳管的主机 使用OS发现功能手动创建并绑定账号 刷新OS补丁主机达标状态 重置主机密码将密码纳管至运维中心VMS
工单管理使用场景 AppStage运维中心提供工单管理功能,用于记录、跟踪、处理工作的完成情况,推动工作在团队内的流转与分配,推动业务顺利运行。当前支持变更单与事件单的管理。 变更单 变更单用于无人值守的高度自动化的变更方式。研发在提变更电子流时,指定所使用的代码包,并选定变更任
ID账号体系延伸到企业用户,提供统一华为云面向生态SaaS服务的组织、账号,面向生态伙伴推出SaaS服务账号集成规范。 这里主要介绍AppStage使用组织成员账号 OrgID服务的操作:在AppStage中管理部门、在AppStage中管理成员。 关于组织成员账号 OrgID服务更多信息,请参考组织成员账号
为什么使用AppStage运营中心 运营面临的问题 海量数据计算难,自建数据运营平台成本高。 业务人员和数据工程师角色分离,配合效率低、闭环链路长。 缺乏体系化运营支撑:指标监控不及时、产品体验无法衡量等。 如何解决运营问题 运营中心面向运营人员提供运营管理服务,提供应用数据接入
了解用户使用应用的情况。 该模板使用指南请参见“应用事件分析”。 应用销售分析 统计周期内,通过分析下单次数、下单用户数、支付完成次数、付费用户数等,了解用户使用应用的付费情况。 该模板使用指南请参见“应用销售分析”。 工业 企业信息分析 统计周期内,通过分析产业集群分布、企业