检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
可选非流式、流式。二者区别如下: 非流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,大语言模型完整生成回答后一次性返回。 流式:调用大语言模型推理服务时,根据用户问题,获取大语言模型的回答,逐个字词的快速返回模式,不需等待大语言模型生成完成。 输出最大token数 表示模型输出的最大token数。
程,推理策略则用于指导推理机的搜索和推理方向。 大语言模型 大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练,以便它们能够识别语言中的模式和规律。大语言模型的应用范围非常广泛,包括自然语言处理、机器翻译、语音识别、智能问答等领域。 向量化模型
使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 前提条件 需要获取Agent的发布地址。 使用Agent Web UrI 直接打开Web链接访问应用。 如果创建Agent时,使用配置变量的方式实现了记忆能力,体验时输入变量值,作为Agent记忆信息存储,单击“保存”。
创建模型微调任务 模型微调是指调整大型语言模型的参数以适应特定任务的过程,适用于需要个性化定制模型或者在特定任务上追求更高性能表现的场景。这是通过在与任务相关的微调数据集上训练模型来实现的,所需的微调量取决于任务的复杂性和数据集的大小。在深度学习中,微调用于改进预训练模型的性能。
使用Gray SDK 本文介绍如何在NUWA框架下使用Gray SDK,Spring Cloud框架下暂时不支持使用Gray SDK。 使用Gray SDK时,需要先在AppStage运维中心SLB服务中配置好灰度规则,再启动Gray SDK,否则灰度规则不生效。 引入Gray SDK
使用前必读 欢迎使用应用平台(AppStage),AppStage是基于平台工程(Platform Engineering)理念打造的下一代应用全生命周期管理和AI原生应用生命周期管理平台,帮助客户快速高效地实现传统应用及AI原生应用全生命周期管理,为应用构建、运维和运营等生命周期管理活动提供自助式服务能力。
LLM(Large Language Model,大语言模型)即大模型,是工作流的基础节点之一,仅包含“chat”一个执行动作。 在工作流中添加LLM节点,可以使用大语言模型推理服务实现智能问答,在输入参数中引入前置节点的输出或自定义文本作为输入问题,大语言模型根据问题生成回答。 chat配置说明
Agent编排使用指引 操作指引 图1 AI原生应用引擎使用流程 表1 编排Agent的流程详解 序号 流程环节 说明 1 创建及发布Agent 一站式创建专属Agent,并将应用程序及相关组件进行发布,使其能够正常运行。当前支持创建LLM模式和工作流模式两种类型的Agent。
使用容器部署应用 本章节介绍如何使用容器部署应用。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 使用容器部署应用 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。
程,推理策略则用于指导推理机的搜索和推理方向。 大语言模型 大语言模型是一种能够理解和生成人类语言的人工智能模型。这些模型通常使用大量的数据进行训练,以便它们能够识别语言中的模式和规律。大语言模型的应用范围非常广泛,包括自然语言处理、机器翻译、语音识别、智能问答等领域。 向量化模型
为什么使用AppStage运营中心 运营中心在AppStage服务应用的全生命周期的背景下,以应用运营为主线,主要面向应用运营者提供应用运营的分析底座、领域或行业经验资产以及可视化看板等能力,帮助用户高效率、低门槛的展开应用运营,支撑业务的成功。 用户可以通过应用数据接入、数据模
在SLB中查看Lua配置 Lua是一种脚本语言,可以嵌入应用程序中,为应用程序提供灵活的扩展和定制功能,支持使用Lua脚本扩展Nginx的功能,Lua信息通过IaC配置,Lua定制的点在SLB管理台展示。 查看lua配置 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发
ID账号体系延伸到企业用户,提供统一华为云面向生态SaaS服务的组织、账号,面向生态伙伴推出SaaS服务账号集成规范。 这里主要介绍AppStage使用组织成员账号 OrgID服务的操作:在AppStage中管理部门、在AppStage中管理成员。 关于组织成员账号 OrgID服务更多信息,请参考组织成员账号
在SLB中查看Lua配置 Lua是一种脚本语言,可以嵌入应用程序中,为应用程序提供灵活的扩展和定制功能,支持使用Lua脚本扩展Nginx的功能,Lua信息通过IaC配置,Lua定制的点在SLB管理台展示。 查看lua配置 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发
AppStage开发中心使用流程 本章节介绍AppStage开发中心的使用流程。 前提条件 使用开发中心前需要完成使用前准备。 使用流程 参考图1和表1可帮助您快速上手开发中心的主流程和核心功能。 图1 开发中心使用流程 表1 使用流程详解 序号 流程环节 说明 1 添加开发中心用户
准备工作 开发技能要求 熟悉Java语言,能够编写Java语言代码。 掌握IaC开发技术,熟悉YAML语言。 了解Spring Cloud框架。 环境准备 已下载并安装Maven,根据以下步骤配置Maven。 在<localRepository>标签内添加自己的本地仓库位置路径,这个本地仓库位置是自己创建的。
Embeddings object ModelRouter.images Image object 接口调用 chat 调用大语言模型推理服务,根据用户问题,获取大语言模型的回答。 接口调用:ModelRouter.chat.completion.create 参数说明 表3 参数说明 参数名
使用工作流规划旅游行程 场景介绍 工作流体现的是一个具体的业务场景,通过一系列不同功能节点中的触发事件和执行动作编排而成,AI原生应用引擎通过将传统工具API和大模型编排在一起实现复杂的工作流。工作流可在用户创建Agent时调用,Agent使用过程中,当起始节点触发,后续动作即可自动执行,完成一系列复杂的任务。
运维中心使用流程 本章节介绍AppStage运维中心的使用流程。 前提条件 使用运维中心前需要完成使用前准备。 使用流程 参考图1可帮助您快速上手运维中心的主流程和核心功能。 图1 运维中心使用流程 表1 运维中心使用流程介绍 主流程 子任务 说明 操作指导 接入资源 - 将华为云已购买的资源接入至运维中心。