检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
生成模型服务 将已有模型部署为模型服务 接入模型服务 创建路由策略用于提供模型服务 父主题： 管理模型
使用在线构建方式新建卡片 支持无模板在线构建图表卡片和表单卡片。 前提条件 需要具备AppStage指标开发者或运营管理员权限，权限申请的操作请参见权限管理。 使用在线构建方式新建图表卡片 登录AppStage业务控制台。 在快捷入口选择“运营中心”，进入运营中心。 在左侧导航栏选择“看板管理
工作流中知识库节点、LLM节点都需要配置实例，实例的API Key填什么? 鉴权信息，填写AI原生应用引擎平台的API Key，生成方式请参见新增平台API Key。 父主题： AI原生应用引擎
应用指标摸板库生成指标运行失败 问题描述 应用指标摸板库生成指标时，提示运行失败。 处理方法 检查选择的数据源和应用的模型是否匹配。模型对选择的数据是有要求的，数据源和模型之间不匹配，将导致指标运行失败。 父主题： 运营中心
非流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，大语言模型完整生成回答后一次性返回。 流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，逐个字词的快速返回模式，不需等待大语言模型生成完成。 输出最大token数 简称max_tokens，表示模型输出的最大长度。
手，智能分析，智能文档，生活助手等提示语类型，每个提示语类型下面都有对应类型相关提示语，如指标计算方法，问答场景选择，总结大纲，买家评价生成器等提示语。 父主题： AI原生应用引擎
本文介绍如何将微调后的模型或部分平台资产中心的模型部署为模型服务。 前提条件 已购买推理单元资源，具体购买方法请参见购买AI原生应用引擎包年包月资源。 由于在线运行需消耗资源，请确保账户有可用资源，且用户费用状态正常。 需要具备AI原生应用引擎管理员或开发者权限，权限申请操作请参见AppStage组织成员申请权限。
创建完成后，会根据所选实例及指标生成对应的模板数据，显示在模板列表中。同时采集的指标数据会保存在自动生成的Kafka Topic中。 如果生成的模板数量与勾选的指标数量不一致，请确认所选指标是否已购买对应云服务实例并完成相应配置，具体请参见对应的云服务。 一键生成指标。 单击“一键生成”，如图2所示。
非流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，大语言模型完整生成回答后一次性返回。 流式：调用大语言模型推理服务时，根据用户问题，获取大语言模型的回答，逐个字词的快速返回模式，不需等待大语言模型生成完成。 输出最大token数 表示模型输出的最大长度。 温度 较高的数值
个微服务之间通信时，可以使用该认证凭据，进行STS认证。 为了让微服务可以安全地获取到STS认证凭据，STS给每个接入的微服务颁发了一张身份证书，该证书中包含了微服务的名称等信息。该证书在微服务部署时，安装到微服务所在的虚拟机或容器里。微服务使用该证书，就可以到STS-Server上获取认证凭据。
如何获取Agent发布时要所需的API Key？ 填写AI原生应用引擎平台的API Key，生成方式请参见新增平台API Key。 父主题： AI原生应用引擎
个微服务之间通信时，可以使用该认证凭据，进行STS认证。 为了让微服务可以安全地获取到STS认证凭据，STS给每个接入的微服务颁发了一张身份证书，该证书中包含了微服务的名称等信息。该证书在微服务部署时，安装到微服务所在的虚拟机或容器里。微服务使用该证书，就可以到STS-Server上获取认证凭据。
运维中心访问凭据管理服务（ACMS）提供的REST API进行的封装，以简化用户的开发工作。 STS SDK封装了业务微服务读取ACMS身份证书、到ACMS-Server上获取密钥、认证凭据、解密敏感数据、微服务间通信认证加密等功能，用户直接调用STS SDK提供的接口函数即可实现使用ACMS业务能力的目的。
据运营分析底座，支撑各类数据指标及模板快速构建和生成，支撑应用用户运营和持续增长。 业务决策者（如领导、业务负责人等）可以基于全场景运营看板随时随地了解业务情况。 业务分析者/执行者（如产品经理、运营人员等）可以根据业务诉求快速生成、查看各类数据报表。 数据工程师/分析师支撑或配
txt”的文档，文档内容为： “什么是量子计算？它是一种利用量子力学原理进行信息处理的计算方式。==== 什么是RAG？它是一种通过整合检索系统和生成模型的优势，来提升模型生成文本的质量和上下文相关性。====” 操作流程 步骤一：创建数据集。 步骤二：查询知识数据集创建结果。 步骤三：查询数据集版本和索引信息。
自定义看板配置流程介绍 运营看板使用流程如图1所示，包括“新建我的卡片”和“新建我的屏幕”。 图1 使用流程 新建我的卡片 通过在线构建、使用公共卡片模板及离线构建的方式构建自定义卡片。 （可选）新建并发布屏幕模板 通过关联布局和卡片、设置卡片消息联动、配置样例页面来创建屏幕模板。
表5 AI原生应用引擎SDK功能矩阵 接口类型 接口名 函数名 Python 大模型相关接口 文本生成 ModelRouter.chat.completion.create √ 向量生成 ModelRouter.embeddings.create √ 文生图 ModelRouter
运营中的重要数据，支撑下一步运营动作，提升产品运营效率。 功能介绍 提供丰富的卡片类型，供看板选用。卡片构建方式包括：使用在线构建方式构建图表卡片、使用在线构建方式构建表单卡片、使用模板构建方式新建卡片、使用离线构建方式新建卡片。 在看板编辑页面，通过拖拉拽的方式，以图表的形式进行呈现，直观展现产品运营看板数据。
M3-6B大模型服务API在线调用、大模型微调服务API在线调用-SFT局部调优，按需计费模式能大幅降低客户的业务成本。 适用计费项 AI原生应用引擎的以下计费项支持按需计费。 表1 适用计费项 计费项 说明 ChatGLM3-6B大模型服务API在线调用 根据实际输入和输出tokens总量计费，平台提供算力支持。
功能说明 统计cpu信息，每次采集都为每个vcpu，以及总cpu维度分别生成消息。 原始数据来源：/proc/loadavg、/proc/stat等。 参数配置 插件默认为CPU0、CPU1、...、CPU-ALL分别生成消息。用户可根据需要配置_filter_cpu_id项，进行消息筛
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
