检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
管理我的凭证 创建AK/SK访问密钥 创建API Key
AI原生应用引擎计费项 计费说明 AI原生应用引擎根据购买的套餐包计费或按需计费。具体内容如表1所示。 表1 AI原生应用引擎计费项说明 计费项 计费项说明 适用的计费模式 计费公式 ChatGLM3-6B大模型服务API在线调用 根据实际输入和输出tokens总量计费,平台提供算力支持。
构建知识库 创建知识数据集 创建知识库 创建知识检索流
险。 适用计费项 AppStage的以下计费项支持包年/包月。 表1 计费项说明 套餐包类型 套餐包描述 计费项 说明 问答AI服务基础版 开箱即用的AI问答服务,需配合专业服务使用。支持文本类智能问答。 大模型调用 小规格:1亿token 中规格:2亿token 大规格:4亿token
SDK功能矩阵 功能 Java 高性能灰度规则执行 √ 兼容CSE的灰度规则能力 √ 支持订阅多个微服务灰度配置和执行 √ 支持多阶段灰度发布 √ 支持灰度生命周期管理 √ 支持灰度规则执行异常检测 √ 表4 Rainbow SDK功能矩阵 功能 Java 支持MySQL/Cassandra/GaussDB/DRDS
生成模型服务 将已有模型部署为模型服务 接入模型服务 创建路由策略用于提供模型服务 父主题: 管理模型
AI原生应用引擎SDK API 版本变更记录 SDK概述 快速开始 应用示例 modules模块 错误处理 日志处理
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
开源模型怎么部署? 开源模型的部署需要购买推理单元,具体操作如下: 在AI原生应用引擎的左侧导航栏选择“资产中心”,选择“大模型”页签。 将鼠标光标移至待部署的开源模型卡片上,单击“部署”。 在“创建部署服务”页面,可以查看到需要几个推理单元,单击“购买推理单元资源”。 图1 创建部署服务
行调测。 前提条件 对平台接入的第三方模型进行调测前,需要先设置鉴权,具体操作请参见如何对平台接入的第三方模型服务设置鉴权。 调测模型 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调测”。 如果对资产中心的模型进行调测,您也可以在左侧导航栏单击“资产中心”,选择“大模型
性和深度。大模型会基于提示语所提供的信息,生成对应的文本或者图片。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建提示语 在AI原生应用引擎的左侧导航栏选择“知识中心 > 提示语”,单击“创建提示语”。 在“创建提
ModelRouter PromptTemplate KnowledgeRetriever ApplicationCenter 父主题: AI原生应用引擎SDK API
查看模型调用记录 通过查看模型的调用记录,可以获取模型调用方式、用时及调用时间等信息。 查看模型调用记录 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调用记录”。 在“模型调用记录”页面,通过筛选调用方式、日期、状态,或输入模型名称可快速查看模型调用记录信息,如模型调用
管理工作流 创建工作流 工作流基础节点说明 工作流工具节点说明
快速开始 下载AI原生应用引擎SDK AI原生应用引擎SDK获取地址:wiseagent-dev-sdk-python。您也可以参考下载SDK获取AI原生应用引擎SDK并进行完整性校验。 AI原生应用引擎SDK获取方法请参考。 安装AI原生应用引擎SDK 若已经安装过最新版本SDK,可以忽略此步骤。
enAPI文件的功能,以减少手动创建工具的工作量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 已获取API服务的json文件。 创建工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的工具”。 在我的工具页面,单击“导入工具”。
Agent编排使用指引 操作指引 图1 AI原生应用引擎使用流程 表1 编排Agent的流程详解 序号 流程环节 说明 1 创建及发布Agent 一站式创建专属Agent,并将应用程序及相关组件进行发布,使其能够正常运行。当前支持创建LLM模式和工作流模式两种类型的Agent。
Request base url is https://xxxxx, path is /v1/chat/completions 父主题: AI原生应用引擎SDK API
Agent问答的时候没有回答 思考模型没有配置鉴权,或者鉴权失效了,可以通过模型调测功能测试思考模型是否正常,具体操作请参见调测/体验模型。 父主题: AI原生应用引擎
200 AIAE.22009001 系统内部错误,请联系管理员 系统内部错误,请联系管理员 系统内部错误,请联系技术支持 400 AIAE.31001106 AK/SK signature verify failed, please check and try again later!