检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
称,进入Agent详情页面,在“对话日志”页签中可以查看所有问答的对话日志。 体验资产中心预置的AI应用 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“AI应用”页签。 将鼠标光标移至应用卡片上,单击“体验”。 在Agent体验页面的对话输入框输入问题,按Enter键或单击进行体验。
huawei.rainbow.exception.RainbowRunTimeException: NodeDataSource can't init: dsKey=xx.xx.xx.xx:3306@mysql或者Caused by: com.huawei.rainbow.exception
管理工具 创建工具 将创建的工具上架到资产中心 收藏上架的工具 调用资产中心工具前设置认证鉴权
大规格:100GB 应用最大激活态用户量 小规格:10个用户 中规格:25个用户 大规格:50个用户 问答AI服务专业版 开箱即用的AI问答服务,需配合专业服务使用,提供文本类智能问答、智能数据分析。 大模型调用 小规格:1亿token 中规格:2亿token 大规格:4亿token 知识库容量
构建知识库 创建知识数据集 创建知识库 创建知识检索流
Key:必填项,单击“获取API key”跳转至AI原生应用引擎的“系统管理 > 平台租户鉴权 > 平台API Key”获取。 说明: 仅AI原生应用引擎管理员角色可以创建API Key,请通过管理员获取API Key。 创建知识检索流 在AI原生应用引擎的左侧导航栏选择“知识中心 >
生成模型服务 将已有模型部署为模型服务 接入模型服务 创建路由策略用于提供模型服务 父主题: 管理模型
向量库存储配额,默认配额用完后,请参考购买AppStage购买知识库容量包。 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建知识库 在AI原生应用引擎的左侧导航栏选择“知识中心 > 知识库”,单击“创建知识库”。 在“创建知
查看模型调用记录 用户可以通过查看模型(包括平台预置模型及自建模型)的调用记录,获取模型调用方式、用时及调用时间等信息。 查看模型调用记录 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调用记录”。 在“模型调用记录”页面,通过筛选调用方式、时间范围、状态,或输入模型名称可快
提供自助式云原生工具和技术的平台,开发人员可以使用这些工具和技术来构建、测试、部署、监控或执行与应用程序开发和交付有关的几乎任何事情,同时尽可能减少开销,提升用户的体验和效率。 提供AI原生应用开发引擎,包括RAG、Agent等应用框架,零码态和全码态的开发形态,降低AI原生应用开发门槛、提升开发效率。支持客户打通自
ModelRouter提供了AI原生应用引擎模型网关的接口,可以访问AI原生应用引擎上的模型,接口调用类似OpenAI。 实例化 表1 实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据集是模型微调的基础,
应用程序及相关组件进行发布,使其能够正常运行。 2 体验Agent Agent体验是指以对话的形式,对创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 3 使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。
己关注的微调数据集收藏后,可便捷地在收藏列表中查看数据集详情。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏预置微调数据集 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“数据集”页签。
模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建接入模型服务 在AI原生应用引擎的左侧导航栏选择“模型中心 > 我的模型服务”,单击“接入模型服务”。
管理工作流 创建工作流 工作流基础节点说明
管理平台租户鉴权信息 新增AK/SK访问密钥 新增平台API Key
对于华为或者第三方运营的商业化模型服务,支持通过API接入到AI原生应用引擎。模型运营方负责模型能力及技术支持,租户自行在模型运营方订购服务,或者通过云市场订购模型服务后,在AI原生应用引擎创建平台API Key,即可通过AI原生应用引擎平台调用模型接口。 前提条件 需要具备AI原生应用引擎管理员权限,权限申
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
平台在资产中心预置了部分工具,同时也支持用户根据需求自定义创建工具。本文介绍如何创建工具。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的工具”,单击“创建工具”。 在“创建工具”页面,配置如表1所示参数。