检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
ModelRouter提供了AI原生应用引擎模型网关的接口,可以访问AI原生应用引擎上的模型,接口调用类似OpenAI。 实例化 表1 实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。
布到对应的部署平台(例如AppStage运维中心的“软件仓库 > 软件包管理”)。 勾选“不通过”:申请人刷新“标准发布 > 发布申请”页面后,页面左上角将提示申请人“您所提交的发布申请未通过审批(审批意见:xxx),请修改后重新提交”。 父主题: 应用开发
准备工作 已注册华为账号并开通华为云。 已实名认证华为账号。 使用AI原生应用引擎前请检查账号状态,确保账号未处于欠费或冻结状态。 已订购大模型微调-SFT局部调优资源,订购方法请参见购买AI原生应用引擎按需计费资源。 步骤一:创建微调数据集 数据集是模型微调的基础,AI原生应用引擎统一
快速开始 安装AI原生应用引擎SDK 执行如下命令,快速安装。 pip install huawei_wiseagent_dev_sdk_python-{version}-py3-none-any.whl 若已经安装过最新版本SDK,可以忽略此步骤。 将${version}替换成实际所使用的SDK版本。
基于微调数据集进行模型微调 创建微调数据集 对微调数据集进行数据标注 创建模型微调任务 父主题: 管理模型
支持通过API接口调用或Web界面访问两种方式使用Agent。 前提条件 需要获取Agent的发布地址。 使用Agent Web UrI 直接打开Web链接访问应用。 如果创建Agent时,使用配置变量的方式实现了记忆能力,体验时输入变量值,作为Agent记忆信息存储,单击“保存”。 在Agent的对
查看模型调用记录 用户可以通过查看模型(包括平台预置模型及自建模型)的调用记录,获取模型调用方式、用时及调用时间等信息。 查看模型调用记录 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调用记录”。 在“模型调用记录”页面,通过筛选调用方式、时间范围、状态,或输入模型名称可快速查
单击“添加文件”可选择本地文档模版进行上传。 文档描述(可选) 文档的相关描述或备注说明。 单击“确定”。新添加的交付件显示在交付件列表中。 父主题: 应用开发
使用Spring Cloud框架实现应用开发 Spring Cloud概述 准备工作 开发指导 实践案例
监控服务支持对已创建的指标或视图数据进行业务报表开发。 前提条件 已完成指标开发。 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 操作步骤 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 监控服务(ServiceInsight)”。 选择左侧导航栏的“监控 >
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
注的微调数据集收藏后,可便捷地在收藏列表中查看数据集详情。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏预置微调数据集 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“数据集”页签。 选择
调测,并支持在创建Agent时使用或通过模型调用接口调用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建接入模型服务 在AI原生应用引擎的左侧导航栏选择“模型中心 > 我的模型服务”,单击“接入模型服务”。 在“
文件盒子 功能介绍 在文件盒子中上传文件,基于上传文件问答。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/routes/open/fileBox/upload 请求参数 表1 请求Header参数 参数 是否必选 参数类型
Key:必填项,单击“获取API key”跳转至AI原生应用引擎的“系统管理 > 平台租户鉴权 > 平台API Key”获取。 说明: 仅AI原生应用引擎管理员角色可以创建API Key,请通过管理员获取API Key。 创建知识检索流 在AI原生应用引擎的左侧导航栏选择“知识中心 > 知识检索流”,单击“创建知识检索流”。
ApplicationCenter 导入KnowledgeRetriever from wiseagent_dev_sdk_python.modules.tools import ApplicationCenter ApplicationCenter提供了开发者调用部署在平台的应用的能力。
管理华为云已释放的主机 在华为云上已经释放的主机,VMS不会同步释放,会作为冗余资源展示在VMS中。 查看冗余主机 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 主机管理服务(VMS)”。 选择左侧导航栏的“云服务器管理 > 冗余主机”。 在“冗余主机”页面查看冗余主机。
调用技能 功能介绍 调用用户配置的技能。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/workflow-adapter-open/skills/{skill_id} 表1 路径参数 参数 是否必选 参数类型 描述 skill_id
AppStage运维中心应用场景 华为云AppStage运维中心是以云原生应用为中心的一站式数智化运维平台,围绕SRE的工作场景,基于华为内外部优秀实践,把运维流程、工具在业务场景中持续打磨,基于AI持续构建运维活动“自动驾驶”能力,打造自动化、数据化、智能化运维平台,围绕运维的
调用流 功能介绍 调用用户配置的工作流。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/workflow-adapter-open/flows/{flow_id} 表1 路径参数 参数 是否必选 参数类型 描述 flow_id