检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
28e7241e42904334b failed 问题现象 SLB部署失败,日志详细信息提示如下: 2024-01-27 03:24:00 job 28e7241e42904334b start running.2024-01-27 03:24:05 job 28e7241e42904334b failed 解决方法
构建知识库 创建知识数据集 创建知识库 创建知识检索流
管理工具 创建工具 将创建的工具上架到资产中心 收藏上架的工具 调用资产中心工具前设置认证鉴权
平台在资产中心预置了部分工具,同时也支持用户根据需求自定义创建工具。本文介绍如何创建工具。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的工具”,单击“创建工具”。 在“创建工具”页面,配置如表1所示参数。
使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 前提条件 需要获取Agent的发布地址。 使用Agent Web UrI 直接打开Web链接访问应用。 如果创建Agent时,使用配置变量的方式实现了记忆能力,体验时输入变量值,作为Agent记忆信息存储,单击“保存”。
ModelRouter PromptTemplate KnowledgeRetriever ApplicationCenter 父主题: AI原生应用引擎SDK介绍
ModelRouter提供了AI原生应用引擎模型网关的接口,可以访问AI原生应用引擎上的模型,接口调用类似OpenAI。 实例化 表1 实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
进行调测。 前提条件 对模型服务商提供的模型进行调测,需要先设置鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权。 调测模型 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调测”。 对于平台预置的模型以及模型服务商提供的模型,也可以在左侧导航栏单击“资产中心”,
生成模型服务 将已有模型部署为模型服务 接入模型服务 创建路由策略用于提供模型服务 父主题: 管理模型
工作流模式下,用户与工作流进行对话,因此必须添加工作流,不支持添加模型、工具、知识库等配置。 2 体验Agent 以对话的形式,对创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 3 使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。
快速开始 安装AI原生应用引擎SDK 执行如下命令,快速安装。 pip install huawei_wiseagent_dev_sdk_python-{version}-py3-none-any.whl 若已经安装过最新版本SDK,可以忽略此步骤。 将${version}替换成实际所使用的SDK版本。
查看模型调用记录 用户可以通过查看模型(包括平台预置模型及自建模型)的调用记录,获取模型调用方式、用时及调用时间等信息。 查看模型调用记录 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调用记录”。 在“模型调用记录”页面,通过筛选调用方式、时间范围、状态,或输入模型名称可快
平台预置了第三方厂商闭源模型,例如GLM系列、Moonshot系列等,请先参考如何对模型供应商提供的模型服务设置鉴权设置鉴权,再进行调测(体验)、调用。 父主题: AI原生应用引擎
如何获取Agent发布时要所需的API Key? 填写AI原生应用引擎平台的API Key,生成方式请参见新增平台API Key。仅AI原生应用引擎管理员角色可以创建API Key,请通过管理员获取。 父主题: AI原生应用引擎
nt或工作流关联的知识库进行检索增强,以提升Agent响应质量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建知识检索流 在AI原生应用引擎的左侧导航栏选择“知识中心 > 知识检索流”,单击“创建知识检索流”。
型调用接口调用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 模型API接入之前,请确保符合相对应的接口规范,具体规范要求请参见模型API接入接口规范。 创建接入模型服务 在AI原生应用引擎的左侧导航栏选择“模型中心
的工具,需要先收藏到“我的工具”列表中,方可便捷地进行使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏其他租户上架的工具 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。
upstream "后端服务器名称" in /.../server...conf:17 nginx: .../nginx.conf test failed [FAILED 问题现象 配置同步失败,日志详细信息提示如下: "test nginx: nginx: [emerg] host not found
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":