检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
PI文件的功能,以减少手动创建工具的工作量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 已获取API服务的json文件。 创建工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的工具”。 在我的工具页面,单击“导入工具”。
生成模型服务 将已有模型部署为模型服务 接入模型服务 创建路由策略用于提供模型服务 父主题: 管理模型
使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 前提条件 需要获取Agent的发布地址。 使用Agent Web UrI 直接打开Web链接访问应用。 如果创建Agent时,使用配置变量的方式实现了记忆能力,体验时输入变量值,作为Agent记忆信息存储,单击“保存”。
的API作为工具的执行动作。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 已获取API服务的连接信息以及调用API所需的访问权限和密钥。 创建工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的工具”,单击“创建工具”。
前提条件 对平台接入的第三方模型进行调测前,需要先设置鉴权,具体操作请参见如何对平台接入的第三方模型服务设置鉴权。 调测模型 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调测”。 如果对资产中心的模型进行调测,您也可以在左侧导航栏单击“资产中心”,选择“大模型”页签
版本变更记录 表1 版本变更记录 版本 变更类型 说明 0.0.1 - 第一次发布。 父主题: AI原生应用引擎SDK API
Agent问答的时候没有回答 思考模型没有配置鉴权,或者鉴权失效了,可以通过模型调测功能测试思考模型是否正常,具体操作请参见调测/体验模型。 父主题: AI原生应用引擎
Request base url is https://xxxxx, path is /v1/chat/completions 父主题: AI原生应用引擎SDK API
Agent编排使用指引 操作指引 图1 AI原生应用引擎使用流程 表1 编排Agent的流程详解 序号 流程环节 说明 1 创建及发布Agent 一站式创建专属Agent,并将应用程序及相关组件进行发布,使其能够正常运行。当前支持创建LLM模式和工作流模式两种类型的Agent。
onshot、deepseek系列等。 请先参考如何对模型供应商提供的模型服务设置鉴权设置鉴权,再进行调测/体验、调用。 父主题: AI原生应用引擎
接口调用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 模型API接入之前,请确保符合相对应的接口规范,具体规范要求请参见模型API接入接口规范。 创建接入模型服务 在AI原生应用引擎的左侧导航栏选择“模型中心 > 我的模型服务”,单击“接入模型服务”。
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
管理工作流 创建工作流 工作流基础节点说明 工作流工具节点说明
收藏资产中心预置的AI应用 支持收藏平台资产中心预置的AI应用。将自己关注的AI应用收藏后,可便捷地在收藏列表中查看应用详情及体验Agent。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏资产中心预置AI应用 在AI原生应用引擎的左侧导航栏选择“资产中心”。
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
如何获取Agent发布时所需的API Key? 填写AI原生应用引擎平台的API Key,生成方式请参见新增平台API Key。 父主题: AI原生应用引擎
思考模型:用于任务规划和选择组件,主要用于工作流、知识库、工具的调用,以及入参的识别传递等。 问答模型:主要用于问答及总结。 父主题: AI原生应用引擎
Key”进行平台的鉴权认证。 操作须知 每个用户最多可添加两个平台API Key。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建API Key 在AI原生应用引擎的左侧导航栏选择“凭证管理 > 我的凭证”。 在“我的凭证”页面,选择“平台API
需要先收藏到“我的工具”列表中,方可便捷地进行使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏其他租户上架的工具 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。 在左侧
ModelRouter ModelRouter提供了AI原生应用引擎模型网关的接口,可以访问AI原生应用引擎上的模型,接口调用类似OpenAI。 导入ModelRouter from wiseagent_dev_sdk_python.modules.models import ModelRouter