检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
开源模型怎么部署? 开源模型的部署需要购买推理单元,具体操作如下: 在AI原生应用引擎的左侧导航栏选择“资产中心”,选择“大模型”页签。 将鼠标光标移至待部署的开源模型卡片上,单击“部署”。 在“创建部署服务”页面,可以查看到需要几个推理单元,单击“购买推理单元资源”。 图1 创建部署服务
称,进入Agent详情页面,在“对话日志”页签中可以查看所有问答的对话日志。 体验资产中心预置的AI应用 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“AI应用”页签。 将鼠标光标移至应用卡片上,单击“体验”。 在Agent体验页面的对话输入框输入问题,按Enter键或单击进行体验。
管理提示语 创建提示语 对创建的提示语进行优化 管理资产中心预置提示语
快速开始 下载AI原生应用引擎SDK AI原生应用引擎SDK获取地址:wiseagent-dev-sdk-python。您也可以参考下载SDK获取AI原生应用引擎SDK并进行完整性校验。 AI原生应用引擎SDK获取方法请参考。 安装AI原生应用引擎SDK 若已经安装过最新版本SDK,可以忽略此步骤。
控、运营等全场景全生命周期管理。 管理部门与成员 管理部门 管理成员 管理产品与服务 管理产品 管理服务 管理微服务 AI原生应用引擎 AI原生应用引擎简介 AI原生应用引擎工作空间介绍 管理平台租户鉴权信息 管理Agent 管理工具 管理模型 构建知识库 管理工作流 管理提示语
的文本对话模型,与模型进行交互。其中环境变量WISEAGENT_API_KEY填写AI原生应用引擎的平台API KEY,该值用于鉴权,为必填。返回结果存在response中,接口返回为OpenAI的标准返回格式,可以自行解析使用。如果接口报错请参考错误处理。 代码示例 import
enAPI文件的功能,以减少手动创建工具的工作量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 已获取API服务的json文件。 创建工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的工具”。 在我的工具页面,单击“导入工具”。
BS存储配额,默认配额用完后,请参考购买AppStage购买知识库容量包。 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建知识数据集 在AI原生应用引擎的左侧导航栏选择“知识中心 > 知识库”。 选择页面右上角的“ > 知识数据集”。
构建知识库 创建知识数据集 创建知识库 创建知识检索流
"model": "my-rerank-model", "query": "请问AI原生应用引擎提供了什么能力?", "docs": ["AI原生应用引擎提供了应用开发、模型网关等能力。", "AI原生应用引擎正在逐步完善、提高竞争力。"], "top_n": 3 }
28e7241e42904334b failed 问题现象 SLB部署失败,日志详细信息提示如下: 2024-01-27 03:24:00 job 28e7241e42904334b start running.2024-01-27 03:24:05 job 28e7241e42904334b failed 解决方法
SDK概述 AI原生应用引擎SDK面向开发者提供了一套搭建原生应用的Python SDK,包含了模型调用,知识获取,工具调用等功能。开发者可以使用SDK调用AI原生应用引擎的各种能力,帮助开发者快速构建大模型应用。 表1 模块说明 序号 模块 功能 1 HttpxClient 负责发送HTTP请求的基类。
200 AIAE.22009001 系统内部错误,请联系管理员 系统内部错误,请联系管理员 系统内部错误,请联系技术支持 400 AIAE.31001106 AK/SK signature verify failed, please check and try again later!
管理工具 创建工具 导入工具 将创建的工具上架到资产中心 收藏上架的工具 调用资产中心工具前设置认证鉴权
管理我的凭证 创建AK/SK访问密钥 创建API Key
性和深度。大模型会基于提示语所提供的信息,生成对应的文本或者图片。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建提示语 在AI原生应用引擎的左侧导航栏选择“知识中心 > 提示语”,单击“创建提示语”。 在“创建提
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
Agent编排使用指引 操作指引 图1 AI原生应用引擎使用流程 表1 编排Agent的流程详解 序号 流程环节 说明 1 创建及发布Agent 一站式创建专属Agent,并将应用程序及相关组件进行发布,使其能够正常运行。当前支持创建LLM模式和工作流模式两种类型的Agent。
Request base url is https://xxxxx, path is /v1/chat/completions 父主题: AI原生应用引擎SDK API
生成模型服务 将已有模型部署为模型服务 接入模型服务 创建路由策略用于提供模型服务 父主题: 管理模型