检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。
使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 前提条件 需要获取Agent的发布地址。 使用Agent Web UrI 直接打开Web链接访问应用。 如果创建Agent时,使用配置变量的方式实现了记忆能力,体验时输入变量值,作为Agent记忆信息存储
父主题: AI原生应用引擎
API接口协议 模型类型为“文本对话”或“文本向量化”时,选择“标准OpenAI协议”。 模型类型为“文本排序”时,选择“AI引擎标准协议”。 流控配置 超出流控值,则触发限流,用户的请求会因为流控而失败。
构建知识库 创建知识数据集 创建知识库 创建知识检索流
平台在资产中心预置了部分工具,同时也支持用户根据需求自定义创建工具。在创建工具时,需要先将选定的API服务注册为一个工具,然后再添加该服务下的API作为工具的执行动作。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。
发布Agent的时候提示套餐校验失败 发布Agent前需要订购智能应用运行时引擎资源,请参靠购买AI原生应用引擎,按照需要购买实例个数以及时长。 父主题: AI原生应用引擎
调测模型 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调测”。 如果对资产中心的模型进行调测,您也可以在左侧导航栏单击“资产中心”,选择“大模型”页签,将鼠标移至目标模型卡片并单击“体验”,进入模型调测页面。
-10 19:21:28 - wiseagent_dev_sdk_python.modules.models.chat:31 - INFO] Request base url is https://xxxxx, path is /v1/chat/completions 父主题: AI
平台提供了导入OpenAPI文件的功能,以减少手动创建工具的工作量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 已获取API服务的json文件。
如何对平台接入的第三方模型服务设置鉴权 平台资产中心接入了第三方供应商的闭源模型,例如GLM系列、Moonshot系列等,这些模型服务在调测(体验)、调用前,需要先设置模型鉴权。 前提条件 需要具备AI原生应用引擎管理员权限,权限申请操作请参见AppStage组织成员申请权限。
前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏其他租户上架的工具 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。
2 生成模型服务 将已有模型部署为模型服务 接入模型服务 支持通过API接入模型服务,同时支持将平台预置模型进行微调后,部署为模型服务,模型服务可以在创建Agent时使用或通过模型调用接口调用。
2 体验Agent 以对话的形式,对创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 3 使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 父主题: 管理Agent
用户创建Agent在调用平台接口时需要进行平台鉴权认证,可以使用“AK/SK访问密钥”进行平台的鉴权认证。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 操作须知 如果访问密钥泄露,会带来数据泄露风险。
功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client False 自定义的httpx client。
填写AI原生应用引擎平台的API Key,生成方式请参见新增平台API Key。 父主题: AI原生应用引擎
父主题: AI原生应用引擎
平台定义了3种模型服务: 平台预置模型服务 登录AI原生应用引擎,在左侧导航栏选择”资产中心“,选择“大模型”页签,单击模型卡片进入模型详情页面,查看模型服务调用ID。
需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建知识库 在AI原生应用引擎的左侧导航栏选择“知识中心 > 知识库”,单击“创建知识库”。