检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
性和深度。大模型会基于提示语所提供的信息,生成对应的文本或者图片。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建提示语 在AI原生应用引擎的左侧导航栏选择“知识中心 > 提示语”,单击“创建提示语”。 在“创建提
enAPI文件的功能,以减少手动创建工具的工作量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 已获取API服务的json文件。 创建工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的工具”。 在我的工具页面,单击“导入工具”。
ModelRouter PromptTemplate KnowledgeRetriever ApplicationCenter 父主题: AI原生应用引擎SDK API
思考模型和问答模型的区别 思考模型:用于任务规划和选择组件,主要用于工作流、知识库、工具的调用,以及入参的识别传递等。 问答模型:主要用于问答及总结。 父主题: AI原生应用引擎
构建知识库 创建知识数据集 创建知识库 创建知识检索流
管理工作流 创建工作流 工作流基础节点说明 工作流工具节点说明
Request base url is https://xxxxx, path is /v1/chat/completions 父主题: AI原生应用引擎SDK API
发布Agent的时候提示套餐校验失败 发布Agent前需要订购智能应用运行时引擎资源,请参靠购买AI原生应用引擎,按照需要购买实例个数以及时长。 父主题: AI原生应用引擎
ModelRouter ModelRouter提供了AI原生应用引擎模型网关的接口,可以访问AI原生应用引擎上的模型,接口调用类似OpenAI。 导入ModelRouter from wiseagent_dev_sdk_python.modules.models import ModelRouter
使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 前提条件 需要获取Agent的发布地址。 使用Agent Web UrI 直接打开Web链接访问应用。 如果创建Agent时,使用配置变量的方式实现了记忆能力,体验时输入变量值,作为Agent记忆信息存储,单击“保存”。
Agent编排使用指引 操作指引 图1 AI原生应用引擎使用流程 表1 编排Agent的流程详解 序号 流程环节 说明 1 创建及发布Agent 一站式创建专属Agent,并将应用程序及相关组件进行发布,使其能够正常运行。当前支持创建LLM模式和工作流模式两种类型的Agent。
第三方厂商闭源模型,例如GLM系列、Moonshot系列等。 请先参考如何对模型供应商提供的模型服务设置鉴权设置鉴权,再进行调测(体验)、调用。 父主题: AI原生应用引擎
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
的工具,需要先收藏到“我的工具”列表中,方可便捷地进行使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏其他租户上架的工具 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。
须妥善保管。用户创建Agent在调用平台接口时需要进行平台鉴权认证,可以使用“AK/SK访问密钥”进行平台的鉴权认证。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 操作须知 如果访问密钥泄露,会带来数据泄露风险。且每
台鉴权认证,可以使用“平台API Key”进行平台的鉴权认证。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建API Key 在AI原生应用引擎的左侧导航栏选择“凭证管理 > 我的凭证”。 在“我的凭证”页面,选择“平台API
模型进行调测。 前提条件 调测平台接入的第三方模型前,需要先设置鉴权,具体操作请参见如何对平台接入的第三方模型服务设置鉴权。 调测模型 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调测”。 对于平台预置的模型以及模型服务商提供的模型,也可以在左侧导航栏单击“资产中心”,
如何获取Agent发布时要所需的API Key? 填写AI原生应用引擎平台的API Key,生成方式请参见新增平台API Key。 父主题: AI原生应用引擎
实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client
cannot access /opt/huawei/openresty/nginx/conf/ssl/sample/resty-auto-ssl-fallback.pem.Permission denined 问题现象 SLB部署失败,日志详细信息提示如下: "cannot access