检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
ModelRouter PromptTemplate KnowledgeRetriever ApplicationCenter 父主题: AI原生应用引擎SDK API
管理工作流 创建工作流 工作流基础节点说明 工作流工具节点说明
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
生活服务类:为用户提供各种用途全面,功能丰富的API资产,如银行网点查询、生活小窍门等。具体介绍请参见生活服务类。 我的工具类:包含AI原生应用引擎资产中心预置的三方工具以及自创建的工具。 资产中心预置的三方工具:在AI原生应用引擎的左侧导航栏选择“资产中心” ,选择“工具”页签,单击工具卡片,在工具详情页面可以查看工具描述、执行动作、参数配置等信息。
如何获取Agent发布时要所需的API Key? 填写AI原生应用引擎平台的API Key,生成方式请参见新增平台API Key。 父主题: AI原生应用引擎
须妥善保管。用户创建Agent在调用平台接口时需要进行平台鉴权认证,可以使用“AK/SK访问密钥”进行平台的鉴权认证。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 操作须知 如果访问密钥泄露,会带来数据泄露风险。且每
创建的Agent(工作流模式)时,用户与工作流进行对话,每次对话都会调用工作流。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建工作流 在AI原生应用引擎的左侧导航栏,选择“Agent编排中心 > 我的工作流”。 在“我的工作流”页面,单击“创建工作流”。
的工具,需要先收藏到“我的工具”列表中,方可便捷地进行使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏其他租户上架的工具 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。
[Service proxy.apply_sudo._wrapped_f]: fail to operator sudo,message: send request fail, status code: 400, error: None, message: illegal param\"
第三方厂商闭源模型,例如GLM系列、Moonshot系列等。 请先参考如何对模型供应商提供的模型服务设置鉴权设置鉴权,再进行调测(体验)、调用。 父主题: AI原生应用引擎
优,订购方法请参见购买AI原生应用引擎按需计费资源。 已具备格式为“对话文本”的微调数据集,具体请参考创建微调数据集或收藏预置微调数据集。 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建微调任务 在AI原生应用引擎的左侧导航栏选择“模型中心
mmap(MAP_ANON|MAP_SHARED, 524288000) failed (12: Cannot allocate memory) nginx: [alert] munmap(FFFFFFFFFFFFFFFF, 524288000) failed 问题现象 配置同步失败,日志详细信息提示如下:
都会调用知识库,选择“按需调用”时由大模型决定是否调用知识库,如图1所示。具体介绍请参见创建并发布Agent。 图1 调用方式 父主题: AI原生应用引擎
huawei.rainbow.exception.RainbowRunTimeException: NodeDataSource can't init: dsKey=xx.xx.xx.xx:3306@mysql或者Caused by: com.huawei.rainbow.exception
使用的模型收藏后,可便捷地在收藏列表中进行部署、微调、体验。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏平台资产中心的模型 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“大模型”页签。
实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client
500M。 图片:支持.png、.jpg、.jpeg、.gif、.webp、.bmp格式,单张图片最大为10M,总上传大小最大为200M。 图片-摘要:支持本地文件上传.png、.jpg、.jpeg、.gif、.webp、.bmp格式,需对图片填写摘要信息,单张图片最大为10M,总上传大小最大为300M。
对于其他租户上架的工具,其他租户或资源相互隔离的部门使用前需收藏并配置鉴权,具体介绍请参见收藏上架的工具及调用资产中心工具前设置认证鉴权。 父主题: AI原生应用引擎
(一般变量或敏感变量)传递给API,即将请求参数variables填写为Agent中配置的变量,具体操作请参考调用Agent。 父主题: AI原生应用引擎
已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。 由于在线运行需消耗资源,请确保账户有可用资源,且用户费用状态正常。 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 部署模型服务 在AI原生应用引擎的左侧导航栏选择“模型中心