检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
的工具,需要先收藏到“我的工具”列表中,方可便捷地进行使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏其他租户上架的工具 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。
问密钥。 AI原生应用引擎开发者 AI原生应用引擎浏览者 组织管理员 AI原生应用引擎开发者 服务级 AI原生应用引擎开发者角色,可以查看工作空间、资产中心,可以管理我的模型、数据集与知识库、我的提示语,还可以创建访问密钥。 无 组织管理员 AI原生应用引擎管理员 AI原生应用引擎浏览者
Agent编排使用指引 操作指引 图1 AI原生应用引擎使用流程 表1 编排Agent的流程详解 序号 流程环节 说明 1 创建及发布Agent 一站式创建专属Agent,并将应用程序及相关组件进行发布,使其能够正常运行。当前支持创建LLM模式和工作流模式两种类型的Agent。
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
行调测。 前提条件 对平台接入的第三方模型进行调测前,需要先设置鉴权,具体操作请参见如何对平台接入的第三方模型服务设置鉴权。 调测模型 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调测”。 如果对资产中心的模型进行调测,您也可以在左侧导航栏单击“资产中心”,选择“大模型
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据
版本变更记录 表1 版本变更记录 版本 变更类型 说明 0.0.1 - 第一次发布。 父主题: AI原生应用引擎SDK API
如何获取Agent发布时要所需的API Key? 填写AI原生应用引擎平台的API Key,生成方式请参见新增平台API Key。 父主题: AI原生应用引擎
Agent问答的时候没有回答 思考模型没有配置鉴权,或者鉴权失效了,可以通过模型调测功能测试思考模型是否正常,具体操作请参见调测/体验模型。 父主题: AI原生应用引擎
生成模型服务 将已有模型部署为模型服务 接入模型服务 创建路由策略用于提供模型服务 父主题: 管理模型
查看模型调用记录 通过查看模型的调用记录,可以获取模型调用方式、用时及调用时间等信息。 查看模型调用记录 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调用记录”。 在“模型调用记录”页面,通过筛选调用方式、日期、状态,或输入模型名称可快速查看模型调用记录信息,如模型调用
管理AppStage开发中心系统配置 集成工具链到开发中心 管理开发中心系统菜单 管理开发中心版本活动 工具链同步信息接口规格说明
Key”进行平台的鉴权认证。 操作须知 每个用户最多可添加两个平台API Key。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建API Key 在AI原生应用引擎的左侧导航栏选择“凭证管理 > 我的凭证”。 在“我的凭证”页面,选择“平台API
创建的Agent(工作流模式)时,用户与工作流进行对话,每次对话都会调用工作流。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建工作流 在AI原生应用引擎的左侧导航栏,选择“Agent编排中心 > 我的工作流”。 在“我的工作流”页面,单击“创建工作流”。
型调用接口调用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 模型API接入之前,请确保符合相对应的接口规范,具体规范要求请参见模型API接入接口规范。 创建接入模型服务 在AI原生应用引擎的左侧导航栏选择“模型中心
[Service proxy.apply_sudo._wrapped_f]: fail to operator sudo,message: send request fail, status code: 400, error: None, message: illegal param\"
mmap(MAP_ANON|MAP_SHARED, 524288000) failed (12: Cannot allocate memory) nginx: [alert] munmap(FFFFFFFFFFFFFFFF, 524288000) failed 问题现象 配置同步失败,日志详细信息提示如下:
试结果。 针对推理结果,用户可通过以下操作对提示语进行结构、排版、内容等维度进行优化和改进。 单击“执行优化”,系统将对提示语模板进行首次优化。 单击“重新优化”,系统将对提示语模板进行多轮优化。 提示语内容优化达到需要结果后,单击“采纳”可将最终优化的提示语内容一键覆盖至提示语
思考模型和问答模型的区别 思考模型:用于任务规划和选择组件,主要用于工作流、知识库、工具的调用,以及入参的识别传递等。 问答模型:主要用于问答及总结。 父主题: AI原生应用引擎
管理工作流 创建工作流 工作流基础节点说明 工作流工具节点说明