检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
己关注的微调数据集收藏后,可便捷地在收藏列表中查看数据集详情。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏预置微调数据集 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“数据集”页签。
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
模型使用指引 操作指引 图1 模型使用操作指引 表1 模型使用流程详解 序号 流程环节 说明 1 基于微调数据集进行模型微调 创建微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据集是模型微调的基础,
应用程序及相关组件进行发布,使其能够正常运行。 2 体验Agent Agent体验是指以对话的形式,对创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 3 使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。
XXXX@XXXX has closed 原因:Rainbow已经调用了close方法,导致无数据源。检查nuwa.out是不是有其他失败异常。 定位:检查日志中是否打印了“close rainbow instance”关闭了Rainbow。初始化失败时也会调用close方法。 异常10:启动时报Could
的工具,需要先收藏到“我的工具”列表中,方可便捷地进行使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏其他租户上架的工具 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。
管理工作流 创建工作流 工作流基础节点说明
管理平台租户鉴权信息 新增AK/SK访问密钥 新增平台API Key
集。 前提条件 通过OBS(对象存储服务)接入数据时,操作账号需获得OBS只读权限,具体操作请参见对其他账号授予桶的读写权限。 需具备充足的知识库容量包资源(包含OBS存储配额和向量库存储配额,两者比例为5:1),每个租户默认具备5G的OBS存储配额,默认配额用完后,请参考购买AppStage购买知识库容量包。
实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client
使用的模型收藏后,可便捷地在收藏列表中进行部署、微调、体验。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏平台资产中心的模型 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“大模型”页签。
NotFound 实例不存在 NuwaRuntime.Microservice.CreateError 实例创建失败 NuwaRuntime.Microservice.ReadError 实例读取失败 NuwaRuntime.Microservice.DeleteError 实例删除错误 NuwaRuntime
实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client
工具创建完成后,可以将工具上架至资产中心,其他租户或资源相互隔离的部门收藏工具后,可便捷地进行使用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 上架工具 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的工具”。 在我的工具列表中,选择操作列的“更多
填写,包括状态(成功/失败)消息。 当流运行到该步骤时,流程运行终止(如果有后续步骤不会再继续执行)。 图8 终止 输入参数 用户配置终止执行动作,相关参数说明如表9所示。 表9 终止输入参数说明 参数 是否必填项 说明 状态 是 选择运行状态,成功或者失败。 消息 否 运行到该步骤时,发送信息。
实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的IP和端口,有默认值可以不填。功能类似OpenAI的base_url。 custom_hearders dict False 其他自定义请求头信息。 http_client httpx.client
基于微调数据集进行模型微调 创建微调数据集 对微调数据集进行数据标注 创建模型微调任务 父主题: 管理模型
properties: AIOPSCONFIG_AIOPSSERVER: format: notype AIOPSCONFIG_AIOPSTOKENURI: format: sensitive records: AIOPSCONFIG_AIOPSSERVER:
如果三方工具在创建时设置了鉴权信息,在调用前还需要配置认证鉴权。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 调用资产中心工具前配置认证鉴权 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。
工作流基础节点说明 LLM 知识库 变量V2 控制 Code代码 结束 父主题: 管理工作流