正在生成
详细信息:
检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
le name="rainbow_stat" fileName="${logDir}/rainbow/rainbow_stat.log" filePattern="${logDir}/rainbow/rainbow_stat.log
在右侧“效果预览”区域,可通过以下两种方式进行模型测试。 在对话输入框输入测试语句后按Enter键或单击进行模型测试。 单击“引用已有提示语模板”,弹出“选择模板”面板,可通过分类筛选我创建的、我收藏的或平台预置的提示语模板,然后按Enter键或单击进行模型测试。 调测文本生图类型模型,具体操作如下: 在“模型类型
用户可以将微调数据集中的某些元素进行标记或分类,以便模型可以更好地理解和使用这些数据。 2 创建提示语 选择平台预置提示语或自定义提示语 用户根据需要选择平台预置的提示语模板或自定义提示语模板,可在创建应用、调测模型中快速引用。 优化提示语 针对提示语进行结构、排版、内容等维度进行优化和改进,将大模型的输入限定在
下载SDK AI原生应用引擎SDK面向开发者提供了一套搭建原生应用的Python SDK,包含了模型调用,知识获取,工具调用等功能。开发者可以使用SDK调用AI原生应用引擎的各种能力,帮助开发者快速构建大模型应用。 用户可以通过AI原生应用引擎平台下载SDK,同时对SDK完整性进
成知识库的重要元素。知识库是一个组织、存储及管理知识的系统,包括文档、数据库、图表、表格等多种形式的信息的分类、整理和归纳,可以帮助用户组织和管理大量的信息,以便快速访问和使用。 前提条件 通过OBS接入数据时,操作账号需获得OBS(对象存储服务)只读权限,具体操作请参见对其他账号授予桶的读写权限。
中,通过训练模型,可以实现标注结果,从而提高数据的质量和准确性。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建数据标注 在AI原生应用引擎的左侧导航栏选择“知识中心 > 数据标注”。 在“数据标注”页面,单击右上角“创建数据标注”。
模型中心 模型中心概述 创建模型微调流水线 调测模型 查看模型调用记录
PromptTemplate PromptTemplate提供了提示语编写与组装的能力,目前支持f-string和jinja两种形式的模板。 类属性 表1 类属性 参数名 参数类型 是否必选 参数描述 input_variables List[str] True 提示语模板所需的变量名称列表 template
参数名称 参数说明 名称 自定义工具名称。名称长度不能超过32字符,可包含中文、大小写字母、数字及下划线、中划线、英文小括号、开头不能是下划线、中划线、英文小括号。 描述 填写工具功能或作用等描述。 图标 支持上传PNG和JPG两种格式,文件不能超过1MB。 协议 https http 主机地址
logPath:推送日志路径(非文件名),选填。 AIOps固定为'/opt/huawei/logs' limitSize: 日志存储限制,选填,默认值为100G。仅AIOps生效。 groups:日志配置组名,必填。当前BI场景支持1个或多个分组,AIOps场景有且只能填写一个分组并且提前在AIOps管理面创建好。
系统管理 平台租户鉴权 设置模型鉴权
ModelRouter提供了AI原生应用引擎模型网关的接口,可以访问AI原生应用引擎上的模型,接口调用类似OpenAI。 实例化 表1 实例化参数 参数名 参数类型 是否必选 参数描述 base_url str False 模型网关开放的ip和端口,有默认值可以不填。功能类似OpenAI的base_url。
ModelRouter PromptTemplate KnowledgeRetriever ApplicationCenter 父主题: AI原生应用引擎SDK介绍
知识中心概述 数据是模型训练(含数据标注)以及知识库的基础,在整个模型、知识库中起着至关重要的作用。知识中心提供统一的数据管理功能,将分散的数据进行集中式纳管,从而节省了数据收集和管理的成本。 知识中心纳管了用户自定义的和平台预置的数据集,可供模型微调、数据标注、创建知识库时快捷使用。
快速开始 安装AI原生应用引擎SDK 执行如下命令,快速安装。 pip install huawei_wiseagent_dev_sdk_python-{version}-py3-none-any.whl 若已经安装过最新版本SDK,可以忽略此步骤。 将${version}替换成实际所使用的SDK版本。
查看模型调用记录 用户可以通过查看模型(包括平台预置模型及自建模型)的调用记录,获取模型调用方式、用时及调用时间等信息。 查看模型调用记录 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调用记录”。 在“模型调用记录”页面,通过筛选调用方式、时间范围、状态,或输入模型名称可快
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源。 由于在线运行需消耗资源,请确保账户有可用资源,且用户费用状态正常。 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 部署模型服务 在AI原生应用引擎的左侧导航栏选择“Agent编排中心
已订购大模型微调服务API在线调用-SFT局部调优,订购方法请参见购买AI原生应用引擎按需计费资源。 已创建格式为“对话文本”的微调数据集。 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建微调任务 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型微调流水线”。
支持自建模型接入并发布为模型服务,生成的模型服务可用于创建应用或调测模型。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 创建接入模型服务 在AI原生应用引擎的左侧导航栏选择“Agent编排中心 > 我的模型服务”。 选择“我接入的”页签,单击“接入模型服务”。