检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
调测/体验模型 通过调测模型,可检验模型的准确性、可靠性及反应效果,发现模型中存在的问题和局限性,确保模型能够在实际应用中正常运行,并且能够准确地预测和处理数据。 支持对我的模型(我部署的、我接入的)、我的路由策略、平台资产中心预置的部分模型以及模型服务商提供的模型进行调测。 前提条件
新建模型失败 问题描述 新建数据模型时,提示保存失败。 处理方法 检查数据模型度量数据的“聚合类型”函数设置是否合理,比如“聚合类型”设置为求和“sum”函数,这种情况会导致数据建模保存报错。 父主题: 运营中心
查看模型调用记录 用户可以通过查看模型(包括平台预置模型及自建模型)的调用记录,获取模型调用方式、用时及调用时间等信息。 查看模型调用记录 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型调用记录”。 在“模型调用记录”页面,通过筛选调用方式、时间范围、状态,或输入模型名称
创建路由策略用于提供模型服务 通过配置路由策略,可以实现模型故障自动切换能力,当模型A因故障等原因无法正常工作时,可以自动切换为另一个可用的模型提供服务,从而提高模型服务的稳定性和可用性。 路由策略创建完成后,可以进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。
AI原生应用引擎、运维中心、运营中心服务授权操作请参考配置AI原生应用引擎/运维中心/运营中心服务授权。 AppStage服务的开发中心深度集成CodeArts服务的功能,订购开发中心后,需在AppStage控制台关联已开通的CodeArts服务才能正常使用,开发中心部分功能需
如何对模型供应商提供的模型服务设置鉴权 租户对第三方模型服务调测前需设置鉴权,具体鉴权信息则需根据界面提示前往模型供应商官网进行申请。 前提条件 需要具备AI原生应用引擎管理员权限,权限申请操作请参见AppStage组织成员申请权限。 操作步骤 在AI原生应用引擎左侧导航栏选择“系统管理
件会按照自动切分处理)。 自定义切分:自定义分段规则,分隔符,以及分段长度等参数。 标题层级深度 数据切分模式为“标题切分”时,需配置此参数。 例如文本包含最多5级标题,选择的标题层级深度为3,则会分别将所有3级标题下的内容合并成文本块,文本块作为一个整体执行后续切分操作。 标题保存方式
AI原生应用引擎、运维中心、运营中心服务授权操作请参考配置AI原生应用引擎/运维中心/运营中心服务授权。 AppStage服务的开发中心深度集成CodeArts服务的功能,订购开发中心后,需在AppStage控制台关联已开通的CodeArts服务才能正常使用,开发中心部分功能需
基于微调数据集进行模型微调 创建微调数据集 对微调数据集进行数据标注 创建模型微调任务 父主题: 管理模型
收藏平台资产中心的模型 支持收藏平台资产中心预置的模型和服务商提供的模型。将自己关注的或后续计划使用的模型收藏后,可便捷地在收藏列表中进行部署、微调、体验。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏平台资产中心的模型
创建微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景,往往需要对大语言模型进行模型微调以适应特定任务。微调数据集是模型微调的基础,通过在微调数据集上进行训练从而获得改进后的新模型。 平台在资产中心预置了部分微调数据集,同时也支持用户根据需求自定义创建微调数据集。本文介绍如何创建微调数据集。
数据模型修改或者删除失败 问题描述 修改/删除数据模型时,提示修改/删除失败。 处理方法 检查数据模型是否已经被指标使用。 父主题: 运营中心
在运营中心创建数据模型 运营中心提供数据建模能力,运营人员可以新建数据模型,也可以通过逆向数据库生成数据模型。通过提供多表关联建模整合表能力,一个数据模型可以映射多个数据表数据。 前提条件 需要具备AppStage指标开发者或运营管理员权限,权限申请的操作请参见权限管理。 已完成接入运营数据。
文本对话 功能介绍 调用大语言模型推理服务,根据用户问题,获取大语言模型的回答。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/chat/completions 请求参数 表1 请求Header参数 参数 是否必选 参数类型
的形式,以便进行各种任务,如文本分类、情感分析、机器翻译等。 多模态模型 多模态模型是指能够处理多种类型数据(如文本、图像、音频等)的机器学习模型。这些模型可以将不同类型的数据进行融合和联合分析,从而实现更全面的理解和更准确的预测。多模态模型的应用非常广泛,例如在图像识别中,可以
对微调数据集进行数据标注 数据标注是将微调数据集中的某些元素进行标记或分类,以便模型可以更好地理解和使用这些数据。例如,在自动驾驶的应用中,云数据可以被标注为包含建筑物、其他小物体、交通工具等信息,以便模型可以识别和理解这些对象。在辅助数据标注的方法中,通过训练模型,可以实现标注结果,从而提高数据的质量和准确性。
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
文本向量化 功能介绍 将用户输入的文本转化成数字向量,多用于从向量化知识库中查询相似的文本。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/embeddings 请求参数 表1 请求Header参数 参数 是否必选 参数类型
非必填项,团队空间的功能描述或其他备注信息。 单击“创建”。 在“我的团队”区域可查看到创建的团队的卡片。 步骤三:配置服务扩展信息 开发中心深度集成CodeArts服务的功能,需组织管理员或项目经理对当前服务关联CodeArts项目,后续的服务开发过程中才能正常使用CodeArts
收藏预置微调数据集 支持收藏平台资产中心预置的模微调数据集,将自己关注的微调数据集收藏后,可便捷地在收藏列表中查看数据集详情。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏预置微调数据集 在AI原生应用引擎的左侧导航栏选择“资产中心”。