检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
API请求信息配置示例 自定义插件使用HTTP服务,或不增加鉴权方式可能存在安全风险。 单击“下一步”,在“参数信息”页面,参照表2完成参数配置。 表2 插件参数配置说明 参数类型 参数名称 参数说明 请求参数 参数封装 开启后,会将请求参数封装为一个列表(数组)结构,可适配入参为数组格式的插件接口。
若调用预置模型,可在左侧导航栏中选择“模型开发 > 模型部署”,在“预置服务”页签,模型列表单击“调用路径”,获取该模型的请求URI。 图2 预置模型的调用路径 获取Agent应用请求URI。 单击左侧导航栏“Agent开发”,进入“工作台 > 应用”页面,选择需要部署的应用,单击“
进入所需空间。 在左侧导航栏中选择“模型开发 > 模型训练”,单击界面右上角“创建训练任务”。 在“创建训练任务”页面,参考表2完成训练参数设置。 表2 NLP大模型全量微调参数说明 参数分类 训练参数 参数说明 训练配置 模型来源 选择“盘古大模型”。 模型类型 选择“NLP大模型”。
获取预置服务的调用路径。在“预置服务”页签中,选择所需调用的科学计算大模型,单击“调用路径”,在“调用路径”弹窗可获取模型调用路径,如图2。 图2 获取预置服务的调用路径 使用Postman调用API 在Postman中新建POST请求,并填入模型调用路径,详见获取调用路径。 调用
ts答案1、2、3表示答案的优劣顺序,最好的答案排在最前面。 { "context":"context内容","targets":["回答1","回答2","回答3"]} csv格式:csv文件的第一列对应context,其余列为答案。 "问题","回答1","回答2","回答3"
在左侧导航栏中选择“模型开发 > 模型评测 > 任务管理”,单击界面右上角“创建评测任务”。 在“创建评测任务”页面,参考表2完成部署参数设置。 表2 NLP大模型人工评测任务参数说明 参数分类 参数名称 参数说明 选择服务 模型来源 选择“NLP大模型”。 服务来源 支持已部
件夹或文件”。 图1 支持导入单个文件示例 图片、视频(事件检测)、气象类数据集仅支持文件夹导入,导入界面提示用户:“请选择文件夹”。 图2 不支持导入单个文件示例 父主题: 大模型使用类
、湿度和海平面气压等。其中,每个特征包含时间、经度、纬度等多个维度,通常采用NetCDF(.nc)、GRIB(.grib)和GRIB2(.grib2)等格式、以网格形式存储。本案例推荐的公开数据集如下: Hycom公开数据集: HYCOM再分析产品是美国海军研究实验室利用海军耦合海洋资料同化系统(Navy
用于选择是否输出图片结果。 天气/降水预测场景的参数配置示例如下: 图1 调测科学计算大模型示例1(天气/降水预测) 图2 调测科学计算大模型示例2(天气/降水预测) 海洋类预测场景的参数配置,请参考表2。 表2 科学计算大模型能力调测参数说明(海洋类预测) 参数 说明 场景 支持选择全球海洋要素、区域海洋要素、全球海洋生态、全球海浪高度。
Form”,基于页面提示单击“Download”下载数据。 图2 下载表面变量数据 构建科学计算大模型数据集流程 在ModelArts Studio大模型开发平台中,使用数据工程创建盘古科学计算大模型数据集流程见表2。 表2 盘古科学计算大模型数据集构建流程 流程 子流程 说明 操作指导
计算大模型。用户可将预置模型部署为预置服务,用于后续的调用操作。 其中,NLP预置模型使用流程见图1、表1,科学计算预置模型使用流程见图2、表2。 图1 NLP预置模型使用流程图 表1 NLP预置模型使用流程表 流程 子流程 说明 操作指导 准备工作 申请试用盘古大模型服务 盘古
Studio大模型开发平台承载,它提供了包括盘古大模型在内的多种大模型服务,提供覆盖全生命周期的大模型工具链。 产品介绍 立即使用 在线体验 图说ECS 成长地图 由浅入深,带您玩转盘古大模型 01 了解 了解盘古大模型的概念、优势、应用场景以及模型能力与规格,您将更全面地掌握其强大功能,
、grb、grib、grb1、grib1、gr2、grb2、grib2 预测类 时序 csv 回归分类 csv 其他类 自定义 支持构建用户自定义场景下所需的数据集类型。 各类数据支持的操作 各类型数据支持的数据工程操作见表2。 表2 各类数据支持的操作 数据类型 数据获取 数据加工
在调用盘古API时,获取的项目id需要与盘古服务部署区域一致,例如盘古大模型当前部署在“西南-贵阳一”区域,需要获取与贵阳一区域的对应的项目id。 图2 获取项目ID 多项目时,展开“所属区域”,从“项目ID”列获取子项目ID。 调用API获取项目ID 项目ID还可通过调用查询指定条件下的项目信息API获取。
页签查看对应编程语言类型的SDK代码。 图1 获取SDK代码示例 当您在中间填充栏填入对应内容时, 右侧代码示例会自动完成参数的组装。 图2 设置输入参数 填写输入参数时,deployment_id为模型部署ID,获取方式如下: 若调用部署后的模型,可在左侧导航栏中选择“模型开发
使用数据工程构建盘古NLP大模型数据集进行模型训练时,所需数据量见表2。 表2 构建NLP大模型所需数据量 模型规格 训练类型 推荐数据量 最小数据量(数据条数) 单场景推荐训练数据量 单条数据Token长度限制 N1 微调 - 1000条/每场景 ≥ 1万条/每场景 32K N2 微调 - 1000条/每场景 ≥
的NLP服务作为AI辅助标注模型。 可选择开启“多人作业”功能,开启后,可选择多人协同完成作业,并增加审核功能可供选择。参考表2配置标注分配与审核。 表2 标注分配与审核配置 参数类型 参数名称 参数说明 标注分配 标注员 添加标注人员与数量。 标注审核 是否审核 否,标注后不进行审核操作。