检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用“能力调测”调用NLP大模型 能力调测功能支持用户调用预置或训练后的NLP大模型。使用该功能前，请完成模型的部署操作，步骤详见创建NLP大模型部署任务。 使用“能力调测”调用NLP大模型可实现文本对话能力，即在输入框中输入问题，模型将基于问题输出相应的回答，具体步骤如下： 登录ModelArts
project_id 是 String 项目ID，获取方法请参见获取项目ID。 deployment_id 是 String 模型的部署ID，获取方法请参见获取模型部署ID。 请求参数 表2 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。
查看专业大模型部署任务详情 部署任务创建成功后，可以查看大模型部署的任务详情，具体步骤如下： 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“模型开发 > 模型部署”，完成创建专业大模型部署任务后，可以查看模型的部署状态。
型的部署状态。 当状态显示为“运行中”时，表示模型已成功部署。此过程可能需要较长时间，请耐心等待。 可单击模型名称可进入详情页，查看模型的部署详情、部署事件、部署日志等信息。 图1 部署详情 父主题： 部署科学计算大模型
在“创建评测任务”页面，参考表1完成部署参数设置。 表1 NLP大模型自动评测任务参数说明 参数分类 参数名称 参数说明 选择服务 模型来源 选择“NLP大模型”。 服务来源 支持已部署服务、外部服务两种选项。单次最多可评测10个模型。 已部署服务：选择部署至ModelArts Studio平台的模型进行评测。
压缩NLP大模型 模型在部署前，通过模型压缩可以降低推理显存占用，节省推理资源提高推理性能。 平台当前仅可对NLP大模型进行压缩，支持压缩的模型清单请详见《产品介绍》> “模型能力与规格 > 盘古NLP大模型能力与规格”。 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。
在“创建发布任务”页面，选择数据集模态，如“气象 > 气象数据”类型的数据集。 图1 选择数据集模态 选择数据集，单击“下一步”。 在“基本配置”中选择数据用途、数据集可见性、适用场景。当前气象类数据集仅支持发布标准格式。 填写数据集名称、描述，设置扩展信息后，单击“确定”执行数据集发布操作。
部署NLP大模型 创建NLP大模型部署任务 查看NLP大模型部署任务详情 管理NLP大模型部署任务 父主题： 开发盘古NLP大模型
为了帮助用户更好地管理和优化Token消耗，平台提供了Token计算器工具。Token计算器可以帮助用户在模型推理前评估文本的Token数量，提供费用预估，并优化数据预处理策略。 Token计算器 用户在部署服务的过程中，建议开启“安全护栏”功能，以保证内容的安全性。 父主题： 使用前必读
获取模型部署ID 模型部署ID获取步骤如下： 登录ModelArts Studio大模型开发平台。 获取模型请求URI。 若调用部署后的模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“我的服务”页签，模型部署列表单击模型名称，在“详情”页签中，可获取模型的部署ID。 图1
在“创建发布任务”页面，选择数据集模态，如“其他 > 自定义”类型的数据集。 图1 选择数据集模态 选择数据集，单击“下一步”。 在“基本配置”中选择数据用途、数据集可见性、适用场景。当前其他类数据集仅支持发布标准格式。 填写数据集名称、描述，设置扩展信息后，单击“确定”执行数据集发布操作。
在“创建发布任务”页面，选择数据集模态，如“预测 > 时序”类型的数据集。 图1 选择数据集模态 选择数据集，单击“下一步”。 在“基本配置”中选择数据用途、数据集可见性、适用场景。当前预测类数据集仅支持发布标准格式。 填写数据集名称、描述，设置扩展信息后，单击“确定”执行数据集发布操作。
2024年10月发布的版本，用于降水预测，支持1个实例部署推理。 Pangu-AI4S-Weather-Precip_6h-3.0.0 2024年12月发布的版本，相较于10月发布的版本模型运行速度有提升，用于降水预测，支持1个实例部署推理。 Pangu-AI4S-Weather-Precip_6h-3
在“创建发布任务”页面，选择数据集模态，如“视频 > 仅视频”类型的数据集。 图1 选择数据集模态 选择数据集，单击“下一步”。 在“基本配置”中选择数据用途、数据集可见性、适用场景。当前视频类数据集仅支持发布标准格式。 填写数据集名称、描述，设置扩展信息后，单击“确定”执行数据集发布操作。
t_knee、right_knee、left_ankle、right_ankle。 skeleton 是 定义骨架连接的列表，用于表示关键点之间的连接关系。每个连接用一对关键点索引表示，如 [1, 2]，表示鼻子（nose）到左眼（left_eye）的连线。 实例分割数据集标注文件说明
单击“下一步”，选择发布格式，填写名称，选择数据集可见性，单击“下一步”。 如果评测盘古大模型， 需要在流通数据集时，将数据集格式发布为“盘古格式”。 选择“资源配置”，并单击“确定”。待任务状态为“运行成功”后，单击“启动”，生成“发布数据集”。 父主题： 评测NLP大模型
部署科学计算大模型 创建科学计算大模型部署任务 查看科学计算大模型部署任务详情 管理科学计算大模型部署任务 父主题： 开发盘古科学计算大模型
进入“加工步骤编排”页面。对于视频类数据集，可选择的加工算子请参见表1。 在左侧“添加算子”分页勾选所需算子。 在右侧“加工步骤编排”页面配置各算子参数，可拖动右侧“”以调整算子执行顺序。 图1 算子编排 在编排过程中，可单击右上角“保存为新模板”将当前编排流程保存为模板。后续创
进入“加工步骤编排”页面。对于气象类数据集，可选择的加工算子请参见表1。 在左侧“添加算子”分页勾选所需算子。 在右侧“加工步骤编排”页面配置各算子参数，可拖动右侧“”以调整算子执行顺序。 图1 算子编排 在编排过程中，可单击右上角“保存为新模板”将当前编排流程保存为模板。后续创
部署专业大模型 创建专业大模型部署任务 查看专业大模型部署任务详情 管理专业大模型部署任务 父主题： 开发盘古专业大模型
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
