华为云用户手册

科学计算大模型支持的平台操作 在选择和使用盘古大模型时，了解不同模型所支持的操作行为至关重要。不同模型在预训练、微调、模型评测、模型压缩、在线推理和能力调测等方面的支持程度各不相同，开发者应根据自身需求选择合适的模型。以下是盘古科学计算大模型支持的具体操作： 表2 盘古科学计算大模型支持的操作 模型名称 模型版本及时间分辨率 预训练 微调 模型评测 模型压缩 在线推理 能力调测 Pangu-AI4S-Global-Ocean v1.1.2（时间分辨率：24h） - - - - √ √ Pangu-AI4S-Regional-Ocean v1.1.2（时间分辨率：24h） √ √ - - √ √ Pangu-AI4S-Global-Ecology v1.1.2（时间分辨率：24h） - - - - √ √ Pangu-AI4S-Global-Swell v1.1.2（时间分辨率：24h） - - - - √ √ Pangu-AI4S-Global-Weather v1.1.2（时间分辨率：1h） √ √ - - √ √ Pangu-AI4S-Global-Weather v1.2.2（时间分辨率：3h） √ √ - - √ √ Pangu-AI4S-Global-Weather v1.3.2（时间分辨率：6h） √ √ - - √ √ Pangu-AI4S-Global-Weather v2.1.2（时间分辨率：6h） - - - - √ √ Pangu-AI4S-Global-Weather v1.4.2（时间分辨率：24h） √ √ - - √ √ Pangu-AI4S-Global-Precip v1.1.2（时间分辨率：6h） - - - - √ √ Pangu-AI4S-Regional-Pollution v1.1.2（时间分辨率：1h） √ √ - - √ √

科学计算大模型对资源池的依赖 科学计算的全部模型的训练、在线部署与边缘部署依赖ARM+Snt9B3资源。 模型名称 模型版本及时间分辨率 云上部署 边缘部署 ARM+Snt9B3 ARM+Snt9B3 Pangu-AI4S-Global-Ocean v1.1.2（时间分辨率：24h） 支持 支持 Pangu-AI4S-Regional-Ocean v1.1.2（时间分辨率：24h） 支持 支持 Pangu-AI4S-Global-Ecology v1.1.2（时间分辨率：24h） 支持 支持 Pangu-AI4S-Global-Swell v1.1.2（时间分辨率：24h） 支持 支持 Pangu-AI4S-Global-Weather v1.1.2（时间分辨率：1h） 支持 支持 Pangu-AI4S-Global-Weather v1.2.2（时间分辨率：3h） 支持 支持 Pangu-AI4S-Global-Weather v1.3.2（时间分辨率：6h） 支持 支持 Pangu-AI4S-Global-Weather v2.1.2（时间分辨率：6h） 支持 支持 Pangu-AI4S-Global-Weather v1.4.2（时间分辨率：24h） 支持 支持 Pangu-AI4S-Global-Precip v1.1.2（时间分辨率：6h） 支持 支持 Pangu-AI4S-Regional-Pollution v1.1.2（时间分辨率：1h） 支持 支持

科学计算大模型规格 盘古科学计算大模型面向气象、医药、水务、机械、航天航空等领域，融合了AI数据建模和AI方程求解方法。该模型从海量数据中提取数理规律，利用神经网络编码微分方程，通过AI模型更快速、更精准地解决科学计算问题。 ModelArts Studio大模型开发平台为用户提供了多种规格的科学计算大模型，以满足不同场景和需求。以下是当前支持的模型清单，您可以根据实际需求选择最合适的模型进行开发和应用。 表1 盘古科学计算大模型规格 模型支持区域 模型名称 模型版本及时间分辨率 说明 西南-贵阳一 Pangu-AI4S-Global-Ocean v1.1.2（时间分辨率：24h） 2025年3月发布的版本，用于海洋基础要素预测，可支持1个实例部署推理。 Pangu-AI4S-Regional-Ocean v1.1.2（时间分辨率：24h） 2025年3月发布的版本，用于区域海洋基础要素预测，1个训练单元起训及1个实例部署。 Pangu-AI4S-Global-Ecology v1.1.2（时间分辨率：24h） 2025年3月发布的版本，用于海洋生态要素预测，可支持1个实例部署推理。 Pangu-AI4S-Global-Swell v1.1.2（时间分辨率：24h） 2025年3月发布的版本，用于海浪预测，可支持1个实例部署推理。 Pangu-AI4S-Global-Weather v1.1.2（时间分辨率：1h） 2025年3月发布的版本，用于天气基础要素预测，时间分辨率为1小时，1个训练单元起训及1个实例部署。 Pangu-AI4S-Global-Weather v1.2.2（时间分辨率：1h） 2025年3月发布的版本，用于天气基础要素预测，时间分辨率为3小时，1个训练单元起训及1个实例部署。 Pangu-AI4S-Global-Weather v1.3.2（时间分辨率：6h） 2025年3月发布的版本，用于天气基础要素预测，时间分辨率为6小时，1个训练单元起训及1个实例部署。 Pangu-AI4S-Global-Weather v2.1.2（时间分辨率：6h） 2025年3月发布的版本，用于天气基础要素预测，时间分辨率为6小时，预报准确度更高，1个实例部署。 Pangu-AI4S-Global-Weather v1.4.2（时间分辨率：24h） 2025年3月发布的版本，用于天气基础要素预测，时间分辨率为24小时，1个训练单元起训及1个实例部署。 Pangu-AI4S-Global-Precip v1.1.2（时间分辨率：6h） 2025年3月发布的版本，用于降水预测，支持1个实例部署推理。 Pangu-AI4S-Regional-Pollution v1.1.2（时间分辨率：1h） 2025年3月发布的版本，用于区域污染物基础要素预测，1个训练单元起训及1个实例部署。

盘古NLP大模型对资源池的依赖 模型名称 云上部署 边缘部署 ARM+Snt9B3 ARM+Snt9B3 Pangu-NLP-N1-32K-3.1.34 支持 - Pangu-NLP-N1-32K-3.2.36 支持 - Pangu-NLP-N1-128K-3.1.34 支持 - Pangu-NLP-N1-128K-3.2.36 支持 - Pangu-NLP-N2-4K-3.2.35 支持 支持 Pangu-NLP-N2-8K-3.1.39 支持 - Pangu-NLP-N2-32K-3.1.35 支持 支持 Pangu-NLP-N2-128K-3.1.35 支持 - Pangu-NLP-N2-256K-3.1.35 支持 - Pangu-NLP-N2-Reasoner-32K-3.0.0.1 支持 - Pangu-NLP-N4-4K-3.2.36 支持 - Pangu-NLP-N4-4K-2.5.32 支持 - Pangu-NLP-N4-4K-2.5.35 支持 - Pangu-NLP-N4-32K-2.5.32 支持 - Pangu-NLP-N4-32K-2.5.35 支持 - Pangu-RAG-N1-32k 支持 -

盘古NLP大模型规格 盘古NLP大模型是业界首个超千亿参数的中文预训练大模型，结合了大数据预训练和多源知识，借助持续学习不断吸收海量文本数据，持续提升模型性能。除了实现行业知识检索、文案生成、阅读理解等基础功能外，盘古NLP大模型还具备模型调用等高级特性，可在智能客服、创意营销等多个典型场景中，提供强大的AI技术支持。 ModelArts Studio大模型开发平台为用户提供了多种规格的NLP大模型，以满足不同场景和需求。不同模型在处理上下文token长度和功能上有所差异，以下是当前支持的模型清单，您可以根据实际需求选择最合适的模型进行开发和应用。 表1 盘古NLP大模型规格 模型支持区域 模型名称 可处理最大上下文长度 可处理最大输出长度 说明 西南-贵阳一 Pangu-NLP-N1-32K-3.1.34 32K 4K 2024年11月发布的版本，支持8K序列长度训练，4K/32K序列长度推理。全量微调、LoRA微调8个训练单元起训，1个推理单元即可部署，4K支持256并发，32K支持256并发。 Pangu-NLP-N1-32K-3.2.36 32K 4K 2025年1月发布的版本，支持32K序列长度训练，4K/32K序列长度推理。全量微调、LoRA微调8个训练单元起训，1个推理单元即可部署，4K支持256并发，32K支持256并发。 Pangu-NLP-N1-128K-3.1.34 128K 4K 2024年11月发布的版本，仅支持128K序列长度推理，4个推理单元2并发。 Pangu-NLP-N1-128K-3.2.36 128K 4K 2025年1月发布的版本，仅支持128K序列长度推理，4个推理单元8并发。 Pangu-NLP-N2-4K-3.2.35 4K 4K 2025年1月发布的版本，支持4K序列长度训练，4K序列长度推理。全量微调、RFT微调32个训练单元起训，LoRA微调8个训练单元起训，支持混合部署和分离部署，4个推理单元即可部署，支持192并发。此模型版本差异化支持RFT训练、分离部署、边缘部署特性。 Pangu-NLP-N2-8K-3.1.39 8K 4K 2025年3月发布的版本，支持8K序列长度训练，8K序列长度推理。预训练、全量微调、DPO训练支持32个训练单元起训，LoRA微调支持8个训练单元起训，4个推理单元即可部署，支持192并发。 Pangu-NLP-N2-32K-3.1.35 32K 4K 2025年1月发布的版本，支持32K序列长度训练，32K序列长度推理。全量微调32个训练单元起训，LoRA微调8个训练单元起训，支持混合部署和分离部署，4个推理单元即可部署，支持128并发。此模型版本差异化支持分离部署、边缘部署特性。 Pangu-NLP-N2-128K-3.1.35 128K 4K 2024年12月发布的版本，仅支持128K序列长度推理部署，8个推理单元64并发。 Pangu-NLP-N2-256K-3.1.35 256K 4K 2024年12月发布的版本，仅支持256K序列长度推理部署，8个推理单元64并发。 Pangu-NLP-N2-Reasoner-32K-3.0.0.1 32K 4K 2025年3月发布的版本，仅支持32K序列长度推理部署，4个推理单元32并发。 Pangu-NLP-N4-4K-3.2.36 4K 4K 2025年3月发布的版本，支持4K序列长度训练，4K序列长度推理。预训练、全量微调、DPO训练64个训练单元起训，LoRA微调8个训练单元起训，8个推理单元即可部署，支持128并发。 Pangu-NLP-N4-4K-2.5.32 4K 4K 2024年11月发布的版本，支持4K序列长度训练，4K序列长度推理。全量微调64个训练单元起训，LoRA微调32个训练单元起训，8个推理单元即可部署，支持64并发。此模型版本差异化支持预训练、INT8/INT4量化特性。 Pangu-NLP-N4-4K-2.5.35 4K 4K 2025年1月发布的版本，支持4K序列长度训练，4K序列长度推理。全量微调64个训练单元起训，LoRA微调32个训练单元起训，8个推理单元即可部署，支持128并发。此模型版本差异化支持预训练、INT8/INT4量化特性。 Pangu-NLP-N4-32K-2.5.32 32K 4K 2024年11月发布的版本，仅支持32K序列长度推理部署，8个推理单元64并发。 Pangu-NLP-N4-32K-2.5.35 32K 4K 2025年1月发布的版本，仅支持32K序列长度推理部署，8个推理单元128并发。 Pangu-RAG-N1-32k 32K - 2025年4月份发布的版本，支持32K序列长度推理，1个推理单元可部署，最高支持1QPS。该模型是基于盘古NLP大模型微调得到的RAG场景模型，提供对话问答能力。

盘古NLP大模型支持的平台操作 在选择和使用盘古大模型时，了解不同模型所支持的操作行为至关重要。不同模型在预训练、微调、模型评测、在线推理和能力调测等方面的支持程度各不相同，开发者应根据自身需求选择合适的模型。以下是盘古NLP大模型支持的具体操作： 表2 盘古NLP大模型支持的能力 模型名称 预训练 微调 模型评测 模型压缩 在线推理 能力调测 Pangu-NLP-N1-32K-3.1.34 - √ √ - √ √ Pangu-NLP-N1-32K-3.2.36 - √ √ √ √ √ Pangu-NLP-N1-128K-3.1.34 - - √ - √ √ Pangu-NLP-N1-128K-3.2.36 - - √ - √ √ Pangu-NLP-N2-4K-3.2.35 √ √ √ √ √ √ Pangu-NLP-N2-8K-3.1.39 √ √ √ √ √ √ Pangu-NLP-N2-32K-3.1.35 √ √ √ √ √ √ Pangu-NLP-N2-128K-3.1.35 - - √ - √ √ Pangu-NLP-N2-256K-3.1.35 - - √ - √ √ Pangu-NLP-N2-Reasoner-32K-3.0.0.1 - - - - √ √ Pangu-NLP-N4-4K-3.2.36 √ √ √ √ √ √ Pangu-NLP-N4-4K-2.5.32 √ √ √ √ √ √ Pangu-NLP-N4-4K-2.5.35 √ √ √ √ √ √ Pangu-NLP-N4-32K-2.5.32 - - √ - √ √ Pangu-NLP-N4-32K-2.5.35 - - √ - √ √ Pangu-RAG-N1-32k - - - - √ -

Agent开发 Agent开发平台为开发者提供了一个全面的工具集，帮助您高效地开发、优化和部署应用智能体。无论您是新手还是有经验的开发者，都能通过平台提供的提示词工程、插件扩展、灵活的工作流设计和全链路调测功能，快速实现智能体应用的开发与落地，加速行业AI应用的创新与应用。 对于零码开发者（无代码开发经验的用户）： 平台提供了Prompt提示词工程和插件自定义等功能，帮助用户在无需编写代码的情况下，快速构建、调优并运行属于自己的大模型应用。通过简单的配置，用户可以轻松创建Agent应用，快速体验智能化应用的便捷性。 平台提供导入知识功能，支持用户存储和管理数据，并与AI应用进行互动。支持多种格式的本地文档（如docx、pptx、pdf等），方便导入至知识，为Agent应用提供个性化数据支持。 平台还提供全链路信息观测和调试工具，支持开发者深入分析Agent执行过程中的每个环节。通过对信息进行分层展示，帮助开发者优化AI应用的性能和稳定性，确保应用在不同环境下的顺畅运行。 对于低码开发者（具有一定代码开发经验的用户）： 基于上述功能，平台还提供了灵活的工作流设计功能，支持用户编写少量代码来构建逻辑复杂、稳定性要求高的Agent应用。通过拖拉拽方式，开发者可以组合各种组件（如大模型、代码、意图识别等），快速搭建工作流，实现更高效的应用开发。 平台还提供全链路信息观测和调试工具，支持开发者深入分析工作流执行过程中的每个环节。通过对信息进行分层展示，帮助开发者优化AI应用的性能和稳定性，确保应用在不同环境下的顺畅运行。 父主题： 产品功能

模型开发 ModelArts Studio大模型开发平台提供了模型开发功能，涵盖了从模型训练到模型调用的各个环节。平台支持全流程的模型生命周期管理，确保从数据准备到模型部署的每一个环节都能高效、精确地执行，为实际应用提供强大的智能支持。 模型训练：在模型开发的第一步，ModelArts Studio大模型开发平台为用户提供了丰富的训练工具与灵活的配置选项。用户可以根据实际需求选择合适的模型架构，并结合不同的训练数据进行精细化训练。平台支持分布式训练，能够处理大规模数据集，从而帮助用户快速提升模型性能。该模块提供预训练、全量微调、LoRA微调等。 模型评测：为了确保模型的实际应用效果，平台提供了多维度的模型评测功能。通过自动化的评测机制，用户可以在训练过程中持续监控模型的精度、召回率等关键指标，及时发现潜在问题并优化调整。评测功能能够帮助用户在多种应用场景下验证模型的准确性与可靠性。支持基于规则的自动评测方式，NLP模型展示准确率，F1分数，BLEU、ROUGE等自动评测指标，支持支持人工评测自定义配置评测指标；并且支持基于人工评价操作界面，对模型表现从不同评价指标进行打分。 模型压缩：在模型部署前，进行模型压缩是提升推理性能的关键步骤。通过压缩模型，能够有效减少推理过程中的显存占用，节省推理资源，同时提高计算速度。当前，平台支持对NLP大模型进行压缩，目前支持INT8、INT4量化压缩。 模型部署：平台提供了一键式模型部署功能，用户可以轻松将训练好的模型部署到云端或本地环境中。平台支持多种部署模式，能够满足不同场景的需求。通过灵活的API接口，模型可以无缝集成到各类应用中。 模型调用：在模型部署后，用户可以通过模型调用功能快速访问模型的服务。平台提供了高效的API接口，确保用户能够方便地将模型嵌入到自己的应用中，实现智能对话、文本生成等功能。 父主题： 产品功能

数据工程 ModelArts Studio开发平台提供了全面的数据工程功能。该模块涵盖数据获取、加工、标注、评估和发布等关键环节，帮助用户高效构建高质量的训练数据集，推动AI应用的成功落地。具体功能如下： 数据获取：用户可以轻松将多种类型的数据导入ModelArts Studio大模型开发平台，支持的数据类型包括文本、图片、视频、气象、预测数据以及用户自定义的其他类型数据。平台提供灵活的数据接入方式以及支持多种文件格式导入，确保不同业务场景下的数据获取需求得到满足。 数据加工：平台提供强大的数据加工功能，可以对文本、视频、图片、气象类型的数据进行数据提取、过滤、转换、打标签和评分等加工处理。针对不同类型的数据集，平台提供了专用的清洗算子以及支持用户创建自定义算子实现个性化的数据清洗诉求。确保生成高质量的训练数据以满足业务需求和模型训练的要求。用户还可以灵活地调整算子编排顺序以及自定义清洗模板，有效提升数据清洗效率并支持大规模数据处理，确保生成的数据集符合训练的标准。 数据合成：平台支持利用预置或自定义的数据指令对预训练文本、单轮问答、单轮问答（人设））数据集类型进行处理，并根据设定的轮数生成新数据。通过数据合成技术，可以生成大量高质量的训练数据，这些数据可以用于大模型的预训练，增强模型的泛化能力和性能。 数据标注：平台支持对无标签的数据添加标签或对现有的标签进行重新标注，以提升数据集的标注质量。用户可以针对不同的数据集灵活地选择对应的标注项，还可以自定义选择多人标注、审核以及标注任务移交。针对文本和图片类数据集，平台还提供AI预标注功能。利用盘古大模型的智能能力，显著降低人工标注的工作量和成本，从而显著地提高标注效率。 数据评估：平台支持对处理后的文本、图片、视频等多种格式数据进行质量评估，并预置了基础的评估标准，用户可以直接使用预置标准或创建自定义评估标准，以满足个性化的数据质量需求。最终生成详细的质量评估报告，这些报告能够帮助用户检验数据的准确性、完整性和一致性，确保数据在进行模型训练前的高质量标准，以保证模型在实际应用中的可靠性和稳定性。 数据配比：平台支持对文本、图片类数据进行数据配比。用户在勾选数据集时可以勾选多条，通过调整不同来源或类型数据的比例，以优化模型训练过程。通过数据配比可以确保模型能够更全面地学习和理解数据的多样性，提高模型的泛化能力和性能。 数据发布：平台支持数据集发布。用户可以将处理后的数据集发布为多种格式，包括标准格式和盘古格式。尤其对于文本类和图片类数据集，平台支持将其转换为专门用于训练盘古大模型的盘古格式，为后续模型训练提供高效的数据支持。 数据管理：平台支持数据全链路血缘追溯，用户单击数据集名称可以在“数据血缘”页签，查看该数据集所经历的操作。全链路血缘追溯可以帮助用户正向实现数据集影响分析，逆向实现快速问题追踪，提升数据运维和 数据治理 的效率，帮助用户更好地对数据进行追根溯源。另外平台还提供了完善的标签体系、支持数据按行业标准进行分类、按行业标准进行安全分级、内置场景分类标签。帮助用户进行数据分类、数据质量控制和数据资产管理，提升数据治理的效率和效果。 通过整合上述功能，数据工程在AI研发中不仅帮助用户高效构建高质量的训练数据集，还通过全流程的数据处理和管理，探索数据与模型性能的内在联系，为模型训练和应用提供坚实的数据基础，推动了模型的精确训练与持续优化，提升了AI应用开发的效率和成果的可靠性。 父主题： 产品功能

空间管理 ModelArts Studio大模型开发平台为用户提供了灵活且高效的空间资产管理方式。平台支持用户根据不同的使用场景、项目类别或团队需求，自定义创建多个工作空间。每个工作空间都是完全独立的，确保了工作空间内的资产不受其他空间的影响，从而保障数据和资源的隔离性与安全性。用户可以根据需求灵活划分工作空间，实现资源的有序管理与优化配置，确保各类资源在不同场景中的最大化利用。为进一步优化资源的管理，平台还提供了多种角色权限体系。用户可以根据自身角色从管理者到各模块人员进行不同层级的权限配置，确保每个用户在其指定的工作空间内，拥有合适的访问与操作权限。这种精细化的权限管理方式，既保证了数据的安全性，又提高了资源的高效利用。 在平台中，空间资产指的是存储在工作空间中的所有资源，包括数据资产和模型资产。这些资产是用户在平台上进行开发和管理的基础，集中存储和统一管理的方式有助于提升操作效率，并确保资源的规范性与安全性。 数据资产：数据资产是指用户在平台上发布的所有数据集。这些数据集会被存储在数据资产中，用户可以随时查看数据集的详细信息，如数据格式、大小、配比比例等，同时平台会自动记录每个数据集的操作历史，例如创建、发布及上线等过程。为了进一步简化管理，平台还支持数据集的删除功能，使用户能够对数据集进行灵活管理和调整。在模型训练和数据分析过程中，用户可以根据需求调用这些数据集，确保数据的准确性与安全性，从而提升数据资产的利用率。同时支持数据集发布到Gallery，支持从Gallery订阅数据集。 模型资产：模型资产包括用户试用、订购或在平台上训练后发布的模型，这些模型统一存储在模型资产中，便于集中管理。用户可以查看模型的所有历史版本及操作记录，从而了解模型的演变过程。同时，平台支持一系列便捷的模型操作，如模型训练、压缩和部署，帮助用户简化模型开发和应用流程。此外，平台还提供了导入和导出功能，支持用户将其他局点的盘古大模型迁移到本地局点，这使得模型资产在不同局点间的共享和管理变得更加灵活高效。同时支持模型发布到Gallery，支持从Gallery订阅模型。 通过统一管理空间资产，平台不仅帮助用户高效组织和利用资源，还保障了资产的安全性、一致性与灵活性。这些功能的结合，确保了平台上资源的高效利用与智能配置，为用户提供了更为便捷的开发和管理体验。 父主题： 产品功能

降水预测 科学计算大模型包括全球中期天气要素模型和降水模型，可以对未来一段时间的天气和降水进行预测，全球中期天气要素模型和降水模型能够在全球范围内进行预测，不仅仅局限于某个地区。它的分辨率相当于赤道附近每个点约25公里x25公里的空间。通过降水模型预测未来的降雨情况，农民和农业管理者可以更有效地规划灌溉时间和频率，也能为可能发生的干旱提供预警，使农业部门能够及时采取措施，如推广节水技术或调整种植计划。

城市治理 传统算法在治理交通拥堵下是基于人为预先设定的规则逻辑进行判断，灵活性缺失，例如交通拥堵是基于视频画面的车辆检测+跟踪，综合判断是否有大量车停留等待，从而判断交通拥堵。但如果要进一步分析交通拥堵的原因，传统视觉算法就犯难了，盘古CV大模型支持对同一目标多个标签描述，通过检测模型对目标物体进行检测，分割模型对目标进行分割，能有效识别城市道路积水检测、违停车辆检测、占道经营检测等等场景，对城市治理起到了关键作用。

客服助手 通过NLP大模型对传统的客服系统进行智能化升级，提升智能客服的效果。企业原智能客服系统仅支持回复基础的FAQ，无语义泛化能力，意图理解能力弱，转人工频率极高。面对活动等时效性场景，智能客服无回答能力。提高服务效率：大模型智能客服可以7x24小时不间断服务，相较于人工客服，可以处理更多的客户咨询，且响应速度快；降低运营成本：企业可以通过智能客服处理大部分的常规问题，将人工客服释放出来处理更复杂、更个性化的客户需求；个性化服务：基于大模型的智能客服能够学习和适应用户的行为模式和偏好，提供更加个性化的服务。

智慧配煤 传统人工配煤方式1.成本保障难：传统方式依赖专家经验，人工配煤在平衡质量和成本价格上难以做到最优，配比取値保守，増加炼烧原料成本；2.监管回溯难：采用Excel表格计算，需手工输入原料煤参数，难以支撑数据分析和溯源，不同煤种煤质差异大。盘古预测大模型通过评估和预测焦炭生产过程中焦炭成分及其质量来准确预测焦炭的成分和质量，通过合理选择和搭配不同种类、性质和质量的煤炭，降低生产成本，对于钢铁企业的生产效率、成本控制和环境保护具有重要意义。

盘古大模型服务简介 盘古大模型服务包含盘古基础大模型、盘古行业大模型与ModelArts Studio工具链平台，盘古基础大模型提供NLP、多模态、CV、预测、科学计算五大盘古基础模型与三方模型的模型服务，盘古行业大模型提供基于盘古基础大模型训练的行业大模型，涉及金融、政府、油气、矿山、电力、制造、交通、医学等行业领域。ModelArts Studio是一站式大模型工具链平台，支持百模千态，打造数据、模型、应用三引擎的大模型开发平台。盘古大模型服务将提供有竞争力的基础模型和适配行业的L1大模型，更提供易用、好用的工具链平台，成为行业首选的大模型供应商。 数据工程工具链 数据是大模型训练的基础，为大模型提供了必要的知识和信息。数据工程工具链作为盘古大模型服务的重要组成部分，具备数据获取、清洗、数据合成、数据标注、数据评估、数据配比、数据发布和管理等功能。 该工具链能够高效收集和处理各种格式的数据，满足不同训练和评测任务的需求。通过提供自动化的质量检测和数据清洗能力，对原始数据进行优化，确保其质量和一致性。同时，数据工程工具链还提供强大的数据存储和管理能力，为大模型训练提供高质量的数据支撑。 模型开发工具链 模型开发工具链是盘古大模型服务的核心组件，提供从模型创建到部署的一站式解决方案。 该工具链具备模型训练、压缩、部署、评测、推理等功能，通过高效的推理性能和跨平台迁移工具，模型开发工具链能够保障模型在不同环境中的高效应用。 Agent开发工具链 应用开发工具 链是盘古大模型平台的关键模块，支持提示词工程和智能Agent应用创建。该工具链提供提示词设计和管理工具，优化大模型的输入提示，提升输出的准确性和相关性。通过可视化编排工具，应用开发工具链加速大模型应用的开发，满足复杂业务需求。

盘古模型与ModelArts Studio开发平台关系 盘古NLP、多模态、CV、预测、科学计算、专业大模型及第三方模型能力通过ModelArts Studio大模型开发平台承载，用户在平台上可以使用自己的数据增训和微调模型，可对训练的模型进行压缩、评测、部署，也可以在平台上创建自己的Agent应用。 ModelArts Studio大模型开发平台是盘古大模型服务推出的集数据工程、模型开发、Agent开发为一体的一站式大模型开发平台及大模型应用开发平台，提供覆盖全生命周期的大模型工具链。数据工程套件预置了60+数据处理AI算子，可以满足用户多种任务场景需求，极大提升用户数据处理效率，为大模型训练提供高质量数据；模型开发套件支持对盘古大模型及三方大模型进行微调、压缩、评测、部署，极大的降低了大模型开发门槛；Agent开发套件提供基于大语言模型的可视化流程编排能力，结合丰富的功能插件配置，极大的提升了大模型应用开发效率；面向工业应用开发场景，沉淀了20多个组件和场景化模板，5分钟快速创建行业生产级应用。同时，ModelArts Studio平台，对数据、模型、应用和Agent在统一的入口进行管理，可以快速掌握资产的使用情况、版本情况和溯源信息等，能够让用户更加方便地进行统一管控和资产管理。

请求示例 单图请求示例 { "images": "/9j/4Vr2RXhpZgAASUkqAAgAAA.....", } 批量请求示例（单次请求批次上限为24张图） { "images": ["/9j/4Vr2RXhpZgAASUkqAAgAAA.....", "/9j/4RIrRXhpZgAATU......"] } 带高级参数的单标签分类请求示例 { "images": ["/9j/4Vr2RXhpZgAASUkqAAgAAA.....", "/9j/4RIrRXhpZgAATU......"], "top": 3 } 带高级参数的多标签分类请求示例 { "images": ["/9j/4Vr2RXhpZgAASUkqAAgAAA.....", "/9j/4RIrRXhpZgAATU......"], "threshold": { "bird": 0.33, "blackbird": 0.44 } }

响应示例 响应返回一个字典，键为本次请求的输入图像的编号，对输入的图像按顺序从0开始编号；值为一个列表，列表里为该图像的预测结果，每张图像可能存在多个预测结果（例如多标签分类模式）。 { "0": [ { "label": "bird", "score": "0.95511043" }, { "label": "blackbird", "score": "0.75241840" }, ], "1": [ { "label": "bird", "score": "0.36211243" } ], "dataset_id": "1341002014632579072" }

请求参数 使用Token认证方式的请求Header参数见表1。 表2 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。 获取Token 接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 使用API Key认证方式的请求Header参数见表2。 表3 请求Header参数（API Key认证） 参数 是否必选 参数类型 描述 X-Apig-AppCode 是 String API Key值。 用于获取操作API的权限。API Key认证响应消息头中X-Apig-AppCode的值即为API Key。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 表4 请求Body参数 参数 是否必选 参数类型 描述 images 是 String/List[String] 参数解释：被检测图片的base64编码。 约束限制：单张图片请求时，参数类型为String，为图片的base64编码；批量请求时，参数类型为List[String]，以列表形式存放各图片的base64编码，单次请求不超过24张。 取值范围：建议整个请求体大小不超过4M，建议使用JPG、PNG、JPEG、BMP格式的图片。 默认取值：默认只支持RGB三通道图片数据，其他通道的数据暂不支持。 mode 否 String 参数解释：取值为"single"或者"multiple"，分别表示单标签分类和多标签分类模式，二者取一。 约束限制： 取值范围：取值为"single"或者"multiple"。 默认取值：默认设置为训练得到的模型对应的模式 threshold 否 dict 参数解释：多标签分类时，各标签对应的预测得分阈值，预测得分小于阈值的预测结果将会被过滤。 约束限制：仅在多标签分类模式下有效。 取值范围： 默认取值： top 否 int 参数解释：单标签分类时，用于规定输出top N的预测得分对应的预测结果。 约束限制：仅在单标签分类模式下有效。 取值范围： 默认取值：

响应参数 状态码： 200 响应成功返回的结构体是一个Dict，由本次请求的多张输入图像的预测结果组成，图像与图像之间通过编号（键）区分。 表5 单/多标签分类响应成功Body参数 参数 参数类型 描述 键 String 输入图像的顺序编号，从"0"开始，最大不超过"23"。 值 List[Dict] 当前编号的图像对应的预测结果。 dataset_id String 训练数据集ID。 其中，每张图像的预测结果参数类型为List[Dict]，表示预测得到的一个或多个类别，每个Dict的参数内容请参考表6。 表6 单张图像的单个类别预测结果参数 参数 参数类型 描述 label String 预测的类别，与训练数据中定义的类别相同。 score String 预测的置信度结果，输出每个标签对应的预测得分，得分区间为0至1。 状态码： 400 表7 响应失败Body参数 参数 参数类型 描述 error_code String 错误码。 error_msg String 错误信息。

URI 获取URI方式请参见请求URI。 NLP推理服务提供两种推理接口调用： 盘古推理接口（V1推理接口） 业界通用的OpenAI格式接口（V2推理接口） 两种接口定义如表1所示。 表1 NLP服务推理接口 API分类 API访问路径（URI） V1推理接口 POST /v1/{project_id}/deployments/{deployment_id}/chat/completions V2推理接口 POST /api/v2/chat/completions V1推理接口URI需要输入额外参数，参数说明如表2 V1推理接口路径参数所示： 表2 V1推理接口路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID，获取方法请参见获取项目ID。 deployment_id 是 String 模型的部署ID，获取方法请参见获取模型部署ID。

响应示例 状态码： 200 OK 非流式问答响应 { "id": "chat-3f7d8e038f244ae5b7cb0cecf352e154", "object": "chat.completion", "created": 1745725506, "model": "pangu-nlp-n1-32k_kpyq10", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "你好！有什么我可以帮助你的吗？", "tool_calls": [] }, "logprobs": null, "finish_reason": "stop", "stop_reason": null } ], "usage": { "prompt_tokens": 64, "total_tokens": 73, "completion_tokens": 9 }, "prompt_logprobs": null } 流式问答响应 V1推理接口返回体： data:{"id":"chat-59170add0fd1427bbca0388431058d45","object":"chat.completion.chunk","created":1745725837,"model":"pangu-nlp-n1-32k_kpyq10","choices":[{"index":0,"logprobs":null,"finish_reason":null,"message":{"role":"assistant"}}],"usage":{"prompt_tokens":64,"total_tokens":64,"completion_tokens":0}} data:{"id":"chat-59170add0fd1427bbca0388431058d45","object":"chat.completion.chunk","created":1745725837,"model":"pangu-nlp-n1-32k_kpyq10","choices":[{"index":0,"logprobs":null,"finish_reason":null,"message":{"content":"你好"}}],"usage":{"prompt_tokens":64,"total_tokens":65,"completion_tokens":1}} data:{"id":"chat-59170add0fd1427bbca0388431058d45","object":"chat.completion.chunk","created":1745725837,"model":"pangu-nlp-n1-32k_kpyq10","choices":[{"index":0,"logprobs":null,"finish_reason":"stop","stop_reason":null,"message":{"content":"！有什么我可以帮你的吗？"}}],"usage":{"prompt_tokens":64,"total_tokens":73,"completion_tokens":9}} data:{"id":"chat-59170add0fd1427bbca0388431058d45","object":"chat.completion.chunk","created":1745725837,"model":"pangu-nlp-n1-32k_kpyq10","choices":[],"usage":{"prompt_tokens":64,"total_tokens":73,"completion_tokens":9}} event:{"usage":{"completionTokens":9,"promptTokens":64,"totalTokens":73},"tokens":64,"token_number":9} data:[DONE] V2推理接口返回体： data:{"id":"chat-b9417f06b6524362ae09844cc9b0172d","object":"chat.completion.chunk","created":1745725924,"model":"pangu-nlp-n1-32k_kpyq10","choices":[{"index":0,"delta":{"role":"assistant"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":64,"total_tokens":64,"completion_tokens":0}} data:{"id":"chat-b9417f06b6524362ae09844cc9b0172d","object":"chat.completion.chunk","created":1745725924,"model":"pangu-nlp-n1-32k_kpyq10","choices":[{"index":0,"delta":{"content":"你好"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":64,"total_tokens":65,"completion_tokens":1}} data:{"id":"chat-b9417f06b6524362ae09844cc9b0172d","object":"chat.completion.chunk","created":1745725924,"model":"pangu-nlp-n1-32k_kpyq10","choices":[{"index":0,"delta":{"content":"！有什么我可以帮助你的吗？"},"logprobs":null,"finish_reason":"stop","stop_reason":null}],"usage":{"prompt_tokens":64,"total_tokens":73,"completion_tokens":9}} data:{"id":"chat-b9417f06b6524362ae09844cc9b0172d","object":"chat.completion.chunk","created":1745725924,"model":"pangu-nlp-n1-32k_kpyq10","choices":[],"usage":{"prompt_tokens":64,"total_tokens":73,"completion_tokens":9}} data:[DONE] 带有思维链的流式问答响应 V1推理接口返回体： data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"role":"assistant","content":""},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":6,"completion_tokens":0}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"你好"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":7,"completion_tokens":1}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"！"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":8,"completion_tokens":2}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"很高兴见到"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":10,"completion_tokens":4}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"你"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":11,"completion_tokens":5}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"，有什么"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":13,"completion_tokens":7}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"我可以帮忙"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":15,"completion_tokens":9}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"的吗"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":16,"completion_tokens":10}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"？"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":17,"completion_tokens":11}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"无论是"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":18,"completion_tokens":12}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"聊天、"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":20,"completion_tokens":14}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"解答问题"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":22,"completion_tokens":16}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"还是提供"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":24,"completion_tokens":18}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"建议"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":25,"completion_tokens":19}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"，我"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":27,"completion_tokens":21}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"都在这里"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":29,"completion_tokens":23}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"哦"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":30,"completion_tokens":24}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"！"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":31,"completion_tokens":25}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":""},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":33,"completion_tokens":27}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":null,"reasoning_content":"\n"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":35,"completion_tokens":29}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"\n\n你好"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":37,"completion_tokens":31}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"！很高兴"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":39,"completion_tokens":33}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"见到你"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":41,"completion_tokens":35}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"，有什么"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":43,"completion_tokens":37}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"我可以帮忙"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":45,"completion_tokens":39}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"的吗？"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":47,"completion_tokens":41}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"无论是聊天"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":49,"completion_tokens":43}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"、解答"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":51,"completion_tokens":45}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"问题还是"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":53,"completion_tokens":47}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"提供建议"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":55,"completion_tokens":49}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"，我"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":57,"completion_tokens":51}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"都在这里"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":59,"completion_tokens":53}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"哦！"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":61,"completion_tokens":55}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":""},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":63,"completion_tokens":57}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":""},"logprobs":null,"finish_reason":"stop","stop_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":64,"completion_tokens":58}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[],"usage":{"prompt_tokens":6,"total_tokens":64,"completion_tokens":58}} data:[DONE] V2推理接口返回体： data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"role":"assistant","content":""},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":6,"completion_tokens":0}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"你好"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":7,"completion_tokens":1}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"！"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":8,"completion_tokens":2}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"很高兴见到"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":10,"completion_tokens":4}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"你"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":11,"completion_tokens":5}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"，有什么"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":13,"completion_tokens":7}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"我可以帮忙"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":15,"completion_tokens":9}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"的吗"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":16,"completion_tokens":10}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"？"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":17,"completion_tokens":11}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"无论是"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":18,"completion_tokens":12}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"聊天、"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":20,"completion_tokens":14}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"解答问题"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":22,"completion_tokens":16}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"还是提供"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":24,"completion_tokens":18}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"建议"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":25,"completion_tokens":19}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"，我"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":27,"completion_tokens":21}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"都在这里"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":29,"completion_tokens":23}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"哦"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":30,"completion_tokens":24}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"！"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":31,"completion_tokens":25}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":""},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":33,"completion_tokens":27}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":null,"reasoning_content":"\n"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":35,"completion_tokens":29}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"\n\n你好"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":37,"completion_tokens":31}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"！很高兴"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":39,"completion_tokens":33}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"见到你"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":41,"completion_tokens":35}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"，有什么"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":43,"completion_tokens":37}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"我可以帮忙"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":45,"completion_tokens":39}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"的吗？"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":47,"completion_tokens":41}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"无论是聊天"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":49,"completion_tokens":43}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"、解答"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":51,"completion_tokens":45}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"问题还是"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":53,"completion_tokens":47}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"提供建议"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":55,"completion_tokens":49}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"，我"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":57,"completion_tokens":51}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"都在这里"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":59,"completion_tokens":53}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"哦！"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":61,"completion_tokens":55}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":""},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":63,"completion_tokens":57}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":""},"logprobs":null,"finish_reason":"stop","stop_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":64,"completion_tokens":58}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[],"usage":{"prompt_tokens":6,"total_tokens":64,"completion_tokens":58}} data:[DONE]

请求示例 单轮问答 V1推理接口： POST https://{endpoint}/v1/{project_id}/deployments/{deployment_id}/chat/completions Request Header: Content-Type: application/json X-Auth-Token: MIINRwYJKoZIhvcNAQcCoIINODCCDTQCAQExDTALBglghkgBZQMEAgEwgguVBgkqhkiG... V2推理接口： POST https://{endpoint}/api/v2/chat/completions Request Header: Content-Type: application/json Authorization: Bearer 201ca68f-45f9-4e19-8fa4-831e... Request Body: { "model": "pangu-nlp-n1-32k", // 仅V2接口需要此参数 "messages": [ { "role":"user", "content": "介绍下长江，以及长江中典型的鱼类" } ], "temperature": 0.9, "max_tokens": 600 } 单轮流式问答（stream参数值为true） { "model": "pangu-nlp-n1-32k", // 仅V2接口需要此参数 "messages": [ { "role":"user", "content": "五岳分别是哪些山" } ], "temperature": 0.9, "max_tokens": 600, "stream": "true" } 带有人设的单轮问答（role参数值为system） { "model": "pangu-nlp-n1-32k", // 仅V2接口需要此参数 "messages": [ { "role": "system", "content": "你的名字叫智子，是一名幼儿园老师，请用幼儿园老师的口吻回答问题，注意语气温和亲切，通过提问、引导、赞美等方式，激发学生的思维和想象力。" }, { "role": "user", "content": "介绍下长江，以及长江中典型的鱼类" } ], "temperature": 0.9, "max_tokens": 600 } 带有人设的单轮流式问答（role参数值为system，stream参数值为true） { "model": "pangu-nlp-n1-32k", // 仅V2接口需要此参数 "messages": [ { "role": "system", "content": "你的名字叫智子，是一名幼儿园老师，请用幼儿园老师的口吻回答问题，注意语气温和亲切，通过提问、引导、赞美等方式，激发学生的思维和想象力。" }, { "role": "user", "content": "写一首诗" } ], "temperature": 0.9, "max_tokens": 600, "stream": "true" } 多轮问答 # 多轮问答传参方法：在完成第一轮问答，进行第二轮问答时，需要将第一轮的问题和答案、第二轮问题作为参数传入……依次类推，完成多轮对话。 { "model": "pangu-nlp-n1-32k", // 仅V2接口需要此参数 "messages": [ { "role":"user", "content": "介绍下长江，以及长江中典型的鱼类" //第一轮问题 }, { "role":"assistant", "content": "长江是中国第一大河,全长6300多公里。它发源于青藏高原的唐古拉山脉南麓,流经中国11个省市自治区和两个特别行政区,最终注入东海。\n长江中典型的鱼类有:鲢鱼、鳙鱼、草鱼、鲤鱼等。" //第一轮答案 }, { "role":"user", "content": "途径的省份列2个，并说明有哪些人文风景" //第二轮问题 }, { "role":"assistant", "content": "1. 湖南 - 长沙岳麓山、张家界天门山等\n2. 四川 - 九寨沟、峨眉山等" //第二轮答案 }, { "role":"user", "content": "提到的湖南景点，详细说明下" //第三轮问题 } ], "temperature": 0.9, "max_tokens": 600 } 多轮流式问答（stream参数值为true） # 多轮问答传参方法：在完成第一轮问答，进行第二轮问答时，需要将第一轮的问题和答案、第二轮问题作为参数传入……依次类推，完成多轮对话。 { "model": "pangu-nlp-n1-32k", // 仅V2接口需要此参数 "messages": [ { "role":"user", "content": "介绍下长江，以及长江中典型的鱼类" //第一轮问题 }, { "role":"assistant", "content": "长江是中国第一大河,全长6300多公里。它发源于青藏高原的唐古拉山脉南麓,流经中国11个省市自治区和两个特别行政区,最终注入东海。\n长江中典型的鱼类有:鲢鱼、鳙鱼、草鱼、鲤鱼等。" //第一轮答案 }, { "role":"user", "content": "途径的省份列2个，并说明有哪些人文风景" //第二轮问题 }, { "role":"assistant", "content": "1. 湖南 - 长沙岳麓山、张家界天门山等\n2. 四川 - 九寨沟、峨眉山等" //第二轮答案 }, { "role":"user", "content": "张家界具体在哪里" //第三轮问题 } ], "temperature": 0.9, "max_tokens": 600, "stream": "true" }

概述 盘古大模型整合华为云强大的计算和数据资源，将先进的AI算法集成在预训练大模型中，打造出具有深度语义理解与生成能力的人工智能大语言模型。可进行对话互动、回答问题、协助创作。 盘古大模型在ModelArts Studio大模型开发平台部署后，可以通过API调用推理接口。 表1 API清单 API 功能 操作指导 NLP大模型-文本对话 基于对话问答功能，用户可以与模型进行自然而流畅的对话和交流。 文本对话 科学计算大模型-气象类模型 支持所有气象类模型创建推理作业并查询推理作业详情。 气象类模型 CV大模型-图像分类 根据在图像信息中所反映的不同特征，对图像进行定量分析，把图像划归为若干个类别中的某一种。 Pangu-CV-图像分类-2.1.0 CV大模型-物体检测-S 找出图像中所有感兴趣的目标，确定它们的位置和类别。物体检测-S模型特点是小参数量，适合在资源有限的环境中使用，提供较快的检测速度和合理的精度。 Pangu-CV-物体检测-S-2.1.0 CV大模型-物体检测-N 找出图像中所有感兴趣的目标，确定它们的位置和类别。物体检测-N模型特点是参数量适中，适合在资源有限的环境中使用，提供较快的检测速度和合理的精度。 Pangu-CV-物体检测-N-2.1.0 盘古时序预测分类 基于时序预测基模型实现分类预测能力。 盘古时序预测分类大模型 盘古时序预测回归 基于时序预测基模型实现对未来一组观测值的预测。 盘古时序预测回归大模型 盘古融合推荐异常检测 针对特定场景的异常检测任务，用户传入异常检测数据，使用模型对指定的预测目标进行异常检测预测。 盘古融合推荐异常检测大模型 盘古融合推荐分类-数据分类预测 针对特定场景的分类任务，用户传入分类数据，使用模型对指定的预测目标进行分类预测。 数据分类预测 盘古融合推荐分类-排列特征重要性 支持用户传入一批数据样本，并据此计算各个特征的排列重要性。 排列特征重要性 盘古融合推荐回归-数据回归预测 针对特定场景的回归任务，用户传入回归数据，使用模型对指定的预测目标进行回归预测。 数据回归预测 盘古融合推荐回归-排列特征重要性 支持用户传入一批数据样本，并据此计算各个特征的排列重要性。 排列特征重要性 Embedding模型服务 文本处理阶段，用于对文本文档进行前片，转换成向量化表示。在知识检索阶段，根据用户输入的query对切片进行召回。 Embedding模型服务 Rerank模型服务 Rerank模型服务用于对召回的切片，按照query与切片的相关度进行精细化排序，以确保召回相关度top切片。 Rerank模型服务 医学NLP大模型 基于文本对话功能，用户可以与医学行业大模型进行自然而流畅的对话和交流，实现医学领域的文本生成、行业推理等场景。 医学NLP大模型 DeepSeeK DeepSeek API是基于DeepSeek大模型推出的接口服务。 DeepSeeK 查询数据血缘 客户通过obs导入原始数据集，可基于该obs路径查询所有基于该路径创建的原始数据集及后续的血缘信息。 查询数据血缘 Agent-调用应用 创建好Agent应用后，可以调用该API，传入问题，执行Agent应用，得到Agent执行的结果。 调用应用 Agent-调用工作流 创建好工作流后，可以调用该API，传入问题，执行工作流，得到工作流执行的结果。 调用工作流 Token计算器 为了帮助用户更好地管理和优化Token消耗，平台提供了Token计算器工具。Token计算器可以帮助用户在模型推理前评估文本的Token数量，提供费用预估，并优化数据预处理策略。 Token计算器 用户在部署服务的过程中，建议开启“安全护栏”功能，以保证内容的安全性。 父主题： 使用前必读

响应示例 { "data": [ { "prediction":{ "label": 0 } } ], "time_cost": { "infer_cost_time": "82.609 ms", "postprocess_cost_time": "0.29 ms", "preprocess_cost_time": "0.1332 ms", "service_cost_total_time": "84.965 ms" } }

请求示例 { "context_len": 256, "data": [ { "context": { "feature_0": [ 864.1618041992188, 493.91827392578125, 252.7724151611328，...] } }, { "context": { "feature_0": [ 864.1618041992188, 493.91827392578125, 252.7724151611328，...] } } ] }

请求参数 使用Token认证方式的请求Header参数见表2。 表2 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。获取Token接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 使用API Key认证方式的请求Header参数见表3。 表3 请求Header参数（API Key认证） 参数 是否必选 参数类型 描述 X-Apig-AppCode 是 String API Key值。 用于获取操作API的权限。API Key认证响应消息头中X-Apig-AppCode的值即为API Key。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 表4 请求Body参数 参数 是否必选 参数类型 描述 data 是 Array 参数解释： 时序数据请求的批处理队列。 约束限制： 盘古时序预测分类任务的输入数据内容，用字典承载。输入数据字典中，键对应特征列名，值为序列数据具体内容。 取值范围： 输入数据中的一行数据。 默认取值： 预测大模型在训练完成后，可以在训练日志页面，“模型训练”日志节点中获取推理api所用的示例数据。填写请求Body时可以参考该示例填写。 context_len 否 int 参数解释： 时序任务的数据窗口大小，该参数主要服务于支持多尺度窗口的模型的推理。 约束限制： 填写时需要保证输入序列长度大于等于该值。 取值范围： min:32 max:512 -1为当前服务模型的默认大小。 默认取值： 128

请求参数 使用Token认证方式的请求Header参数见表1。 表2 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。获取Token接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 使用API Key认证方式的请求Header参数见表2。 表3 请求Header参数（API Key认证） 参数 是否必选 参数类型 描述 X-Apig-AppCode 是 String API Key值。 用于获取操作API的权限。API Key认证响应消息头中X-Apig-AppCode的值即为API Key。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 表4 请求Body参数 参数 是否必选 参数类型 描述 images 是 String 参数解释：被检测图片的base64编码。 约束限制： 取值范围：建议整个请求体大小不超过4M，建议使用JPG、PNG、JPEG、BMP格式的图片。 默认取值：默认只支持RGB三通道图片数据，其他通道的数据暂不支持。 threshold 否 Float 参数解释：检测框置信度阈值。 约束限制： 取值范围：最小0.0，最大1.0。 默认取值：默认0.25。

响应示例 { "result": [ { "Box": { "Angle": 0, "Height": 60, "Width": 106, "X": 852, "Y": 182 }, "Score": 0.88427734375, "label": "car" }, { "Box": { "Angle": 0, "Height": 114, "Width": 55, "X": 800, "Y": 170 }, "Score": 0.70556640625, "label": "person" } ] }

响应参数 状态码： 200 表5 响应成功Body参数 参数 参数类型 描述 result Array of objects 识别结果信息。 Score Float 置信度。 label String 检测类别。 Box Dict 检测到的目标主体信息。 表6 Box 参数 参数类型 描述 X Int 矩形框左上角横坐标。 Y Int 矩形框左上角纵坐标。 With Int 矩形框宽度。 Height Int 矩形框高度。 Angle Int 检测到的目标主体区域的角度。 状态码： 400 表7 响应Body参数 参数 参数类型 描述 error_code String 错误码。 error_msg String 错误信息。