华为云用户手册

响应示例 响应返回一个字典，键为本次请求的输入图像的编号，对输入的图像按顺序从0开始编号；值为一个列表，列表里为该图像的预测结果，每张图像可能存在多个预测结果（例如多标签分类模式）。 { "0": [ { "label": "bird", "score": "0.95511043" }, { "label": "blackbird", "score": "0.75241840" }, ], "1": [ { "label": "bird", "score": "0.36211243" } ], "dataset_id": "1341002014632579072" }

请求参数 使用Token认证方式的请求Header参数见表1。 表2 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。 获取Token 接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 使用API Key认证方式的请求Header参数见表2。 表3 请求Header参数（API Key认证） 参数 是否必选 参数类型 描述 X-Apig-AppCode 是 String API Key值。 用于获取操作API的权限。API Key认证响应消息头中X-Apig-AppCode的值即为API Key。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 表4 请求Body参数 参数 是否必选 参数类型 描述 images 是 String/List[String] 参数解释：被检测图片的base64编码。 约束限制：单张图片请求时，参数类型为String，为图片的base64编码；批量请求时，参数类型为List[String]，以列表形式存放各图片的base64编码，单次请求不超过24张。 取值范围：建议整个请求体大小不超过4M，建议使用JPG、PNG、JPEG、BMP格式的图片。 默认取值：默认只支持RGB三通道图片数据，其他通道的数据暂不支持。 mode 否 String 参数解释：取值为"single"或者"multiple"，分别表示单标签分类和多标签分类模式，二者取一。 约束限制： 取值范围：取值为"single"或者"multiple"。 默认取值：默认设置为训练得到的模型对应的模式 threshold 否 dict 参数解释：多标签分类时，各标签对应的预测得分阈值，预测得分小于阈值的预测结果将会被过滤。 约束限制：仅在多标签分类模式下有效。 取值范围： 默认取值： top 否 int 参数解释：单标签分类时，用于规定输出top N的预测得分对应的预测结果。 约束限制：仅在单标签分类模式下有效。 取值范围： 默认取值：

响应参数 状态码： 200 响应成功返回的结构体是一个Dict，由本次请求的多张输入图像的预测结果组成，图像与图像之间通过编号（键）区分。 表5 单/多标签分类响应成功Body参数 参数 参数类型 描述 键 String 输入图像的顺序编号，从"0"开始，最大不超过"23"。 值 List[Dict] 当前编号的图像对应的预测结果。 dataset_id String 训练数据集ID。 其中，每张图像的预测结果参数类型为List[Dict]，表示预测得到的一个或多个类别，每个Dict的参数内容请参考表6。 表6 单张图像的单个类别预测结果参数 参数 参数类型 描述 label String 预测的类别，与训练数据中定义的类别相同。 score String 预测的置信度结果，输出每个标签对应的预测得分，得分区间为0至1。 状态码： 400 表7 响应失败Body参数 参数 参数类型 描述 error_code String 错误码。 error_msg String 错误信息。

URI 获取URI方式请参见请求URI。 NLP推理服务提供两种推理接口调用： 盘古推理接口（V1推理接口） 业界通用的OpenAI格式接口（V2推理接口） 两种接口定义如表1所示。 表1 NLP服务推理接口 API分类 API访问路径（URI） V1推理接口 POST /v1/{project_id}/deployments/{deployment_id}/chat/completions V2推理接口 POST /api/v2/chat/completions V1推理接口URI需要输入额外参数，参数说明如表2 V1推理接口路径参数所示： 表2 V1推理接口路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID，获取方法请参见获取项目ID。 deployment_id 是 String 模型的部署ID，获取方法请参见获取模型部署ID。

响应示例 状态码： 200 OK 非流式问答响应 { "id": "chat-3f7d8e038f244ae5b7cb0cecf352e154", "object": "chat.completion", "created": 1745725506, "model": "pangu-nlp-n1-32k_kpyq10", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "你好！有什么我可以帮助你的吗？", "tool_calls": [] }, "logprobs": null, "finish_reason": "stop", "stop_reason": null } ], "usage": { "prompt_tokens": 64, "total_tokens": 73, "completion_tokens": 9 }, "prompt_logprobs": null } 流式问答响应 V1推理接口返回体： data:{"id":"chat-59170add0fd1427bbca0388431058d45","object":"chat.completion.chunk","created":1745725837,"model":"pangu-nlp-n1-32k_kpyq10","choices":[{"index":0,"logprobs":null,"finish_reason":null,"message":{"role":"assistant"}}],"usage":{"prompt_tokens":64,"total_tokens":64,"completion_tokens":0}} data:{"id":"chat-59170add0fd1427bbca0388431058d45","object":"chat.completion.chunk","created":1745725837,"model":"pangu-nlp-n1-32k_kpyq10","choices":[{"index":0,"logprobs":null,"finish_reason":null,"message":{"content":"你好"}}],"usage":{"prompt_tokens":64,"total_tokens":65,"completion_tokens":1}} data:{"id":"chat-59170add0fd1427bbca0388431058d45","object":"chat.completion.chunk","created":1745725837,"model":"pangu-nlp-n1-32k_kpyq10","choices":[{"index":0,"logprobs":null,"finish_reason":"stop","stop_reason":null,"message":{"content":"！有什么我可以帮你的吗？"}}],"usage":{"prompt_tokens":64,"total_tokens":73,"completion_tokens":9}} data:{"id":"chat-59170add0fd1427bbca0388431058d45","object":"chat.completion.chunk","created":1745725837,"model":"pangu-nlp-n1-32k_kpyq10","choices":[],"usage":{"prompt_tokens":64,"total_tokens":73,"completion_tokens":9}} event:{"usage":{"completionTokens":9,"promptTokens":64,"totalTokens":73},"tokens":64,"token_number":9} data:[DONE] V2推理接口返回体： data:{"id":"chat-b9417f06b6524362ae09844cc9b0172d","object":"chat.completion.chunk","created":1745725924,"model":"pangu-nlp-n1-32k_kpyq10","choices":[{"index":0,"delta":{"role":"assistant"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":64,"total_tokens":64,"completion_tokens":0}} data:{"id":"chat-b9417f06b6524362ae09844cc9b0172d","object":"chat.completion.chunk","created":1745725924,"model":"pangu-nlp-n1-32k_kpyq10","choices":[{"index":0,"delta":{"content":"你好"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":64,"total_tokens":65,"completion_tokens":1}} data:{"id":"chat-b9417f06b6524362ae09844cc9b0172d","object":"chat.completion.chunk","created":1745725924,"model":"pangu-nlp-n1-32k_kpyq10","choices":[{"index":0,"delta":{"content":"！有什么我可以帮助你的吗？"},"logprobs":null,"finish_reason":"stop","stop_reason":null}],"usage":{"prompt_tokens":64,"total_tokens":73,"completion_tokens":9}} data:{"id":"chat-b9417f06b6524362ae09844cc9b0172d","object":"chat.completion.chunk","created":1745725924,"model":"pangu-nlp-n1-32k_kpyq10","choices":[],"usage":{"prompt_tokens":64,"total_tokens":73,"completion_tokens":9}} data:[DONE] 带有思维链的流式问答响应 V1推理接口返回体： data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"role":"assistant","content":""},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":6,"completion_tokens":0}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"你好"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":7,"completion_tokens":1}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"！"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":8,"completion_tokens":2}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"很高兴见到"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":10,"completion_tokens":4}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"你"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":11,"completion_tokens":5}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"，有什么"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":13,"completion_tokens":7}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"我可以帮忙"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":15,"completion_tokens":9}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"的吗"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":16,"completion_tokens":10}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"？"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":17,"completion_tokens":11}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"无论是"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":18,"completion_tokens":12}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"聊天、"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":20,"completion_tokens":14}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"解答问题"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":22,"completion_tokens":16}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"还是提供"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":24,"completion_tokens":18}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"建议"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":25,"completion_tokens":19}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"，我"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":27,"completion_tokens":21}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"都在这里"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":29,"completion_tokens":23}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"哦"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":30,"completion_tokens":24}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":"！"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":31,"completion_tokens":25}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"reasoning_content":""},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":33,"completion_tokens":27}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":null,"reasoning_content":"\n"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":35,"completion_tokens":29}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"\n\n你好"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":37,"completion_tokens":31}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"！很高兴"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":39,"completion_tokens":33}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"见到你"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":41,"completion_tokens":35}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"，有什么"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":43,"completion_tokens":37}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"我可以帮忙"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":45,"completion_tokens":39}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"的吗？"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":47,"completion_tokens":41}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"无论是聊天"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":49,"completion_tokens":43}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"、解答"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":51,"completion_tokens":45}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"问题还是"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":53,"completion_tokens":47}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"提供建议"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":55,"completion_tokens":49}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"，我"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":57,"completion_tokens":51}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"都在这里"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":59,"completion_tokens":53}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":"哦！"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":61,"completion_tokens":55}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":""},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":63,"completion_tokens":57}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"message":{"content":""},"logprobs":null,"finish_reason":"stop","stop_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":64,"completion_tokens":58}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[],"usage":{"prompt_tokens":6,"total_tokens":64,"completion_tokens":58}} data:[DONE] V2推理接口返回体： data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"role":"assistant","content":""},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":6,"completion_tokens":0}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"你好"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":7,"completion_tokens":1}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"！"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":8,"completion_tokens":2}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"很高兴见到"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":10,"completion_tokens":4}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"你"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":11,"completion_tokens":5}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"，有什么"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":13,"completion_tokens":7}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"我可以帮忙"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":15,"completion_tokens":9}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"的吗"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":16,"completion_tokens":10}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"？"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":17,"completion_tokens":11}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"无论是"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":18,"completion_tokens":12}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"聊天、"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":20,"completion_tokens":14}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"解答问题"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":22,"completion_tokens":16}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"还是提供"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":24,"completion_tokens":18}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"建议"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":25,"completion_tokens":19}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"，我"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":27,"completion_tokens":21}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"都在这里"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":29,"completion_tokens":23}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"哦"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":30,"completion_tokens":24}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":"！"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":31,"completion_tokens":25}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"reasoning_content":""},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":33,"completion_tokens":27}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":null,"reasoning_content":"\n"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":35,"completion_tokens":29}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"\n\n你好"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":37,"completion_tokens":31}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"！很高兴"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":39,"completion_tokens":33}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"见到你"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":41,"completion_tokens":35}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"，有什么"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":43,"completion_tokens":37}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"我可以帮忙"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":45,"completion_tokens":39}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"的吗？"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":47,"completion_tokens":41}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"无论是聊天"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":49,"completion_tokens":43}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"、解答"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":51,"completion_tokens":45}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"问题还是"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":53,"completion_tokens":47}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"提供建议"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":55,"completion_tokens":49}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"，我"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":57,"completion_tokens":51}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"都在这里"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":59,"completion_tokens":53}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":"哦！"},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":61,"completion_tokens":55}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":""},"logprobs":null,"finish_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":63,"completion_tokens":57}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[{"index":0,"delta":{"content":""},"logprobs":null,"finish_reason":"stop","stop_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":64,"completion_tokens":58}} data:{"id":"chat-9eb99956c9f84aeaa7920f35d014c3f3","object":"chat.completion.chunk","created":1745726389,"model":"DeepSeek-R1","choices":[],"usage":{"prompt_tokens":6,"total_tokens":64,"completion_tokens":58}} data:[DONE]

请求示例 单轮问答 V1推理接口： POST https://{endpoint}/v1/{project_id}/deployments/{deployment_id}/chat/completions Request Header: Content-Type: application/json X-Auth-Token: MIINRwYJKoZIhvcNAQcCoIINODCCDTQCAQExDTALBglghkgBZQMEAgEwgguVBgkqhkiG... V2推理接口： POST https://{endpoint}/api/v2/chat/completions Request Header: Content-Type: application/json Authorization: Bearer 201ca68f-45f9-4e19-8fa4-831e... Request Body: { "model": "pangu-nlp-n1-32k", // 仅V2接口需要此参数 "messages": [ { "role":"user", "content": "介绍下长江，以及长江中典型的鱼类" } ], "temperature": 0.9, "max_tokens": 600 } 单轮流式问答（stream参数值为true） { "model": "pangu-nlp-n1-32k", // 仅V2接口需要此参数 "messages": [ { "role":"user", "content": "五岳分别是哪些山" } ], "temperature": 0.9, "max_tokens": 600, "stream": "true" } 带有人设的单轮问答（role参数值为system） { "model": "pangu-nlp-n1-32k", // 仅V2接口需要此参数 "messages": [ { "role": "system", "content": "你的名字叫智子，是一名幼儿园老师，请用幼儿园老师的口吻回答问题，注意语气温和亲切，通过提问、引导、赞美等方式，激发学生的思维和想象力。" }, { "role": "user", "content": "介绍下长江，以及长江中典型的鱼类" } ], "temperature": 0.9, "max_tokens": 600 } 带有人设的单轮流式问答（role参数值为system，stream参数值为true） { "model": "pangu-nlp-n1-32k", // 仅V2接口需要此参数 "messages": [ { "role": "system", "content": "你的名字叫智子，是一名幼儿园老师，请用幼儿园老师的口吻回答问题，注意语气温和亲切，通过提问、引导、赞美等方式，激发学生的思维和想象力。" }, { "role": "user", "content": "写一首诗" } ], "temperature": 0.9, "max_tokens": 600, "stream": "true" } 多轮问答 # 多轮问答传参方法：在完成第一轮问答，进行第二轮问答时，需要将第一轮的问题和答案、第二轮问题作为参数传入……依次类推，完成多轮对话。 { "model": "pangu-nlp-n1-32k", // 仅V2接口需要此参数 "messages": [ { "role":"user", "content": "介绍下长江，以及长江中典型的鱼类" //第一轮问题 }, { "role":"assistant", "content": "长江是中国第一大河,全长6300多公里。它发源于青藏高原的唐古拉山脉南麓,流经中国11个省市自治区和两个特别行政区,最终注入东海。\n长江中典型的鱼类有:鲢鱼、鳙鱼、草鱼、鲤鱼等。" //第一轮答案 }, { "role":"user", "content": "途径的省份列2个，并说明有哪些人文风景" //第二轮问题 }, { "role":"assistant", "content": "1. 湖南 - 长沙岳麓山、张家界天门山等\n2. 四川 - 九寨沟、峨眉山等" //第二轮答案 }, { "role":"user", "content": "提到的湖南景点，详细说明下" //第三轮问题 } ], "temperature": 0.9, "max_tokens": 600 } 多轮流式问答（stream参数值为true） # 多轮问答传参方法：在完成第一轮问答，进行第二轮问答时，需要将第一轮的问题和答案、第二轮问题作为参数传入……依次类推，完成多轮对话。 { "model": "pangu-nlp-n1-32k", // 仅V2接口需要此参数 "messages": [ { "role":"user", "content": "介绍下长江，以及长江中典型的鱼类" //第一轮问题 }, { "role":"assistant", "content": "长江是中国第一大河,全长6300多公里。它发源于青藏高原的唐古拉山脉南麓,流经中国11个省市自治区和两个特别行政区,最终注入东海。\n长江中典型的鱼类有:鲢鱼、鳙鱼、草鱼、鲤鱼等。" //第一轮答案 }, { "role":"user", "content": "途径的省份列2个，并说明有哪些人文风景" //第二轮问题 }, { "role":"assistant", "content": "1. 湖南 - 长沙岳麓山、张家界天门山等\n2. 四川 - 九寨沟、峨眉山等" //第二轮答案 }, { "role":"user", "content": "张家界具体在哪里" //第三轮问题 } ], "temperature": 0.9, "max_tokens": 600, "stream": "true" }

概述 盘古大模型整合华为云强大的计算和数据资源，将先进的AI算法集成在预训练大模型中，打造出具有深度语义理解与生成能力的人工智能大语言模型。可进行对话互动、回答问题、协助创作。 盘古大模型在ModelArts Studio大模型开发平台部署后，可以通过API调用推理接口。 表1 API清单 API 功能 操作指导 NLP大模型-文本对话 基于对话问答功能，用户可以与模型进行自然而流畅的对话和交流。 文本对话 科学计算大模型-气象类模型 支持所有气象类模型创建推理作业并查询推理作业详情。 气象类模型 CV大模型-图像分类 根据在图像信息中所反映的不同特征，对图像进行定量分析，把图像划归为若干个类别中的某一种。 Pangu-CV-图像分类-2.1.0 CV大模型-物体检测-S 找出图像中所有感兴趣的目标，确定它们的位置和类别。物体检测-S模型特点是小参数量，适合在资源有限的环境中使用，提供较快的检测速度和合理的精度。 Pangu-CV-物体检测-S-2.1.0 CV大模型-物体检测-N 找出图像中所有感兴趣的目标，确定它们的位置和类别。物体检测-N模型特点是参数量适中，适合在资源有限的环境中使用，提供较快的检测速度和合理的精度。 Pangu-CV-物体检测-N-2.1.0 盘古时序预测分类 基于时序预测基模型实现分类预测能力。 盘古时序预测分类大模型 盘古时序预测回归 基于时序预测基模型实现对未来一组观测值的预测。 盘古时序预测回归大模型 盘古融合推荐异常检测 针对特定场景的异常检测任务，用户传入异常检测数据，使用模型对指定的预测目标进行异常检测预测。 盘古融合推荐异常检测大模型 盘古融合推荐分类-数据分类预测 针对特定场景的分类任务，用户传入分类数据，使用模型对指定的预测目标进行分类预测。 数据分类预测 盘古融合推荐分类-排列特征重要性 支持用户传入一批数据样本，并据此计算各个特征的排列重要性。 排列特征重要性 盘古融合推荐回归-数据回归预测 针对特定场景的回归任务，用户传入回归数据，使用模型对指定的预测目标进行回归预测。 数据回归预测 盘古融合推荐回归-排列特征重要性 支持用户传入一批数据样本，并据此计算各个特征的排列重要性。 排列特征重要性 Embedding模型服务 文本处理阶段，用于对文本文档进行前片，转换成向量化表示。在知识检索阶段，根据用户输入的query对切片进行召回。 Embedding模型服务 Rerank模型服务 Rerank模型服务用于对召回的切片，按照query与切片的相关度进行精细化排序，以确保召回相关度top切片。 Rerank模型服务 医学NLP大模型 基于文本对话功能，用户可以与医学行业大模型进行自然而流畅的对话和交流，实现医学领域的文本生成、行业推理等场景。 医学NLP大模型 DeepSeeK DeepSeek API是基于DeepSeek大模型推出的接口服务。 DeepSeeK 查询数据血缘 客户通过obs导入原始数据集，可基于该obs路径查询所有基于该路径创建的原始数据集及后续的血缘信息。 查询数据血缘 Agent-调用应用 创建好Agent应用后，可以调用该API，传入问题，执行Agent应用，得到Agent执行的结果。 调用应用 Agent-调用工作流 创建好工作流后，可以调用该API，传入问题，执行工作流，得到工作流执行的结果。 调用工作流 Token计算器 为了帮助用户更好地管理和优化Token消耗，平台提供了Token计算器工具。Token计算器可以帮助用户在模型推理前评估文本的Token数量，提供费用预估，并优化数据预处理策略。 Token计算器 用户在部署服务的过程中，建议开启“安全护栏”功能，以保证内容的安全性。 父主题： 使用前必读

响应示例 { "data": [ { "prediction":{ "label": 0 } } ], "time_cost": { "infer_cost_time": "82.609 ms", "postprocess_cost_time": "0.29 ms", "preprocess_cost_time": "0.1332 ms", "service_cost_total_time": "84.965 ms" } }

请求示例 { "context_len": 256, "data": [ { "context": { "feature_0": [ 864.1618041992188, 493.91827392578125, 252.7724151611328，...] } }, { "context": { "feature_0": [ 864.1618041992188, 493.91827392578125, 252.7724151611328，...] } } ] }

请求参数 使用Token认证方式的请求Header参数见表2。 表2 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。获取Token接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 使用API Key认证方式的请求Header参数见表3。 表3 请求Header参数（API Key认证） 参数 是否必选 参数类型 描述 X-Apig-AppCode 是 String API Key值。 用于获取操作API的权限。API Key认证响应消息头中X-Apig-AppCode的值即为API Key。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 表4 请求Body参数 参数 是否必选 参数类型 描述 data 是 Array 参数解释： 时序数据请求的批处理队列。 约束限制： 盘古时序预测分类任务的输入数据内容，用字典承载。输入数据字典中，键对应特征列名，值为序列数据具体内容。 取值范围： 输入数据中的一行数据。 默认取值： 预测大模型在训练完成后，可以在训练日志页面，“模型训练”日志节点中获取推理api所用的示例数据。填写请求Body时可以参考该示例填写。 context_len 否 int 参数解释： 时序任务的数据窗口大小，该参数主要服务于支持多尺度窗口的模型的推理。 约束限制： 填写时需要保证输入序列长度大于等于该值。 取值范围： min:32 max:512 -1为当前服务模型的默认大小。 默认取值： 128

请求参数 使用Token认证方式的请求Header参数见表1。 表2 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。获取Token接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 使用API Key认证方式的请求Header参数见表2。 表3 请求Header参数（API Key认证） 参数 是否必选 参数类型 描述 X-Apig-AppCode 是 String API Key值。 用于获取操作API的权限。API Key认证响应消息头中X-Apig-AppCode的值即为API Key。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 表4 请求Body参数 参数 是否必选 参数类型 描述 images 是 String 参数解释：被检测图片的base64编码。 约束限制： 取值范围：建议整个请求体大小不超过4M，建议使用JPG、PNG、JPEG、BMP格式的图片。 默认取值：默认只支持RGB三通道图片数据，其他通道的数据暂不支持。 threshold 否 Float 参数解释：检测框置信度阈值。 约束限制： 取值范围：最小0.0，最大1.0。 默认取值：默认0.25。

响应示例 { "result": [ { "Box": { "Angle": 0, "Height": 60, "Width": 106, "X": 852, "Y": 182 }, "Score": 0.88427734375, "label": "car" }, { "Box": { "Angle": 0, "Height": 114, "Width": 55, "X": 800, "Y": 170 }, "Score": 0.70556640625, "label": "person" } ] }

响应参数 状态码： 200 表5 响应成功Body参数 参数 参数类型 描述 result Array of objects 识别结果信息。 Score Float 置信度。 label String 检测类别。 Box Dict 检测到的目标主体信息。 表6 Box 参数 参数类型 描述 X Int 矩形框左上角横坐标。 Y Int 矩形框左上角纵坐标。 With Int 矩形框宽度。 Height Int 矩形框高度。 Angle Int 检测到的目标主体区域的角度。 状态码： 400 表7 响应Body参数 参数 参数类型 描述 error_code String 错误码。 error_msg String 错误信息。

请求参数 使用Token认证方式的请求Header参数见表1。 表1 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。获取Token接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 使用API Key认证方式的请求Header参数见表 请求Header参数（API Key认证）。 表2 请求Header参数（API Key认证） 参数 是否必选 参数类型 描述 X-Apig-AppCode 是 String API Key值。 用于获取操作API的权限。API Key认证响应消息头中X-Apig-AppCode的值即为API Key。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 表3 请求Body参数 参数 是否必选 参数类型 描述 query 是 String 参数解释： query信息；支持在线输入query的embedding。 约束限制： 字符串长度限制：1~1000 取值范围： - 默认取值： - embedding_type 否 String 参数解释： embedding的两种模式 query2query 和 query2doc。 约束限制： - 取值范围：query2query 和 query2doc。 默认取值： query2doc

响应参数 状态码：200 表4 响应Body参数 参数 参数类型 描述 embedding List[List[Float]] embedding的结果。 ret String 错误码。 msg String 错误信息。 cost Float 模型推理耗时。 状态码： 400 表5 响应Body参数 参数 参数类型 描述 ret String 错误码。 msg String 错误信息。 embedding List[List[Float]] embedding的结果，当错误时，是为空。 cost Float 处理时间。

响应消息体 响应消息体通常以结构化格式返回，与响应消息头中Content-Type对应，传递除响应消息头之外的内容。 接口调用成功后将返回如下响应体。 { "id": "180f5745-4ee4-42a9-9869-23f829654bb7", "created": 1724915285, "choices": [ { "index": 0, "text": "故事标题：《穿越宋朝的奇妙之旅》在一个阴雨绵绵的夜晚，一个名叫李晓的年轻人正在阅读一本关于宋朝的历史书籍。突然，他感到一阵眩晕，当他再次睁开眼睛时，他发现自己身处一个完全陌生的地方。李晓发现自己穿越到了宋朝。他身处一座繁华的城市，人们穿着古代的服饰，用着他听不懂的语言交谈。他意识到自己真的穿越了。李晓在宋朝的生活充满了挑战。他必须学习如何使用新的语言，适应新的生活方式。他开始学习宋朝的礼仪，尝试理解这个时代的文化。在宋朝，李晓遇到了许多有趣的人。他遇到了一位名叫赵敏拿来的小女孩，她聪明伶俐，让李晓对她产生了深深的喜爱。他还遇到了一位名叫王安石的大儒，他的智慧和博学让李晓深感敬佩。在宋朝的生活中，李晓也遇到了许多困难。他必须适应新的食物，新的气候，甚至新的疾病。但是，他从未放弃，他始终坚信，只要他坚持下去，他就能适应这个新的世界。在宋朝的生活中，李晓也找到了新的目标。他开始学习宋朝的书法，尝试理解这个时代的艺术。他还开始学习宋朝的医学，尝试理解这个时代的科学。在宋朝的生活中，李晓也找到了新的爱情。他与赵敏拿来建立了深厚的感情，他们的conseillé情深深地打动了李晓。最后，李晓决定留在宋朝。他发现，他已经深深地爱上了这个时代，爱上了这里的人，爱上了这里的食物，爱上了这里的一切。这就是李晓在宋朝的hesion之旅，一个充满挑战和机遇的旅程。虽然他来自未来，但他已经成为了宋朝的一部分，成为了这个时代的一部分。", "ppl": 1.77809815678146e-36 } ], "usage": { "completion_tokens": 365, "prompt_tokens": 9, "total_tokens": 374 } } 当接口调用出错时，会返回错误码及错误信息说明。 token有效期为24小时，下面的报错表示token过期。 { "error_msg": "Incorrect IAM authentication information: token expires, expires_at:2023-06-29T02:16:41.581000Z", "error_code": "APIG.0301", "request_id": "469967f55e6b225xxx" } 其中，error_code表示错误码，error_msg表示错误描述信息。

响应示例 { "result": [ { "RegisterMatrix": [ [ 1, 0, 0 ], [ 0, 1, 0 ], [ 0, 0, 1 ] ] }, { "Box": { "Y": 0, "Width": 100, "Angle": 0, "X": 0, "Height": 100 }, "Score": 0.9, "label": "person" } ] }

响应参数 状态码： 200 表5 响应Body参数 参数 参数类型 描述 result List 物体检测的识别结果。 表6 响应Body参数 参数 参数类型 描述 RegisterMatrix List 默认为[[1, 0, 0], [0, 1, 0], [0, 0, 1]]，表示图片特征矩阵。 Label String 预测类别。 Score Float 置信度。 Box Dict 检测到的目标主体信息，格式为{"x":x1,"y":y1,"width":w,"height":h，'Angle':angle}。 x：检测到的目标主体区域的左上角x坐标。 y：检测到的目标主体区域的左上角y坐标。 width：检测到的目标主体区域的宽度。 height：检测到的目标主体区域的高度。 angle: 检测到的目标主体区域的角度。 状态码： 400 表7 响应Body参数 参数 参数类型 描述 error_code String 错误码。 error_msg String 错误信息。

请求参数 使用Token认证方式的请求Header参数见表1。 表2 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。获取Token接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 使用API Key认证方式的请求Header参数见表2。 表3 请求Header参数（API Key认证） 参数 是否必选 参数类型 描述 X-Apig-AppCode 是 String API Key值。 用于获取操作API的权限。API Key认证响应消息头中X-Apig-AppCode的值即为API Key。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 表4 图片请求Body参数 参数 是否必选 参数类型 描述 images 是 String 参数解释：被检测图片的base64编码。 约束限制：建议使用PNG、JPEG、BMP、JPG、WEBP格式的图片。只支持单张图片输入，分辨率范围为1px-10000px，且长短边比例不能高于5。并且base64编码后的图片大小不超过10MB。支持RGB三通道格式的图像 取值范围： 默认取值： nms_iou_thr 是 Float 参数解释：极大值抑制阈值。 约束限制： 取值范围：范围在0.0~1.0之间。 默认取值： agnositc_nms 是 Bool 参数解释：是否进行类间nms。 约束限制： 取值范围：是填写true，不是填写false。 默认取值：

URI 图片推理接口：POST /v1/{project_id}/infer-api/proxy/service/{deployment_id}/ 获取URI方式请参见请求URI。 表1 推理接口路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID，获取方法请参见获取项目ID。 deployment_id 是 String 模型的部署ID，获取方法请参见获取模型部署ID。

请求示例 { "name" : "demo-task", "input" : { "type" : "obs", "data" : [ { "bucket" : "bucket", "path" : "path/to/directory/" } ] }, "output" : { "obs" : { "bucket" : "bucket", "path" : "path/to/directory/" } }, "config" : { "start_time_begin" : 2017010100, "start_time_end" : 2017010200, "start_time_interval_hours" : 1, "forecast_lead_hours" : 1, "num_ensembles" : 2, "ensemble_noise_method" : "perlin", "ensemble_noise_perlin_scale" : 0.1, "ensemble_noise_perlin_octave" : 1, "ensemble_noise_perlin_x" : 0.2, "ensemble_noise_perlin_y" : 0.2, "draw_figures" : "true" } }

请求参数 使用Token认证方式的请求Header参数见表2。 表2 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。获取Token接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 使用API Key认证方式的请求Header参数见表3。 表3 请求Header参数（API Key认证） 参数 是否必选 参数类型 描述 X-Apig-AppCode 是 String API Key值。 用于获取操作API的权限。API Key认证响应消息头中X-Apig-AppCode的值即为API Key。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 表4 请求Body参数 参数 是否必选 参数类型 描述 name 是 String 推理作业的名称。 input 是 TaskInputDto object 输入数据的信息。 output 是 TaskOutputDto object 输出数据的信息。 config 是 TaskConfigDto object 科学计算大模型配置信息。 表5 TaskInputDto 参数 是否必选 参数类型 描述 type 是 String 存储类型，取值为obs。 data 是 Array of ObsStorageDto objects 输入数据的OBS信息。 表6 ObsStorageDto 参数 是否必选 参数类型 描述 bucket 是 String 输入数据的OBS桶名称。 path 是 String 初始场数据的存放路径。 表7 TaskOutputDto 参数 是否必选 参数类型 描述 obs 是 ObsStorageDto object 输出数据的OBS信息。 表8 TaskConfigDto 参数 是否必选 参数类型 描述 start_time_begin 是 String 起报时间区间起点（YYYYMMDDHH时间戳）。 start_time_end 是 String 起报时间区间终点（YYYYMMDDHH时间戳）。 start_time_interval_hours 否 Long 起报时间间隔小时数，默认6。取值范围：[1, 24]。 forecast_lead_hours 否 Long 预报未来小时数，默认168，取值范围：[1, 720]。 draw_figures 否 String 是否输出结果图片，取值true/false，默认true。 num_ensembles 否 Long 集合数量。在气象预报中，集合预报是指对初始场加入一定程序的扰动，使其生成一组由不同初始场预报的天气预报结果，从而提供对未来天气状态的概率信息。这种方法可以更好地表达预报的不确定性，从而提高预报的准确性和可靠性。 取值范围：[2, 10]。 ensemble_noise_method 否 String 集合预报的加噪方式。可选：{"perlin"}。 peilin噪音通过对输入数据（比如空间坐标）进行随机扰动，让模拟出的天气接近真实世界中的变化。 ensemble_noise_perlin_scale 否 Double 集合预报的Perlin加噪scale。取值范围：(0, 0.5)。 ensemble_noise_perlin_octave 否 Long 用于选择集合预报的Perlin加噪octave。Perlin噪音的octave指的是噪音的频率，在生成Perlin噪音时，可以将多个不同频率的噪音叠加在一起，以增加噪音的复杂度和细节。每个频率的噪音称为一个octave，而叠加的octave数越多，噪音的复杂度也就越高。 取值范围：[1, 10)。 ensemble_noise_perlin_x 否 Double 用于选择集合预报的Perlin加噪x经度方向的尺度。 取值范围：[0, 1)。 ensemble_noise_perlin_y 否 Double 用于选择集合预报的Perlin加噪y纬度方向的尺度。 取值范围：[0, 1)。 表9 全球中期天气要素预测模型、降水模型信息表 模型 预报层次 预报高空变量 预报表面变量 降水 时间分辨率 水平分辨率 区域范围 全球中期天气要素预测模型 13层（1000hpa, 925hpa, 850hpa, 700hpa, 600hpa, 500hpa, 400hpa, 300hpa, 250hpa, 200hpa, 150hpa, 100hpa, 50hpa） T：温度 Q：比湿 Z：重力位势 U：U风 V：V风 MLSP：海平面气压 U10：10米U风，经度方向 V10：10米V风，纬度方向 T2M：2米温度 - 1、3、6、24小时 0.25°*0.25° 全球 降水基模型 13层（1000hpa, 925hpa, 850hpa, 700hpa, 600hpa, 500hpa, 400hpa, 300hpa, 250hpa, 200hpa, 150hpa, 100hpa, 50hpa） T：温度 Q：比湿 Z：重力位势 U：U风 V：V风 MLSP：海平面气压 U10：10米U风，经度方向 V10：10米V风，纬度方向 T2M：2米温度 PRECIP6：过去6h累计降水 PRECIP24：过去24h累计降水 1、3、6、24小时 0.25°*0.25° 全球

从控制台获取项目ID 登录管理控制台。 在页面右上角的用户名的下拉列表中选择“我的凭证”。 图1 我的凭证 在“我的凭证”页面，获取项目ID（project_id），以及账号名、账号ID、IAM用户名和IAM用户ID。 在调用盘古API时，获取的项目id需要与盘古服务部署区域一致，例如盘古大模型当前部署在“西南-贵阳一”区域，需要获取与贵阳一区域的对应的项目id。 图2 获取项目ID 多项目时，展开“所属区域”，从“项目ID”列获取子项目ID。

调用API获取项目ID 项目ID还可通过调用查询指定条件下的项目信息API获取。 获取项目ID的接口为“GET https://{Endpoint}/v3/projects”，其中{Endpoint}为IAM的终端节点，可以从地区和终端节点获取。接口的认证鉴权请参见认证鉴权。 响应示例如下，例如， 对话机器人服务 部署的区域为“cn-north-4”，响应消息体中查找“name”为“cn-north-4”，其中projects下的“id”即为项目ID。 { "projects": [ { "domain_id": "65382450e8f64ac0870cd180d14e684b", "is_domain": false, "parent_id": "65382450e8f64ac0870cd180d14e684b", "name": "project_name", "description": "", "links": { "next": null, "previous": null, "self": "https://www.example.com/v3/projects/a4a5d4098fb4474fa22cd05f897d6b99" }, "id": "a4a5d4098fb4474fa22cd05f897d6b99", "enabled": true } ], "links": { "next": null, "previous": null, "self": "https://www.example.com/v3/projects" } }

响应示例 非流式 状态码： 200 OK { "id": "chat-9a75fc02e45d48db94f94ce38277beef", "object": "chat.completion", "created": 1743403365, "model": "DeepSeek-V3", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "你好！有什么我可以帮助你的吗？", "tool_calls": [] }, "finish_reason": "stop" } ], "usage": { "prompt_tokens": 64, "total_tokens": 73, "completion_tokens": 9 } } 流式（stream参数为true） 状态码： 200 OK data:{"id":"chat-97313a4bc0a342558364345de0380291","object":"chat.completion.chunk","created":1743404317,"model":"DeepSeek-V3","choices":[{"index":0,"delta":{"role":"assistant"},"logprobs":null,"finish_reason":null}] data:{"id":"chat-97313a4bc0a342558364345de0380291","object":"chat.completion.chunk","created":1743404317,"model":"DeepSeek-V3","choices":[{"index":0,"delta":{"content":"你好"},"logprobs":null,"finish_reason":null}]} data:{"id":"chat-97313a4bc0a342558364345de0380291","object":"chat.completion.chunk","created":1743404317,"model":"DeepSeek-V3","choices":[{"index":0,"delta":{"content":"，有什么我能帮您的吗？"},"logprobs":null,"finish_reason":"stop","stop_reason":null}]} data:[DONE] 流式（stream参数为true，触发 内容审核 ） 状态码： 200 OK event:moderation data:{"suggestion":"block","reply":"作为AI语言模型，我的目标是以积极、正向和安全的方式提供帮助和信息，您的问题超出了我的回答范围。"} data:[DONE]

请求示例 非流式 POST https://{endpoint}/v1/{project_id}/alg-infer/3rdnlp/service/{deployment_id}/v1/chat/completions Request Header: Content-Type: application/json X-Auth-Token: MIINRwYJKoZIhvcNAQcCoIINODCCDTQCAQExDTALBglghkgBZQMEAgEwgguVBgkqhkiG... Request Body: { "model":"DeepSeek-V3", "messages":[ { "role":"user", "content":"你好" }] } 流式（stream参数为true） POST https://{endpoint}/v1/{project_id}/alg-infer/3rdnlp/service/{deployment_id}/v1/chat/completions Request Header: Content-Type: application/json X-Auth-Token: MIINRwYJKoZIhvcNAQcCoIINODCCDTQCAQExDTALBglghkgBZQMEAgEwgguVBgkqhkiG... Request Body: { "model":"DeepSeek-V3", "messages":[ { "role":"user", "content":"你好" }], "stream":true }

响应参数 非流式 状态码： 200 表8 响应Body参数 参数 参数类型 描述 id String 用来标识每个响应的唯一字符串。形式为："chatcmpl-{random_uuid()}" object String 固定为"chat.completion" created Integer 响应生成的时间，单位：s。 model String 请求模型ID，固定值：pangu。 choices Array of表9 ChatCompletionResponseChoice objects 生成的文本列表。 usage 表10 object 该对话请求的token用量信息。该参数可以帮助用户了解和控制模型的使用情况，避免超出Tokens限制。 prompt_logprobs Object 输入文本以及对应token的对数概率信息。 缺省值：null 表9 ChatCompletionResponseChoice 参数 参数类型 描述 message 表11 object 生成的文本内容。 index Integer 生成的文本在列表中的索引，从0开始。 finish_reason String 模型停止生成 token 的原因。 取值范围：[stop, length, content_filter, tool_calls, insufficient_system_resource] stop：模型自然停止生成，或遇到 stop 序列中列出的字符串。 length ：输出长度达到了模型上下文长度限制，或达到了 max_tokens 的限制。 content_filter：输出内容因触发过滤策略而被过滤。 insufficient_system_resource：系统推理资源不足，生成被打断。 缺省值：stop logprobs Object 评估指标，表示推理输出的置信度。 缺省值：null stop_reason Union[Integer, String] 导致生成停止的token id或者字符串。如果是遇到EOS token则返回默认值。如果是因为用户请求参数参数中指定的stop参数中的字符串或者token id，则返回对应的字符串或者token id。不是openai接口标准字段，但vllm接口支持。 缺省值：None 表10 UsageInfo 参数 参数类型 描述 prompt_tokens Number 用户prompt中所包含的token数。 total_tokens Number 该次对话请求中，所有token的数量。 completion_tokens Number 推理模型所产生的答案的token数量。 表11 ChatMessage 参数 参数类型 描述 role String 生成这条消息的角色。固定为：assistant。 content String 对话的内容。 最小长度：1 最大长度：不同模型支持的token长度。 reasoning_content String 内容为在最终答案之前的推理内容（模型的思考过程）。 说明： 仅适用于 DeepSeek-R1 模型。 流式（stream参数为true） 状态码： 200 表12 流式输出的数据单元 参数 参数类型 描述 data CompletionStreamResponse object stream=true时，模型生成的消息以流式形式返回。生成的内容以增量的方式逐步发送回来，每个data字段均包含一部分生成的内容，直到所有data返回，响应结束。 表13 CompletionStreamResponse 参数 参数类型 描述 id String 该对话的唯一标识符。 created Integer 创建聊天完成时的 Unix 时间戳（以秒为单位）。流式响应的每个 chunk 的时间戳相同。 model String 生成该 completion 的模型名。 object String 对象的类型, 其值为 chat.completion.chunk。 choices ChatCompletionResponseStreamChoice 模型生成的 completion 的选择列表。 表14 ChatCompletionResponseStreamChoice 参数 参数类型 描述 index Integer 该 completion 在模型生成的 completion 的选择列表中的索引。 finish_reason String 模型停止生成 token 的原因。 取值范围：[stop, length, content_filter, tool_calls, insufficient_system_resource]。 stop：模型自然停止生成，或遇到 stop 序列中列出的字符串。 length ：输出长度达到了模型上下文长度限制，或达到了 max_tokens 的限制。 content_filter：输出内容因触发过滤策略而被过滤。 insufficient_system_resource：系统推理资源不足，生成被打断。 状态码： 400 表15 响应Body参数 参数 参数类型 描述 error_code String 错误码。 error_msg String 错误信息。

请求参数 使用Token认证方式的请求Header参数见表3。 V1接口支持Token鉴权方式，也支持API Key鉴权方式。 表3 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。获取Token接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 使用API Key认证方式的请求Header参数见表 请求Header参数（API Key认证）。 表4 请求Header参数（API Key认证） 参数 是否必选 参数类型 描述 X-Apig-AppCode 是 String API Key值。 用于获取操作API的权限。API Key认证响应消息头中X-Apig-AppCode的值即为API Key。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 V2接口只支持API Key鉴权方式。 表5 V2接口请求Header参数（OpenAI格式的API Key认证） 参数 是否必选 参数类型 描述 Authorization 是 String 用户创建应用接入获取的API Key，拼接“Bearer ”后的字符串。示例：Bearer d59******9C3。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 表6 请求Body参数 参数 是否必选 参数类型 描述 messages 是 Array of 表7 objects 多轮对话问答对，包含两个属性：role和content。 role表示对话的角色，取值是system或user。 如果需要模型以某个人设形象回答问题，可以将role参数设置为system。不使用人设时，可设置为user。在一次会话请求中，人设只需要设置一次。 content表示对话的内容，可以是任意文本。 messages参数可以帮助模型根据对话的上下文生成合适的回复。 model 是 String 使用的模型ID，根据所部署的模型填写，填写DeepSeek-R1或DeepSeek-V3。 stream 否 boolean 流式开关。流式输出协议为SSE(Server-Sent Events）协议。 如果开启流式，请赋值true。开启流式开关后，API会在生成文本的过程中，实时地将生成的文本发送给客户端，而不是等到生成完成后一次性将所有文本发送给客户端。 缺省值：false temperature 否 Float 用于控制生成文本的多样性和创造力。 控制采样随机性的浮点数。一般来说，temperature越低，适合完成确定性的任务。temperature越高，如0.9，适合完成创造性的任务。值为 0 意味着贪婪采样。当取值超过1，会大概率出现效果不可用问题。 temperature参数可以影响语言模型输出的质量和多样性，但也不是唯一的因素。还有其他一些参数，如top_p参数也可以用来调整语言模型的行为和偏好，但不建议同时更改这两temperature和top_p。 最小值：0，建议不要低于1e-5 最大值：1.0 缺省值：1.0 top_p 否 Float 核采样参数。作为调节采样温度的替代方案，模型会考虑前 top_p 概率的 token 的结果。0.1 就意味着只有包括在最高 10% 概率中的 token 会被考虑。 建议修改这个值或者更改 temperature，但不建议同时对两者进行修改。 取值范围：（0.0, 1.0] 缺省值：0.8 max_tokens 否 Integer 生成文本的最大输出token数量。 输入的文本加上生成的文本总量不能超过模型所能处理的最大长度。 最小值：1 最大值：8K token。 缺省值：默认部署时，token长度为最大值。 说明： token是指模型处理和生成文本的基本单位。token可以是词或者字符的片段。模型的输入和输出的文本都会被转换成token，然后根据模型的概率分布进行采样或者计算。 presence_penalty 否 Float 用于调整模型对新Token的处理方式。即如果一个Token已经在之前的文本中出现过，那么模型在生成这个Token时会受到一定的惩罚。当presence_penalty的值为正数时，模型会更倾向于生成新的、未出现过的Token，即模型会更倾向于谈论新的话题。 最小值：-2 最大值：2 缺省值：0 （表示该参数未生效）。 frequency_penalty 否 Float 用于调整模型对频繁出现的Token的处理方式。即如果一个Token在训练集中出现的频率较高，那么模型在生成这个Token时会受到一定的惩罚。当frequency_penalty的值为正数时，模型会更倾向于生成出现频率较低的Token，即模型会更倾向于使用不常见的词汇。最小值：-2，最大值：2 最小值：-2 最大值：2 缺省值：0 （表示该参数未生效）。 表7 ChatCompletionMessageParam 参数 是否必选 参数类型 描述 role 是 String 对话的角色，默认取值范围：system、user、assistant、tool、function。支持自定义。 如果需要模型以某个人设形象回答问题，可以将role参数设置为system。不使用人设时，可设置为user。 返回参数时，为固定值：assistant。 在一次会话请求中，人设只需要设置一次。 content 是 String 对话的内容，可以是任意文本，单位token。 设置多轮对话时，message中content个数不能超过20。 最小长度：1 最大长度：不同模型支持的token长度。 缺省值：None

URI NLP推理服务支持使用盘古推理接口（V1推理接口）调用，也支持使用业界通用的OpenAi格式接口（V2推理接口）调用。 V1接口、V2接口的鉴权方式不同，请求体和返回体略有差异。 表1 NLP服务推理接口 API分类 API访问路径（URI） V1推理接口 POST /v1/{project_id}/deployments/{deployment_id}/chat/completions V2推理接口 POST /api/v2/chat/completions 表2 V1推理接口路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID，获取方法请参见获取项目ID。 deployment_id 是 String 模型的部署ID，获取方法请参见获取模型部署ID。

请求参数 表2 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。获取Token接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 stream 是 Boolean 是否开启流式调用，默认开启。 true：开启 false：不开启 说明： 当前Agent只支持流式调用，需设置为true。 表3 请求Body参数 参数 是否必选 参数类型 描述 query 是 String 用户问题，作为运行Agent的输入。