请求示例 { "name" : "demo-task", "input" : { "type" : "obs", "data" : [ { "bucket" : "bucket", "path" : "path/to/directory/" } ] }, "output" : { "obs" : { "bucket" : "bucket", "path" : "path/to/directory/" } }, "config" : { "start_time_begin" : 2017010100, "start_time_end" : 2017010200, "start_time_interval_hours" : 1, "forecast_lead_hours" : 1, "forecast_features" : "Surface:P;Surface:T;Surface:U;Surface:V;1000:T;800:T;1000:Z;800:Z", "draw_figures" : "true" } }

请求参数 使用Token认证方式的请求Header参数见表1。 表1 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。 获取Token 接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 使用AppCode认证方式的请求Header参数见表2。 表2 请求Header参数（APPCode认证） 参数 是否必选 参数类型 描述 X-Apig-AppCode 是 String APPCode值。 用于获取操作API的权限。AppCode认证响应消息头中X-Apig-AppCode的值即为APPCode。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 表3 请求Body参数 参数 是否必选 参数类型 描述 name 是 String 推理作业的名称。 input 是 TaskInputDto object 输入数据的信息。 output 是 TaskOutputDto object 输出数据的信息。 config 是 TaskConfigDto object 科学计算大模型配置信息。 表4 TaskInputDto 参数 是否必选 参数类型 描述 type 是 String 存储类型，取值为obs。 data 是 Array of ObsStorageDto objects 输入数据的OBS信息。 表5 ObsStorageDto 参数 是否必选 参数类型 描述 bucket 是 String 输入数据的OBS桶名称。 path 是 String 初始场数据的存放路径。 表6 TaskOutputDto 参数 是否必选 参数类型 描述 obs 是 ObsStorageDto object 输出数据的OBS信息。 表7 TaskConfigDto 参数 是否必选 参数类型 描述 start_time_begin 是 String 起报时间区间起点（YYYYMMDDHH时间戳）。 start_time_end 是 String 起报时间区间终点（YYYYMMDDHH时间戳）。 start_time_interval_hours 否 Long 起报时间间隔小时数，默认6。取值范围：[1, 24]。 forecast_lead_hours 否 Long 预报未来小时数，默认168。如需预报未来30天，可将此参数设置成720。 draw_figures 否 String 是否输出结果图片，取值true/false，默认true。 forecast_features 否 String 确定性预报的输出要素，例如“Surface:U;1000:T;800:?abc”。 可选择的要素参考表8中，提供的全球海洋要素模型的深海变量和海表变量。 表8 中期海洋智能预测模型信息 模型 深海层深 预报深海变量 预报海表变量 时间分辨率 水平分辨率 区域范围 全球海洋要素模型 0m, 6m, 10m, 20m, 30m, 50m, 70m, 100m, 125m, 150m, 200m, 250m, 300m, 400m, 500m T：海温(℃) S：海盐(PSU) U：海流经向速率 (ms-1) V：海流纬向速率 (ms-1) SSH：海表高度(m) 24h 0.25°*0.25° 在60°S至65°N，180°W至180°E覆盖全球海洋主要海域（以下简称“全球海域”） 区域海洋要素模型 0m, 6m, 10m, 20m, 30m, 50m, 70m, 100m, 125m, 150m, 200m, 250m, 300m, 400m, 500m T：海温(℃) S：海盐(PSU) U：海流经向速率 (ms-1) V：海流纬向速率 (ms-1) SSH：海表高度(m) 24h 1/12° 特定区域 全球海洋生态模型 0m / Tca：总叶绿素浓度 (mg/m3) Chl：叶绿素浓度 (mg/m3) Dia ：硅藻浓度 (mg/m3) Coc：颗石藻浓度 (mg/m3) Cya：蓝澡浓度 (mg/m3) Irn：铁浓度 (nano mole/L) Nit：硝酸盐浓度 (micro mole/L) MLD：混合层深度 (m) 24h 1° 在60°S至65°N，180°W至180°E覆盖全球海洋主要海域（以下简称“全球海域”） 全球海浪模型 0m / SWH有效波高 (m) 24h 0.5° 在60°S至65°N，180°W至180°E覆盖全球海洋主要海域（以下简称“全球海域”）

请求示例 { "name" : "demo-task", "input" : { "type" : "obs", "data" : [ { "bucket" : "bucket", "path" : "path/to/directory/" } ] }, "output" : { "obs" : { "bucket" : "bucket", "path" : "path/to/directory/" } }, "config" : { "start_time_begin" : 2017010100, "start_time_end" : 2017010200, "start_time_interval_hours" : 1, "forecast_lead_hours" : 1, "forecast_features" : "Surface:P;Surface:T;Surface:U;Surface:V;1000:T;800:T;1000:Z;800:Z", "num_ensembles" : 2, "ensemble_noise_method" : "perlin", "ensemble_noise_perlin_scale" : 0.1, "ensemble_noise_perlin_octave" : 1, "ensemble_noise_perlin_x" : 0.2, "ensemble_noise_perlin_y" : 0.2, "ensemble_forecast_features" : "Surface:P;Surface:T;Surface:U;Surface:V;1000:T;800:T;1000:Z;800:Z", "draw_figures" : "true" } }

请求参数 使用Token认证方式的请求Header参数见表1。 表1 请求Header参数（Token认证） 参数 是否必选 参数类型 描述 X-Auth-Token 是 String 用户Token。 用于获取操作API的权限。获取Token接口响应消息头中X-Subject-Token的值即为Token。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 使用AppCode认证方式的请求Header参数见表2。 表2 请求Header参数（APPCode认证） 参数 是否必选 参数类型 描述 X-Apig-AppCode 是 String APPCode值。 用于获取操作API的权限。AppCode认证响应消息头中X-Apig-AppCode的值即为APPCode。 Content-Type 是 String 发送的实体的MIME类型，参数值为“application/json”。 表3 请求Body参数 参数 是否必选 参数类型 描述 name 是 String 推理作业的名称。 input 是 TaskInputDto object 输入数据的信息。 output 是 TaskOutputDto object 输出数据的信息。 config 是 TaskConfigDto object 科学计算大模型配置信息。 表4 TaskInputDto 参数 是否必选 参数类型 描述 type 是 String 存储类型，取值为obs。 data 是 Array of ObsStorageDto objects 输入数据的OBS信息。 表5 ObsStorageDto 参数 是否必选 参数类型 描述 bucket 是 String 输入数据的OBS桶名称。 path 是 String 初始场数据的存放路径。 表6 TaskOutputDto 参数 是否必选 参数类型 描述 obs 是 ObsStorageDto object 输出数据的OBS信息。 表7 TaskConfigDto 参数 是否必选 参数类型 描述 start_time_begin 是 String 起报时间区间起点（YYYYMMDDHH时间戳）。 start_time_end 是 String 起报时间区间终点（YYYYMMDDHH时间戳）。 start_time_interval_hours 否 Long 起报时间间隔小时数，默认6。取值范围：[1, 24]。 forecast_lead_hours 否 Long 预报未来小时数，默认168。 draw_figures 否 String 是否输出结果图片，取值true/false，默认true。 forecast_features 否 String 确定性预报的输出要素，例如“Surface:U;1000:T;800:?abc”。 可选择的要素参考表8中，提供的高空变量和表面变量。 num_ensembles 否 Long 集合数量。在气象预报中，集合预报是指对初始场加入一定程序的扰动，使其生成一组由不同初始场预报的天气预报结果，从而提供对未来天气状态的概率信息。这种方法可以更好地表达预报的不确定性，从而提高预报的准确性和可靠性。 取值范围：[2, 10]。 ensemble_forecast_features 否 String 集合预报的输出要素，例如“Surface:U;1000:T;800:?abc”。 可选择的要素参考表8中，提供的高空变量和表面变量。 ensemble_noise_method 否 String 集合预报的加噪方式。可选：{"perlin", "cnop"}。 peilin噪音通过对输入数据（比如空间坐标）进行随机扰动，让模拟出的天气接近真实世界中的变化。 cnop噪音通过在初始场中引入特定的扰动来研究天气系统的可预报性，会对扰动本身做一定的评判，能够挑选出预报结果与真实情况偏差最大的一类初始扰动。这些扰动不仅可以用来识别最可能导致特定天气或气候事件的初始条件，还可以用来评估预报结果的不确定性。 ensemble_noise_perlin_scale 否 Double 集合预报的Perlin加噪scale。取值范围：(0, 0.5)。 ensemble_noise_perlin_octave 否 Long 用于选择集合预报的Perlin加噪octave。Perlin噪音的octave指的是噪音的频率，在生成Perlin噪音时，可以将多个不同频率的噪音叠加在一起，以增加噪音的复杂度和细节。每个频率的噪音称为一个octave，而叠加的octave数越多，噪音的复杂度也就越高。 取值范围：[1, 10)。 ensemble_noise_perlin_x 否 Double 用于选择集合预报的Perlin加噪x经度方向的尺度。 取值范围：[0, 1)。 ensemble_noise_perlin_y 否 Double 用于选择集合预报的Perlin加噪y纬度方向的尺度。 取值范围：[0, 1)。 ensemble_cnop_initial_quantity 否 Long 集合预报的CNOP初始扰动数量。取值范围：[2, 350]。 表8 全球中期天气要素预测模型、降水模型信息表 模型 预报层次 预报高空变量 预报表面变量 降水 时间分辨率 水平分辨率 区域范围 全球中期天气要素预测模型 13层（1000hpa, 925hpa, 850hpa, 700hpa, 600hpa, 500hpa, 400hpa, 300hpa, 250hpa, 200hpa, 150hpa, 100hpa, 50hpa） T：温度 Q：比湿 Z：重力位势 U：U风 V：V风 MLSP：海平面气压 U10：10米U风，经度方向 V10：10米V风，纬度方向 T2M：2米温度 - 1、3、6、24小时 0.25°*0.25° 全球 降水基模型 13层（1000hpa, 925hpa, 850hpa, 700hpa, 600hpa, 500hpa, 400hpa, 300hpa, 250hpa, 200hpa, 150hpa, 100hpa, 50hpa） T：温度 Q：比湿 Z：重力位势 U：U风 V：V风 MLSP：海平面气压 U10：10米U风，经度方向 V10：10米V风，纬度方向 T2M：2米温度 PRECIP6：过去6h累计降水 PRECIP24：过去24h累计降水 1、3、6、24小时 0.25°*0.25° 全球

响应示例 状态码： 200 OK 单轮问答 { "id": "e7c33de0-1245-42d9-a875-745845ce3b22", "created": 1724916022, "choices": [ { "index": 0, "message": { "role": null, "content": "长江是中国最长的河流，也是亚洲最长河流，世界第三长河流，仅次于尼罗河和亚马逊河。它发源于青海省的唐古拉山脉，流经中国的多个省份，最终在上海附近注入东海。长江流域覆盖了中国的东部和中部地区，流域面积超过180万平方公里，流域内人口众多，经济活动频繁。长江是中国的母亲河，对中国的农业、交通、历史和文化都有着深远的影响。它是重要的水资源，提供了大量的饮用水和灌溉水。同时，长江也是中国重要的内河航道，对于货物运输和经济发展具有重要作用。长江中的鱼类种类繁多，是中国淡水渔业的重要基地之一。长江中的典型鱼类包括：1. **中华鲟**：这是一种生活在长江中上游的大型鱼类，以其巨大的体型和古老的种类而闻名。中华鲟是一种濒危物种，主要原因是过度捕捞和生境破坏。2. **长江白鲟**：长江白鲟是长江特有的大型淡水鱼类，与中华鲟相似，也是一种濒危物种。长江白鲟 orangutanpuls.org的消失标志着长江生态系统出现了严重的问题。3. **草鱼**：草鱼是长江流域常见的淡水鱼类之一，以水草为食。它是中国淡水养殖的重要品种之一，对长江流域的渔业经济有重要贡献。4. **鲤鱼**：鲤鱼在长江中下游地区广泛分布，是一种重要的经济鱼类，广泛用于食用和养殖。5. **鳙鱼**（大银鱼）：这是一种小型鱼类，是长江中常见的经济鱼类之一，以其肉质鲜美而受到欢迎。6. **黄鳝**：黄鳝在长江流域的湿地和稻田中较为常见，是一种重要的食用鱼类，也是中国传统美食的原料之一。长江中的鱼类多样性体现了其丰富的生态系统，但近年来由于过度捕捞、生境破坏和污染等问题，长江中的许多鱼类种群数量急剧下降，特别是一些特有物种面临濒危。保护长江生态系统和其中的生物多样性已经成为当务之急。", "ppl": 8.468677045693822e-11 } } ], "usage": { "completion_tokens": 433, "prompt_tokens": 10, "total_tokens": 443 } } 单轮流式问答 data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "五"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "岳"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "分别是"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "东"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "岳"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "泰山"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "、"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "西"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "岳"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "华山"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "、"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "南"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "岳"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "衡"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "山"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "、"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "北"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "岳"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933186, "choices": [{"message": {"content": "恒"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933187, "choices": [{"message": {"content": "山"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933187, "choices": [{"message": {"content": "和"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933187, "choices": [{"message": {"content": "中"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933187, "choices": [{"message": {"content": "岳"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933187, "choices": [{"message": {"content": "嵩"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933187, "choices": [{"message": {"content": "山"}}]} data:{"id": "19efea5b-3661-476d-a091-24e2f4432932", "created": 1687933187, "choices": [{"message": {"content": "。"}}]} data:[DONE] 带有人设的单轮问答（role参数值为system） { "id": "6f2a7219-f97b-426d-84ba-b7b11c58942a", "created": 1724916144, "choices": [ { "index": 0, "message": { "role": null, "content": "亲爱的小朋友们，你们好呀！今天我们要来聊一聊一条非常特别的大河——长江。长江是我们中国的一条非常长的河流，它从青藏高原出发，一直流到了上海，最后流入大海哦。长江好长好长，它是我们中国第一大河，也是世界上第三长的河流呢！长江不仅仅是一条河流，它还是很多鱼类的家园。在长江里，有一种鱼类是我们中国的特有物种，叫做中华鲟。中华鲟是一种非常古老的鱼类，它们可以活很久很久，甚至可以活到一百岁呢！但是，因为环境的变化和一些人类的活动，中华鲟的数量变得非常少了，所以我们一定要好好保护它们。除了中华鲟，长江里还有很多其他的鱼类，比如长江刀鱼、江豚鱼等等。每一种鱼都有它们独特的生活习性和特点，它们和长江一起，构成了一个多彩多姿的水世界。那么小朋友们，你们知道长江还有哪些有趣的事情吗？或者你们知道还有哪些鱼类生活在长江里呢？我们可以一起想象和探索哦！", "ppl": 1.6271554153410462e-20 } } ], "usage": { "completion_tokens": 220, "prompt_tokens": 47, "total_tokens": 267 } } 带有人设的单轮流式问答（role参数值为system，stream参数值为true） data:{"id": "cc4dfd25-27d0-41ca-a940-c78313f6785c", "created": 1687933298, "choices": [{"message": {"content": "小朋友们"}}]} data:{"id": "cc4dfd25-27d0-41ca-a940-c78313f6785c", "created": 1687933298, "choices": [{"message": {"content": ","}}]} data:{"id": "cc4dfd25-27d0-41ca-a940-c78313f6785c", "created": 1687933298, "choices": [{"message": {"content": "今天我们"}}]} data:{"id": "cc4dfd25-27d0-41ca-a940-c78313f6785c", "created": 1687933298, "choices": [{"message": {"content": "要"}}]} data:{"id": "cc4dfd25-27d0-41ca-a940-c78313f6785c", "created": 1687933298, "choices": [{"message": {"content": "学习"}}]} data:{"id": "cc4dfd25-27d0-41ca-a940-c78313f6785c", "created": 1687933298, "choices": [{"message": {"content": "一首"}}]} data:{"id": "cc4dfd25-27d0-41ca-a940-c78313f6785c", "created": 1687933298, "choices": [{"message": {"content": "诗歌"}}]} data:{"id": "cc4dfd25-27d0-41ca-a940-c78313f6785c", "created": 1687933298, "choices": [{"message": {"content": "。"}}]} data:{"id": "cc4dfd25-27d0-41ca-a940-c78313f6785c", "created": 1687933298, "choices": [{"message": {"content": "你们"}}]} data:{"id": "cc4dfd25-27d0-41ca-a940-c78313f6785c", "created": 1687933298, "choices": [{"message": {"content": "准备好"}}]} data:{"id": "cc4dfd25-27d0-41ca-a940-c78313f6785c", "created": 1687933299, "choices": [{"message": {"content": "了吗"}}]} ... data:[DONE] 多轮问答 # 多轮请求示例返回的结果如下 { "id": "4e2b7961-c4b2-4263-8e4c-6f0467ebddcb", "created": 1724916330, "choices": [ { "index": 0, "message": { "role": null, "content": "当然，以下是关于湖南的两个著名景点——长沙岳麓山和张家界天门山的详细介绍：\n\n### 长沙岳麓山\n\n**概述**：\n岳麓山位于湖南省长沙市西部，是长沙市最著名的风景区之一。它以其秀丽的自然风光和丰富的文化底蕴而闻名。\n\n**自然风光**：\n岳麓山海拔约300米，山势起伏，植被茂密。山上绿树成荫，四季常绿，有多处名胜古迹。登山路径多样，有步行道、缆车和电梯等，游客可以选择适合自己的方式。\n\n**文化底蕴**：\n岳麓山自古以来就是文人墨客的胜地。山上有许多古代建筑和名胜古迹，如岳麓书院、党家祠堂、爱晚亭等。岳麓书院是中国古代四大书院之一，始建于北宋时期，现存建筑多为明清时期所建，是中国保存最完好的古代书院之一。爱晚亭是清代著名书法家彭玉麟所建，取意唐代诗人王维的《山居秋暝》。\n\n**旅游活动**：\n岳麓山不仅有自然美景，还有丰富的文化活动。每年春节期间，山上eutic灯会吸引了大量游客。此外，山上的橘子洲头是毛泽东青年时期的重要活动场所，也是游客了解中国现代历史的好地方。\n\n### 张家界天门山\n\nJesus Christ**概述 扫地僧身份曝光：\n张家界天门山位于湖南省张家界市，是世界自然遗产地，以其独特的喀斯特地貌和壮丽的自然景观而闻名。\n\n**自然风光**：\n张家界天门山海拔约1300米，山势险峻，[unused5]景点如天门洞、天门山索道、玻璃栈道等，吸引了大量游客。天门洞是山间的一个巨大天然洞穴，高131.5米，宽57米，深60米，是张家界最具代表性的景点之一。\n\n**文化底蕴**：\n天门山不仅自然景观壮丽，还有丰富的文化传说。天门洞被认为是通往天界的门户，自古以来就是人们朝拜和祈福的地方。山上的天门寺建于唐代，是湖南地区重要的佛教圣地。\n\n**旅游活动**：\n天门山有多条旅游线路，其中最著名的是天门山索道，全长7455米，是世界上单程最长的缆车之一。游客可以通过缆车快速到达山顶，欣赏沿途的壮丽景色。此外，天门山玻璃栈道是全亚洲最长、最高的玻璃栈道，给游客带来刺激的体验。\n\n这两个景点不仅展示了湖南的自然美景，还体现了其深厚的文化底蕴，是了解湖南人文风情的绝佳选择。", "ppl": 5.964045702630172e-39 } } ], "usage": { "completion_tokens": 569, "prompt_tokens": 117, "total_tokens": 686 } } 多轮流式问答（stream参数值为true） data:{"id": "446ce2d4-0989-4599-960b-9aa61a9cfc68", "created": 1687933826, "choices": [{"message": {"content": "张家界"}}]} data:{"id": "446ce2d4-0989-4599-960b-9aa61a9cfc68", "created": 1687933826, "choices": [{"message": {"content": "位于"}}]} data:{"id": "446ce2d4-0989-4599-960b-9aa61a9cfc68", "created": 1687933826, "choices": [{"message": {"content": "湖南省"}}]} data:{"id": "446ce2d4-0989-4599-960b-9aa61a9cfc68", "created": 1687933826, "choices": [{"message": {"content": "西北部"}}]} data:{"id": "446ce2d4-0989-4599-960b-9aa61a9cfc68", "created": 1687933826, "choices": [{"message": {"content": ","}}]} data:{"id": "446ce2d4-0989-4599-960b-9aa61a9cfc68", "created": 1687933826, "choices": [{"message": {"content": "地处"}}]} data:{"id": "446ce2d4-0989-4599-960b-9aa61a9cfc68", "created": 1687933826, "choices": [{"message": {"content": "武"}}]} data:{"id": "446ce2d4-0989-4599-960b-9aa61a9cfc68", "created": 1687933826, "choices": [{"message": {"content": "陵"}}]} data:{"id": "446ce2d4-0989-4599-960b-9aa61a9cfc68", "created": 1687933826, "choices": [{"message": {"content": "山脉"}}]} data:{"id": "446ce2d4-0989-4599-960b-9aa61a9cfc68", "created": 1687933826, "choices": [{"message": {"content": "中"}}]} data:{"id": "446ce2d4-0989-4599-960b-9aa61a9cfc68", "created": 1687933826, "choices": [{"message": {"content": "段"}}]} data:{"id": "446ce2d4-0989-4599-960b-9aa61a9cfc68", "created": 1687933826, "choices": [{"message": {"content": "。"}}]} data:[DONE]

请求示例 单轮问答 POST https://{endpoint}/v1/{project_id}/deployments/{deployment_id}/chat/completions Request Header: Content-Type: application/json X-Auth-Token: MIINRwYJKoZIhvcNAQcCoIINODCCDTQCAQExDTALBglghkgBZQMEAgEwgguVBgkqhkiG... Request Body: { "messages": [ { "content": "介绍下长江，以及长江中典型的鱼类" } ], "temperature": 0.9, "max_tokens": 600 } 单轮流式问答（stream参数值为true） { "messages": [ { "content": "五岳分别是哪些山" } ], "temperature": 0.9, "max_tokens": 600, "stream": "true" } 带有人设的单轮问答（role参数值为system） { "messages": [ { "role": "system", "content": "你的名字叫智子，是一名幼儿园老师，请用幼儿园老师的口吻回答问题，注意语气温和亲切，通过提问、引导、赞美等方式，激发学生的思维和想象力。" }, { "role": "user", "content": "介绍下长江，以及长江中典型的鱼类" } ], "temperature": 0.9, "max_tokens": 600 } 带有人设的单轮流式问答（role参数值为system，stream参数值为true） { "messages": [ { "role": "system", "content": "你的名字叫智子，是一名幼儿园老师，请用幼儿园老师的口吻回答问题，注意语气温和亲切，通过提问、引导、赞美等方式，激发学生的思维和想象力。" }, { "role": "user", "content": "写一首诗" } ], "temperature": 0.9, "max_tokens": 600, "stream": "true" } 多轮问答 # 多轮问答传参方法：在完成第一轮问答，进行第二轮问答时，需要将第一轮的问题和答案、第二轮问题作为参数传入……依次类推，完成多轮对话。 { "messages": [ { "content": "介绍下长江，以及长江中典型的鱼类" //第一轮问题 }, { "content": "长江是中国第一大河,全长6300多公里。它发源于青藏高原的唐古拉山脉南麓,流经中国11个省市自治区和两个特别行政区,最终注入东海。\n长江中典型的鱼类有:鲢鱼、鳙鱼、草鱼、鲤鱼等。" //第一轮答案 }, { "content": "途径的省份列2个，并说明有哪些人文风景" //第二轮问题 }, { "content": "1. 湖南 - 长沙岳麓山、张家界天门山等\n2. 四川 - 九寨沟、峨眉山等" //第二轮答案 }, { "content": "提到的湖南景点，详细说明下" //第三轮问题 } ], "temperature": 0.9, "max_tokens": 600 } 多轮流式问答（stream参数值为true） # 多轮问答传参方法：在完成第一轮问答，进行第二轮问答时，需要将第一轮的问题和答案、第二轮问题作为参数传入……依次类推，完成多轮对话。 { "messages": [ { "content": "介绍下长江，以及长江中典型的鱼类" //第一轮问题 }, { "content": "长江是中国第一大河,全长6300多公里。它发源于青藏高原的唐古拉山脉南麓,流经中国11个省市自治区和两个特别行政区,最终注入东海。\n长江中典型的鱼类有:鲢鱼、鳙鱼、草鱼、鲤鱼等。" //第一轮答案 }, { "content": "途径的省份列2个，并说明有哪些人文风景" //第二轮问题 }, { "content": "1. 湖南 - 长沙岳麓山、张家界天门山等\n2. 四川 - 九寨沟、峨眉山等" //第二轮答案 }, { "content": "张家界具体在哪里" //第三轮问题 } ], "temperature": 0.9, "max_tokens": 600, "stream": "true" }

训练模型 自监督训练： 不涉及 有监督微调： 本场景采用了下表中的微调参数进行微调，您可以在平台中参考如下参数进行训练： 表2 微调核心参数设置 训练参数 设置值 数据批量大小（batch_size） 8 训练轮数（epoch） 4 学习率（learning_rate） 7.5e-05 学习率衰减比率（learning_rate_decay_ratio） 0.067 热身比例（warmup） 0.01

准备训练数据 本场景不涉及自监督训练，无需准备自监督数据。 微调数据来源： 来源一：真实业务场景数据。 来源二：基于大模型的数据泛化。基于目标场任务的分析，通过人工标注部分数据样例，然后利用大模型（如盘古提供的任意规格的基础功能模型）采用self-instruct等方式，泛化出更多的业务场景数据。 方法一：在大模型输入的Prompt中包含“人设赋予”、“任务描述”、“任务具体要求”和“输出格式要求”等部分后，模型通常能够生成质量较高的数据。示例如下： 大模型输入： 你是一名短视频的知名带货博主，你的日常工作在短视频平台上进行各类产品的带货直播。你很擅长根据一段简要的产品介绍，创作出高质量的带货口播。 请根据如下产品介绍，生成一篇字数不超过200个字的高质量带货口播，产品介绍如下： ``` %s ``` 生成的内容必须满足以下要求： 1.生成内容的字数要求为200个字左右； 2.生成的内容必须生动有趣、丰富多样； 3.生成内容的语言风格必须口语化； 4.生成的内容开头必须能足够引起观众的兴趣，比如可以采取对目标观众反问、对比等方式； 5.生成的内容结尾必须要引导观众购买； 6.生成的内容必须紧扣产品本身，突出产品的特点，不能出现不相关的内容； 7.生成的内容必须完整，必须涵盖产品介绍中的每个关键点，不能丢失任何有价值的细节； 8.生成的内容必须符合客观事实，不能存在事实性错误； 9.生成的内容必须语言通顺； 10.生成的内容中不能出现“带货口播”等这一类字样； 输出格式：口播如下： xxx 方法二：产品介绍可以来源于真实的产品信息，也可以通过in-context-learning方式生成。示例如下： 大模型输入： 你是一个广告策划，你的工作是为不同的产品写宣传文案。 以下是一些优秀的宣传文案样例，请参考这些样例，为产品：“%s”编写一段宣传文案。 宣传文案样例1： XXXXX 宣传文案样例2： YYYY 注意：宣传文案中需要包含产品名称；需要突出产品特性；不超过40个字。 输出格式：宣传文案：xxx 微调数据要求： 数据格式样例：JSONL格式，每行是一条JSON，包含“context”和“target”两个字段。示例如下： {"context":"轻便折叠户外椅，舒适随行\n请根据以上的内容和要求扩写一篇带货口播文案，注意：1.开头引起观众的兴趣2.扩写要保留以上内容全部信息，结合观众需求突出商品特点3.在结尾引导观众行动。要求口语化。需要300字。", "target": "嗨！亲爱的朋友们，你们是不是也常常遇到户外活动时找不到合适的座椅，坐地上又硬又不舒服？那么，我今天要介绍的产品就能解决你的困扰！它就是轻便折叠户外椅，让你的户外时光更加舒适随行！\n\n这款户外椅不仅轻巧便携，折叠起来只有一只手的大小，非常方便携带！无论是野餐、露营还是旅行，它都能轻松满足你的需要，为你的舒适提供保障！\n\n它采用高质量的材料制造而成，坚固耐用，可以承受220磅的重量，稳如泰山，安全可靠。而且，它的面料柔软舒适，采用透气网布设计，不仅排汗透气，而且可根据你的身体曲线自主调节，提供全方位的支撑和舒适度。\n\n亲爱的朋友们，快来选购这款轻便折叠户外椅，让你的户外生活更加舒适、随心随行！赶快单击下方链接，实现你的户外梦想！"} {"context":"产品：毛绒玩具\n特点：柔软可爱，陪伴成长，给孩子无限温暖的拥抱。\n请根据以上的内容和要求扩写一篇带货口播文案，注意：1.开头引起观众的兴趣2.扩写要保留以上内容全部信息，结合观众需求突出商品特点3.在结尾引导观众行动。要求口语化。需要300字。", "target": "小伙伴们，我来给你们介绍一款超可爱的毛绒玩具！它柔软可爱，真的是陪伴成长、给孩子无限温暖的拥抱！\n\n它是宝宝的小伙伴，不离不弃地陪伴着他们的成长。而且这款毛绒玩每一个细节都呈现出了无限的童真和天真，真的是太可爱了！\n\n除了可爱外，这款毛绒玩具还有一个很重要的功能，它能给孩子带来无限温暖的拥抱。当孩子感到孤独或者失落时，它就像一个亲密的好友一样，安慰着他们的心灵。就像你给亲人一个紧紧的拥抱，让他们感受到你的爱一样，这款毛绒玩具也能给孩子带来同样的温暖和关怀。\n\n所以，我相信这款毛绒玩具一定能成为你宝贝的最爱，给他们带来无尽的欢乐和温暖。现在就单击下方链接，购买一只给宝贝一个最温暖的拥抱吧！"} 数据量级要求：本场景使用了5000条数据进行微调。 说明：类似场景需要的微调数据量视具体情况而定。从经验上来说，如果实际场景相对单一，比如只需要构建短视频口播文案生成的场景，则使用5000条数据即可；如果场景中涵盖多个细分场景，比如短视频口播生成、小红书风格文案生成等等，则每个子场景各需要准备至少5000条数据。 数据质量要求： 保证微调数据中的输入（context字段）不重复，否则会造成模型效果不佳。 保证微调数据内容干净，不包含异常字符。 保证输出（target字段）内容符合业务场景需求。例如，短视频口播场景要求文风可以引起观众兴趣、不丢失产品特点且可以引导观众购买。 微调数据清洗： 下表中列举了本场景常见的数据质量问题以及相应的清洗策略，供您参考： 表1 微调数据清洗步骤 数据问题 清洗步骤与手段 清洗前 清洗后 问题一：数据中存在超链接、异常符号等。 删除数据中的异常字符。 {"context":"轻便折叠户外椅，舒适随行\n请根据以上的内容和要求扩写一篇带货口播文案，注意：1.开头引起观众的兴趣2.扩写要保留以上内容全部信息，结合观众需求突出商品特点3.在结尾引导观众行动。要求口语化。需要300字。", "target": " ????嗨！亲爱的朋友们，你们是不是也常常遇到户外活动时找不到合适的座椅，坐地上又硬又不舒服？那么，我今天要介绍的产品就能解决你的困扰！它就是轻便折叠户外椅，让你的户外时光更加舒适随行！\n\n这款户外椅不仅轻巧便携，折叠起来只有一只手的大小，非常方便携带！无论是野餐、露营还是旅行，它都能轻松满足你的需要，为你的舒适提供保障！\n\n它采用高质量的材料制造而成，坚固耐用，可以承受220磅的重量，稳如泰山，安全可靠。而且，它的面料柔软舒适，采用透气网布设计，不仅排汗透气，而且可根据你的身体曲线自主调节，提供全方位的支撑和舒适度。\n\n亲爱的朋友们，快来选购这款轻便折叠户外椅，让你的户外生活更加舒适、随心随行！赶快单击下方链接，实现你的户外梦想！"} {"context":"轻便折叠户外椅，舒适随行\n请根据以上的内容和要求扩写一篇带货口播文案，注意：1.开头引起观众的兴趣2.扩写要保留以上内容全部信息，结合观众需求突出商品特点3.在结尾引导观众行动。要求口语化。需要300字。", "target": "嗨！亲爱的朋友们，你们是不是也常常遇到户外活动时找不到合适的座椅，坐地上又硬又不舒服？那么，我今天要介绍的产品就能解决你的困扰！它就是轻便折叠户外椅，让你的户外时光更加舒适随行！\n\n这款户外椅不仅轻巧便携，折叠起来只有一只手的大小，非常方便携带！无论是野餐、露营还是旅行，它都能轻松满足你的需要，为你的舒适提供保障！\n\n它采用高质量的材料制造而成，坚固耐用，可以承受220磅的重量，稳如泰山，安全可靠。而且，它的面料柔软舒适，采用透气网布设计，不仅排汗透气，而且可根据你的身体曲线自主调节，提供全方位的支撑和舒适度。\n\n亲爱的朋友们，快来选购这款轻便折叠户外椅，让你的户外生活更加舒适、随心随行！赶快单击下方链接，实现你的户外梦想！"} 问题二： 存在未转义的字符。 进行转义。 {"context":"舒适随行的"骆驼牌"轻便折叠户外椅，\n请根据以上的内容和要求扩写一篇带货口播文案，注意：1.开头引起观众的兴趣2.扩写要保留以上内容全部信息，结合观众需求突出商品特点3.在结尾引导观众行动。要求口语化。需要300字。", "target": …} {"context":"舒适随行的\"骆驼牌\"轻便折叠户外椅\n请根据以上的内容和要求扩写一篇带货口播文案，注意：1.开头引起观众的兴趣2.扩写要保留以上内容全部信息，结合观众需求突出商品特点3.在结尾引导观众行动。要求口语化。需要300字。", "target": …} 问题三：存在重复数据。 删除重复数据。 略 略

评估和优化模型 模型评估： 您可以从平台的训练日志中获取到每一步的Loss，并绘制成Loss曲线。本场景的一个Loss曲线示例如下： 图1 Loss曲线 通过观察，该Loss曲线随着迭代步数的增加呈下降趋势直至稳定，证明整个训练状态是正常的。若Loss曲线呈现轻微阶梯式下降，为正常现象。 模型持续优化： 本场景采用了下表中的推理参数进行解码，您可以在平台部署后参考如下参数调试： 表3 推理核心参数设置 推理参数 设置值 最大Token限制（max_token） 4096 温度（temperature） 0.3 核采样（top_p） 1.0 话题重复度控制（presence_penalty） 0 部署推理服务后，可以采用人工评测的方案来评估模型效果。若评测过程中出现如下问题，可以参考解决方案进行优化： 问题一：模型答案没有按照Prompt要求回答。例如，要求文案在300字以内，但是模型回答字数仍然超出300字。 解决方案：在数据质量要求中提到要求训练数据的输出（target字段）需要符合业务场景需求。因此，针对该问题，需要严格控制数据质量。若输入（context字段）要求文案300字以内，则输出必须要满足300字以内。 问题二：模型生成的文案中重复讨论一个相同的话题。 解决方案：对于这种情况，可以尝试修改推理参数。例如，降低“话题重复度控制”参数的值。若调整推理参数不生效，则检查数据质量，确认数据中不存在重复数据和高度相似数据。

场景介绍 随着互联网的发展，短视频已成为了日常生活中不可或缺的一部分，凭借其独特的形式和丰富的内容吸引了大量流量，并为企业和个人提供了一个全新的营销平台。短视频用户希望借助大模型快速生成高质量的口播文案，以提升营销效果和效率。在这种场景下，用户只需提供一些基本信息，大模型就能生成需求的文案，从而大大提高文案的质量和效率。 除了短视频风格的口播文案，营销文案还可以根据需求生成不同风格的文案，如小红书风格、知乎风格，或爆款标题等。

提示词工程介绍 提示工程是一项将知识、技巧和直觉结合的工作，需要通过不断实践实现模型输出效果的提升。提示词和模型之间存在着密切关系，本指南结合了大模型通用的提示工程技巧以及盘古大模型的调优实践经验，总结的一些技巧和方法更为适合基于盘古大模型的提示工程。 本文的方法论及技巧部分使用了较为简单的任务作为示例，以便简明易懂地说明这些技巧在提示工程中的应用。随着模型的进化和理解能力的提升，尽管在简单任务中模糊的指示也会取得较好的效果，但对于规则越复杂的任务，越需要应用这些技巧来输出一个逻辑自洽、清晰明了的指令。 提示词是什么 提示词也称为Prompt，是与大模型进行交互的输入，可以是一个问题、一段文字描述或者任何形式的文本输入。 提示词要素 指令：要求模型执行的具体任务或回答的问题。如：“写一篇关于勇士的小说”、“天空为什么是蓝色的？” 说明：对任务要求的补充说明。如：“有冒险、友情等元素”、“生成文本少于200字” 上下文：提供角色、示例、外部信息等，供大模型参考。 提示工程是什么 大模型生成文本的过程可视为一个黑盒，同一模型下对于同一个场景，使用不同的提示词也会获得不同的结果。提示工程是指在不更新模型参数的前提下，通过设计和优化提示词的方式，引导大模型生成目标结果的方法。 为什么需要提示工程 模型生成结果优劣取决与模型能力及提示词质量。其中模型能力的更新需要准备大量的数据及消耗大量的计算资源，而通过提示工程，可以在不对模型能力进行更新的前提下，有效激发模型能力。 “提示词撰写” 和“提示工程”有什么区别 提示词撰写实际上是构建一些问答对数据，用于模型的训练，会更新模型参数，而提示工程不涉及模型训练，仅通过提示词的优化来达到提升模型输出效果的目标。 什么是好的提示词 好的提示词内容明确且具体，能够指导语言模型稳定输出有效、无害的文本，帮助业务高效完成任务和达成任务目标。 父主题： 提示词写作实践

CoT思维链 对于复杂推理问题（如数学问题或逻辑推理），通过给大模型示例或鼓励大模型解释推理过程，可以引导大模型生成准确率更高的结果。 单样本/多样本 可以在提示词中提供示例，让模型先学习后回答，在使用这种方法时需要约束新样例不能照抄前面给的参考样例，新样例必须多样化、不能重复等，否则可能会直接嫁接前文样例的内容，也可以约束只是让它学习参考样例的xxx生成思路、xxx风格、xxx生成方法等。 零样本 对于无样本的任务，可以采用让模型分步思考的方法来分解复杂推理或数学任务，在问题的结尾可以加上“分步骤解决问题”或者“让我们一步一步地思考”，以引导大模型进行逐步的推理和解答。 通过上述指令，将一个推理任务拆解分步骤进行，可以降低推理任务的难度并可以增强答案可解释性。另外，相比直接输出答案，分步解决也容许大模型有更多的“思考时间”，用更多的计算资源解决该问题。 自洽性 同一问题使用大模型回答多次，生成多个推理路径及答案，选择一致性最高的结果作为最终答案。 父主题： 提示词写作进阶技巧

理解底层任务 需要站在模型的角度理解相关任务的真实底层任务，并清晰描述任务要求。 例如，在文档问答任务中，任务本质不是生成，而是抽取任务，需要让模型“从文档中抽取出问题的答案，不能是主观的理解或解释，不能修改原文的任何符号、字词和格式”， 如果使用“请阅读上述文档，并生成以下问题答案”，“生成”一词不是很恰当，模型会引入一些外部知识。 例如，在构造泛化问题的任务中，需要基于原问题改写为相同含义的问题，而不是生成相似的问题。当提示词使用“请生成10个跟“手机银行怎么转账”相似的问题”时，模型会认为实体/关键词/场景一致则是相似（在这个例子里实体为手机银行），而不是任务需要的语义级别的相同含义，所以输出内容会发散。 父主题： 提示词写作进阶技巧

评估和优化模型 模型评估： 您可以从平台的训练日志中获取到每一步的Loss，并绘制成Loss曲线。本场景的一个Loss曲线示例如下： 图2 query改写/中控模型微调时的Loss曲线 图3 问答模型微调时的Loss曲线 通过观察，Loss曲线随着迭代步数的增加呈下降趋势直至稳定，证明整个训练状态是正常的。 模型持续优化： 本场景采用了下表中的推理参数进行解码，您可以在平台中参考如下参数调试： 表3 问答模型的推理核心参数设置 推理参数 设置值 最大Token限制（max_token） 4096 温度（temperature） 0.9 核采样（top_p） 0.4 话题重复度控制（presence_penalty） 0.3 部署推理服务后，可以采用人工评测的方案来评估模型效果。以下列出该场景中可能遇到的常见问题，评测过程中如出现这些问题，可参考相应的解决方案： 问题一：问答场景问题，针对文档库中的内容可以回答的问题，模型的最终回答不符合预期。 解决方案：首先进行问题定位，确定是未检索到相关文档，还是检索到相关内容但模型理解错误。如果未检索到相关文档，则需从入库内容优化、提高检索精度、过滤无关内容等方面进行检索优化。如果检索内容正确，但模型回复不符合预期，则应考虑优化微调数据并重新训练模型。 问题二：针对特定问题，问答场景模型可以较好地回复内容，但对闲聊场景，模型的回复很差。 解决方案：这里有可能有两方面的原因：一方面是问答模块对应的模型的通用能力较差，另一方面是中控模块执行判断是否需要调用检索出错，检索文档混入导致模型受到干扰。针对前者，说明模型的通用能力退化，需要在微调模型时适当混入一些通用数据。

训练模型 自监督训练： 不涉及 有监督微调： 该场景采用下表中的微调参数进行微调，您可以在平台中参考如下参数进行训练： 表2 问答模型的微调核心参数设置 训练参数 设置值 数据批量大小（batch_size） 4 训练轮数（epoch） 3 学习率（learning_rate） 3e-6 学习率衰减比率（learning_rate_decay_ratio） 0.01 热身比例（warmup） 0.1