检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用推理SDK 安装SDK 使用SDK前，需要安装“huaweicloud-sdk-core”和“huaweicloud-sdk-pangulargemodels”。 请在SDK中心获取最新的sdk包版本，替换示例中版本。 表1 安装推理SDK SDK语言 安装方法 Java 在
copernicus.eu/datasets，查找名称中包含ERA5和pressure levels的数据集。 表面变量数据下载链接：https://cds.climate.copernicus.eu/datasets，查找名称中包含ERA5和single levels的数据集。 海洋模型
ModelArts Studio大模型开发平台使用对象存储服务（Object Storage Service，简称OBS）进行数据存储，实现安全、高可靠和低成本的存储需求。因此，为了能够顺利进行存储数据、训练模型等操作，需要用户配置访问OBS服务的权限。 配置OBS访问授权步骤如下： 登录ModelArts
件、范围区间等条件的混合和嵌套）、日期操作，支持多表关联查询。 与非专业大模型相比，专业大模型针对特定场景优化，更适合执行数据分析、报告生成和业务洞察等任务。 ModelArts Studio大模型开发平台为用户提供了多种规格的专业大模型，以满足不同场景和需求。以下是当前支持的模
“下一步”。 在“数据配比”页面，支持两种配比方式，“按数据集”和“按标签”。 按数据集：可以设置不同数据集的配比数量，单击“确定”。 按标签：该场景适用于通过数据打标类加工算子进行加工的文本类数据集，具体标签名称与标签值可在完成加工文本类数据集操作后，进入数据集详情页面获取。 填写示例如图1所示。
下所示： 其中，单个cls类别目录下的每个三级目录为一个样本，例如cls1文件的样本为aa和bb。 所有样本文件夹（如aa）包含的图片数量相等，例如cls1样本aa和bb、cls1样本aa和cls2的样本cc。 每个样本文件夹（如aa）可以视为一个视频片段，其中每张图片代表视频的
NLP大模型训练流程介绍 NLP大模型的训练分为两个关键阶段：预训练和微调。 预训练阶段：在这一阶段，模型通过学习大规模通用数据集来掌握语言的基本模式和语义。这一过程为模型提供了处理各种语言任务的基础，如阅读理解、文本生成和情感分析，但它还未能针对特定任务进行优化。 针对预训练阶段，还
管理标注任务（任务管理）。其中，不同角色权限支持的功能及展示的前端界面略有差异，详见表1。 表1 不同角色支持的数据标注任务权限清单 角色名称 创建标注任务 标注作业任务 审核作业任务 任务管理任务 超级管理员 √ √ - √ 管理员 √ √ - √ 标注管理员 √ √ - √ 标注作业员
PI调用推理接口。 表1 API清单 API 功能 操作指导 NLP大模型-文本对话 基于对话问答功能，用户可以与模型进行自然而流畅的对话和交流。 文本对话 科学计算大模型-气象/降水模型 支持创建推理作业并查询推理作业详情。 气象/降水模型 科学计算大模型-海洋模型 支持创建推理作业并查询推理作业详情。
撰写提示词时，可以设置提示词变量。即在提示词中通过添加占位符{{ }}标识表示一些动态的信息，让模型根据不同的情况生成不同的文本，增加模型的灵活性和适应性。例如，将提示词设置为“你是一个旅游助手，需要给用户介绍旅行地的风土人情。请介绍下{{location}}的风土人情。”在评估提示词效
根据智能客服场景，建议从以下方面考虑： 根据企业实际服务的场景和积累的数据量，评估是否需要构建行业模型，如电商、金融等。 根据每个客户的金牌客服话术，可以对对话模型进行有监督微调，进一步优化其性能。 根据每个客户的实际对话知识，如帮助文档、案例库和FAQ库等，可以使用“先搜后推”的解决方案。客户
根据文本生成回答_扮演指定人设 根据用户指定的人设和问题，根据输入的上下文生成相应回答。可与人设泛化指令编排，实现事实遵循类问答对泛化。 问题生成回答_扮演指定人设 根据用户指定的人设和问题，生成相应回答。可与人设泛化指令编排，实现问答对泛化。 根据文本生成回答 根据用户输入的上下文和问题，生成相应回答。可实现事实遵从的合成
数据是大模型训练的基础，为大模型提供了必要的知识和信息。数据工程工具链作为盘古大模型服务的重要组成部分，具备数据获取、清洗、数据合成、数据标注、数据评估、数据配比、数据流通和管理等功能。 该工具链能够高效收集和处理各种格式的数据，满足不同训练和评测任务的需求。通过提供自动化的质量检测和
Agent开发平台支持两种类型的插件： 预置插件：平台为开发者和用户提供了预置插件，直接可用，无需额外开发。例如，平台提供的“Python解释器插件”能够根据用户输入的问题自动生成Python代码，并执行该代码获取结果。此插件为Agent提供了强大的计算、数据处理和分析功能，用户只需将其添加到应用中，即可扩展功能。
标准格式的示例如下，其中，context和target是键值对。 {"context": "你好，请介绍自己", "target": "我是盘古大模型"} 盘古格式：训练盘古大模型时，需要将数据集格式发布为“盘古格式”。 盘古格式的示例如下，其中，context和target是键值对。与标准格式不同，context是一个数组。
平台提供了图文类、图片类加工算子，算子能力清单见表1。 表1 图片类加工算子能力清单 算子分类 算子名称 算子描述 所需资源类型 数据提取 图文提取 提取图文压缩包中的JSON文本和图片，并对图片进行结构化解析（BASE64编码）。 数据通算单元 数据过滤 图片元数据过滤 基于图片
管理标注任务（任务管理）。其中，不同角色权限支持的功能及展示的前端界面略有差异，详见表1。 表1 不同角色支持的数据标注任务权限清单 角色名称 创建标注任务 标注作业任务 审核作业任务 任务管理任务 超级管理员 √ √ - √ 管理员 √ √ - √ 标注管理员 √ √ - √ 标注作业员
训练资源、推理资源，支持模型资产的包年/包月订购、资源的包年/包月和按需计费订购。 模型资产：模型资产可用于模型开发、应用开发等模块。当前支持订购NLP大模型、多模态大模型、CV大模型、预测大模型、科学计算大模型和专业大模型。 数据资源：数据通算单元适用于数据加工，用于正则类算子
发送的实体的MIME类型，参数值为“application/json”。 表3 请求Body参数 参数 是否必选 参数类型 描述 name 是 String 推理作业的名称。 input 是 TaskInputDto object 输入数据的信息。 output 是 TaskOutputDto object 输出数据的信息。
管理标注任务（任务管理）。其中，不同角色权限支持的功能及展示的前端界面略有差异，详见表1。 表1 不同角色支持的数据标注任务权限清单 角色名称 创建标注任务 标注作业任务 审核作业任务 任务管理任务 超级管理员 √ √ - √ 管理员 √ √ - √ 标注管理员 √ √ - √ 标注作业员
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
