检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
the existing API. 访问的API与已开通的API服务不匹配。 请确认调用的API是否填写错误。 PANGU.3315 The accessed API's model instance is not public. API模型实例未公开。 请检查是否具备盘古大模型服
query改写模块：针对多轮对话中经常出现的指代和信息省略问题，对用户输入的query做改写，将指示代词替换为实体词，并补充省略的context信息。基于改写后的query，再去调用中控模块以及检索模块，以便能够更好地检索出相关文档。 中控模块：对（经过改写后的）用户输入query，进行意图识别，判断是否是
创建数据集标注任务时，如果设置了启用标注审核，在完成标注后可以在“标注审核”页面审核标注结果。 对于审核不合格的数据可以填写不合格原因并驳回给标注员重新标注。创建标注任务时如果指定了审核人员，则审核人员可以审核数据集，管理员（主账号）可以对所有数据集进行审核。 登录ModelArts
设置背景及人设 背景： 模型基于简单prompt的生成可能是多范围的各方向发散的，如果您需要进行范围约束，或加强模型对已有信息的理解，可以进行提示：“结合xxx领域的专业知识...理解/生成...”、“你需要联想与xxx相关的关键词、热点信息、行业前沿热点等...生成...”，或
准备工作 申请试用盘古大模型服务 配置服务访问授权 创建并管理盘古工作空间
息头，从而通过身份认证。 AK(Access Key ID)：访问密钥ID。与私有访问密钥关联的唯一标识符；访问密钥ID和私有访问密钥一起使用，对请求进行加密签名。 SK(Secret Access Key)：与访问密钥ID结合使用的密钥，对请求进行加密签名，可标识发送方，并防止请求被修改。
申请试用盘古大模型服务 盘古大模型为用户提供了服务试用，需提交试用申请，申请通过后试用盘古大模型服务。 登录ModelArts Studio大模型开发平台首页。 在首页单击“试用咨询”，申请试用盘古大模型服务。 图1 申请试用 父主题： 准备工作
输入参数名称从插件元信息中导入，用户无需手动添加。 取值 支持“引用”和“输入”两种类型。 引用：支持用户选择工作流中已包含的前置组件输出变量值。 输入：支持用户自定义取值。 输出参数 输出参数所有信息从插件元信息中导入，用户无需手动添加。 单击“确定”，完成参数配置。 连接插件组件和其他组件。
其他类数据集格式要求 除文本、图片、视频、气象、预测类数据集外，用户训练模型时如果使用较特殊的数据集，ModelArts Studio大模型开发平台支持导入用户自定义的数据集。 例如，在训练CV类算法（如图片分类、图片分割、图片检测等任务）时，用户需使用“其他”类型的数据集。 其他类数据集可直接
数据集中的内容不支持，请保证上传的数据格式与平台要求的一致。 get obs bucket folders error. 请检查OBS服务是否正常，是否可以访问OBS桶数据。 数据加工 The task operator not exist. 执行数据加工使用的算子出现异常，请联系服务技术支持解决。
性能。当前仅支持对NLP大模型进行压缩。采用的压缩方式是INT8，INT8量化压缩可以显著减小模型的存储大小，降低功耗，并提高计算速度。 登录ModelArts Studio大模型开发平台，进入所需操作空间。 图1 进入操作空间 在左侧导航栏中选择“模型开发 > 模型压缩”，单击
数量。 数据量以Token为单位。 流水线并行微批次大小 在流水线并行处理中，通过合理设置并行程度，可以减少各阶段之间的空闲等待时间，从而提升整个流水线的效率。 每个数据并行下的批处理大小 设置在并行训练中，每个微批次包含的数据批量大小，适当的数据批量大小能够确保训练各个阶段都能充分利用计算资源，提升并行效率。
请求方式 插件服务的请求方式，POST或GET。 权限校验 插件服务的鉴权方式，支持以下三种： 无需鉴权：不使用鉴权时会存在安全风险。 用户级鉴权：用户级鉴权可以使用Header鉴权或Query鉴权的方式，需要提供密钥鉴权参数名和密钥来源参数名。 API Key：API Key鉴权可
使用数据工程构建NLP大模型数据集 NLP大模型支持接入的数据集类型 盘古NLP大模型仅支持接入文本类数据集，该数据集格式要求请参见文本类数据集格式要求。 构建NLP大模型所需数据量 使用数据工程构建盘古NLP大模型数据集进行模型训练时，所需数据量见表1。 表1 构建NLP大模型所需数据量
管理工作流 登录ModelArts Studio大模型开发平台，进入所需空间。 在左侧导航栏中选择“Agent开发”，将跳转至Agent开发平台。 单击左侧导航栏“工作台”，在“工作流”页签中，鼠标右键单击工作流，进行工作流的复制、复制ID、删除。 父主题： 创建与管理工作流
手工编排Agent应用流程 手工编排Agent应用流程步骤如下： 登录ModelArts Studio大模型开发平台，进入所需空间。 在左侧导航栏中选择“Agent开发”，将跳转至Agent开发平台。 单击左侧导航栏“工作台”，在“应用”页签，单击右上角“创建应用”。 您也可以鼠
统计模型调用信息 针对调用的大模型，平台提供了统一的管理功能。 登录ModelArts Studio大模型开发平台，进入所需操作空间。 图1 进入操作空间 单击左侧导航栏“调用统计”，选择“NLP”页签。 选择当前调用的NLP大模型，可以按照不同时间跨度查看当前模型的调用总数、调
盘古大模型是否可以自定义人设 大模型支持设置人设，在用户调用文本对话（chat/completions）API时，可以将“role”参数设置为system，让模型按预设的人设风格回答问题。 以下示例要求模型以幼儿园老师的风格回答问题： { "messages": [
全量升级：新旧版本的服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时，系统会先删除旧版本，再进行升级，期间旧版本不可使用。 图1 模型更新 图2 修改部署 父主题：
创建提示词工程 通过精心设计和优化提示词，可以引导大模型生成用户期望的输出。提示词工程任务的目标是通过设计和实施一系列的实验，来探索如何利用提示词来提高大模型在各种任务上的表现。 撰写提示词前需要先创建提示词工程，用于对提示词进行统一管理。 登录ModelArts Studio大模型开发平台，进入所需空间。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
