检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
规划和分配任务，使团队协作更加高效。 此外，平台配备了完善的角色权限体系，覆盖超级管理员、管理员、模型开发工程师等多种角色。通过灵活的权限设置，每位用户能够在其对应的权限范围内安全高效地操作平台功能，从而最大程度保障数据的安全性与工作效率。 父主题： 创建并管理盘古工作空间
操作。 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 单击左侧导航栏的“空间管理”，在“空间设置”页签可执行如下操作： 修改当前空间名称与描述。 可查看当前空间的创建时间。 单击右上角“删除”，可删除当前空间。 删除空间属于高危操作，删除前请确保当前空间不再进行使用。
选择数据集，单击“下一步”。 在“基本配置”中选择数据用途、数据集可见性、适用场景。当前视频类数据集仅支持发布标准格式。 填写数据集名称、描述，设置扩展信息后，单击“确定”执行数据集发布操作。 当任务状态显示为“运行成功”时，说明数据发布任务执行成功，生成的“发布数据集”可在“数据工程
话题重复度控制（presence_penalty） -2~2 0 话题重复度控制主要用于控制模型输出的话题重复程度。 参数设置正值，模型倾向于生成新的、未出现过的内容；参数设置负值，倾向于生成更加固定和统一的内容。 如果您没有专业的调优经验，可以优先使用建议，再结合推理的效果动态调整。 为
配比任务”，单击界面右上角“创建配比任务”。 在“数据集选择”页签选择需要配比的文本类数据集（至少选择两个），单击“下一步”。 在“数据配比”页面，可以设置不同数据集的配比数量，单击“确定”。 页面将返回至“数据配比”页面，配比任务运行成功后，状态将显示为“运行成功”。 单击操作列“生成”，将生成“发布数据集”。
字节，可以有效降低推理显存占用。 INT4：该压缩策略与INT8相比，可以进一步减少模型的存储空间和计算复杂度。 配置资源。选择计费模式并设置训练单元。 可选择开启订阅提醒。开启后，系统将在本次压缩任务状态变更时，向用户发送短信/邮件提醒。 填写基本信息，包括任务名称、压缩后模型名称与描述，单击“立即创建”。
在左侧导航栏中选择“模型开发 > 模型评测 > 任务管理”，单击界面右上角“创建评测任务”。 在“创建评测任务”页面，参考表1完成部署参数设置。 表1 NLP大模型自动评测任务参数说明 参数分类 参数名称 参数说明 选择服务 模型来源 选择“NLP大模型”。 服务来源 支持已部署
在“数据集选择”页签选择需要配比的文本类数据集（至少选择两个），单击“下一步”。 在“数据配比”页面，支持两种配比方式，“按数据集”和“按标签”。 按数据集：可以设置不同数据集的配比数量，单击“确定”。 按标签：该场景适用于通过数据打标类加工算子进行加工的文本类数据集，具体标签名称与标签值可在完成加工文
概述 盘古大模型整合华为云强大的计算和数据资源，将先进的AI算法集成在预训练大模型中，打造出具有深度语义理解与生成能力的人工智能大语言模型。可进行对话互动、回答问题、协助创作。 盘古大模型在ModelArts Studio大模型开发平台部署后，可以通过API调用推理接口。 表1 API清单
rts Studio大模型开发平台的模型开发中使用。 如果使用该数据集训练盘古大模型，请将选择格式配置为盘古格式。 填写数据集名称、描述，设置扩展信息后，单击“确定”执行数据集发布操作。 当任务状态显示为“运行成功”时，说明数据发布任务执行成功，生成的“发布数据集”可在“数据工程
rts Studio大模型开发平台的模型开发中使用。 如果使用该数据集训练盘古大模型，请将发布格式配置为盘古格式。 填写数据集名称、描述，设置扩展信息后，单击“确定”执行数据集发布操作。 当任务状态显示为“运行成功”时，说明数据发布任务执行成功，生成的“发布数据集”可在“数据工程
行标注作业任务。 其中，对于“标注作业员”角色，可单击“标注”执行标注作业任务。 如果需要将该标注任务移交给其他人员，可以单击“移交”，并设置移交人员以及移交数量，单击“确定”。 进入标注页面后，逐一对数据进行标注。 如图1，以标注单轮问答数据为例，需要逐一确认问题（Q）及答案（
话题重复度控制（presence_penalty） -2~2 0 话题重复度控制主要用于控制模型输出的话题重复程度。参数设置正值，模型倾向于生成新的、未出现过的内容；参数设置负值，倾向于生成更加固定和统一的内容。 如果您没有专业的调优经验，可以优先使用建议，再结合推理的效果动态调整。 为
自监督训练： 不涉及 有监督微调： 该场景采用了下表中的微调参数进行微调，您可以在平台中参考如下参数进行训练： 表1 微调核心参数设置 训练参数 设置值 数据批量大小（batch_size） 8 训练轮数（epoch） 6 学习率（learning_rate） 7.5e-05 学
剔除包含关键词的数据。 数据通算单元 敏感词过滤 对文本中涉及黄色、暴力、政治等敏感数据进行自动检测和过滤。 数据通算单元 文本长度过滤 按照设置的文本长度，保留长度范围内的数据进行。 数据通算单元 冗余信息过滤 按照段落粒度，删除文本中的冗余信息，不改变数据条目。 例如图注表注和参考文献。
获取任务ID参数值。 在Postman中新建一个GET请求，填入域名（将获取调用路径中获取的URL去除末尾的“/tasks”即为该域名），设置请求Header参数和任务ID参数。单击Postman界面的“Send”发送请求，以获取科学计算大模型的调用结果。 查询科学计算大模型调用详情API
型的收敛情况动态调整。 学习率衰减比率（learning_rate_decay_ratio） 0~1 0.01~0.1 学习率衰减比率用于设置训练过程中的学习率衰减的最小值。计算公式为：最小学习率=学习率*学习率衰减比率。 参数的选择没有标准答案，您需要根据任务的实际情况进行调整，以上建议值仅供参考。
插件介绍 在Agent开发平台中，插件是大模型能力的重要扩展。通过模块化方式，插件能够为大模型提供更多专业技能和复杂任务处理能力，使其在多样化的实际场景中更加高效地满足用户需求。 通过插件接入，用户可以为应用赋予大模型本身不具备的能力。插件提供丰富的外部服务接口，当任务执行时，模
发布任务”，单击界面右上角“创建发布任务”。 在“创建发布任务”页面，数据集模态选择“气象 > 气象数据”，选择需要发布的数据集。 图3 创建发布任务 单击“下一步”，设置数据集的“数据用途”与“数据集可见性”，填写数据集名称、描述，单击“确认”完成微调数据集的构建。 父主题： 盘古科学计算大模型微调训练实践
型的收敛情况动态调整。 学习率衰减比率（learning_rate_decay_ratio） 0~1 0.01~0.1 学习率衰减比率用于设置训练过程中的学习率衰减的最小值。计算公式为：最小学习率=学习率*学习率衰减比率。 以政务开放问答场景为例，场景数据量为2970条，采用盘古
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
