检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
排流程的pipeline，将这些模块提供的API接口进行编排，串联query改写、意图识别模块、检索模块和问答模块。该pipeline负责接收前端用户输入的query和历史问答，逐步处理并最终输出答案，展示在前端界面。 在该框架中，query改写模块、中控模块和问答模块由大模型具
缺失值处理：若微调数据有缺失值，需将缺失值处理成nan。 导入微调数据至平台 用户可以将存储在OBS服务的数据或本地数据导入至ModelArts Studio平台。 本案例以导入OBS服务中的数据为例，导入微调数据至平台的步骤如下： 登录ModelArts Studio平台，进入所需空间。 在左侧导航栏中选择“数据工程
Studio大模型开发平台，单击“AGENT开发”，将跳转至Agent开发平台。 图5 AGENT开发 在Agent开发平台，单击左侧导航栏“工作台”，在“插件”页签，单击右上角“创建插件”。 输入插件名称及插件描述，配置完成单击“下一步”。 图6 创建插件 为保证插件检索的效果，平台限制插件
训练，平台支持发布不同格式的数据集。 当前支持标准格式、盘古格式： 标准格式：数据工程功能支持的原始格式。该格式的数据集可发布到资产中，但下游模型开发不可见。 盘古格式：使用盘古大模型训练时所需要使用的数据格式，该数据集将被用于ModelArts Studio大模型开发平台的模型开发中使用。
工作流节点设计 选取工作流的几个重要节点，每个节点负责特定的任务。以下是各节点的功能和设计思路： 开始节点：作为工作流的入口，开始节点负责接收用户输入的文本。无论是普通对话文本，还是包含翻译请求的文本，都将从此节点开始。 意图识别节点：该节点对用户输入的文本进行分类和分析，识别出用户的意图。主要包括以下两种意图：
使用数据工程构建数据集 数据工程介绍 数据工程使用流程 数据集格式要求 导入数据至盘古平台 加工数据集 发布数据集 数据工程常见报错与解决方案
开发盘古大模型Agent应用 Agent开发平台介绍 编排与调用应用 编排与调用工作流 创建与管理插件 创建与管理知识库 Agent开发常见报错与解决方案
大模型使用类 盘古大模型是否可以自定义人设 如何将本地的数据上传至平台 导入数据过程中，为什么无法选中OBS的单个文件进行上传 如何查看预置模型的历史版本 训练/推理单元与算力的对应关系是什么
管理，您可以跳过本章节，不影响您使用盘古的其他功能。 您可以使用统一身份认证服务（IAM）并结合ModelArts Studio大模型开发平台提供的“成员管理”功能实现子用户精细的权限管理。 创建用户组 管理员可以创建用户组，并给用户组授予策略或角色，然后将用户加入用户组，使得用户组中的用户获得相应的权限。
您可根据任务难度和数据规模进行调整。一般来说，如果目标任务的难度较大或数据量级很小，可以使用较大的训练轮数，反之可以使用较小的训练轮数。 如果您没有专业的调优经验，可以优先使用平台提供的默认值，再结合训练过程中模型的收敛情况动态调整。 数据批量大小（batch_size） >=1 4/8 数据批量大小是指对数据集进行
n限制等参数。模型参数的设置会影响模型的生成质量和多样性，因此需要根据不同的场景进行选择。 登录ModelArts Studio大模型开发平台，进入所需空间。 在左侧导航栏中选择“Agent开发 > 提示词工程 > 提示词开发”。 在工程任务列表页面，找到所需要操作的工程任务，单击该工程任务右侧“撰写”。
rts 拥有用户OBS桶只读权限 盘古用户角色 盘古大模型的用户可以被赋予不同的角色，对平台资源进行精细化的控制。 表2 角色定义 角色名称 角色描述 超级管理员 订购服务的用户，具备当前平台下对所有工作空间的所有权限。 管理员 对工作空间有完全访问权，包括查看、创建、编辑或删除
获取模型部署ID 模型部署ID获取步骤如下： 登录ModelArts Studio大模型开发平台。 获取模型请求URI。 若调用部署后的模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“我的服务”页签，模型部署列表单击模型名称，在“详情”页签中，可获取模型的部署ID。 图1
您可根据任务难度和数据规模进行调整。一般来说，如果目标任务的难度较大或数据量级很小，可以使用较大的训练轮数，反之可以使用较小的训练轮数。 如果您没有专业的调优经验，可以优先使用平台提供的默认值，再结合训练过程中模型的收敛情况动态调整。 数据批量大小（batch_size） >=1 4/8 数据批量大小是指对数据集进行
步骤1：创建并配置多语言文本翻译工作流 登录ModelArts Studio大模型开发平台，单击“AGENT开发”，将跳转至Agent开发平台。 图1 AGENT开发 在Agent开发平台，单击左侧导航栏“工作台”，在“工作流”页签，单击右上角“创建工作流”。 选择“对话型工作
使用“能力调测”功能 调用API接口 “能力调测”功能支持用户直接调用已部署的预置服务，使用步骤如下： 登录ModelArts Studio大模型开发平台，进入所需空间。 单击左侧“能力调测”，进入“文本对话”页签，选择服务与系统人设，参数设置为默认参数，在输入框输入问题，单击“生成”，模型将基于问题进行回答。
服务的请求URI即API服务的终端地址，通过该地址与API进行通信和交互。 URI获取步骤如下： 登录ModelArts Studio大模型开发平台。 进入所需工作空间。 获取请求URI。 获取模型请求URI。 若调用部署后的模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“我
须的。 提示词工程使用流程 ModelArts Studio大模型开发平台可以辅助用户进行提示词撰写、比较和评估等操作，并对提示词进行保存和管理。 表1 功能说明 功能 说明 提示词工程任务管理 提示词工程平台以提示词工程任务为管理维度，一个任务代表一个场景或一个调优需求，在提示
创建数据集时会对相关限制条件进行校验。 数据参考格式如下： 图1 数据参考格式 图2 数据示例 创建提示词评估数据集 登录ModelArts Studio大模型开发平台，进入所需空间。 在左侧导航栏中选择“Agent 开发 > 提示词工程 > 提示用例管理”，单击页面右上角“创建提示用例集”。 图3 提示用例管理
am、AdamW、RMSprop等，这些优化器可以自动调整学习率。 如果您没有专业的调优经验，可以优先使用ModelArts Studio平台的默认值，再结合损失曲线动态调整。 父主题： 盘古科学计算大模型调优实践
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
