检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
定”，可以启动训练任务。 克隆。单击操作列的“更多 > 克隆”，可以复制当前训练任务。 重试。单击操作列的“更多 > 重试”，可以编辑运行失败的节点，重试该节点的训练。 删除。单击操作列的“更多 > 删除”，可以删除当前不需要的训练任务。 删除属于高危操作，删除前请确保当前任务不再需要。
需支付从进入保留期开始至续费时的费用。 账户欠费后，部分操作将受限，建议您尽快续费。具体受限操作如下： 按需方式的API接口不可调用。 无法开通服务。
定”，可以启动训练任务。 克隆。单击操作列的“更多 > 克隆”，可以复制当前训练任务。 重试。单击操作列的“更多 > 重试”，可以编辑运行失败的节点，重试该节点的训练。 删除。单击操作列的“更多 > 删除”，可以删除当前不需要的训练任务。 父主题： 训练科学计算大模型
大模型微调训练类问题 无监督领域知识数据量无法支持增量预训练，如何进行模型学习 如何调整训练参数，使盘古大模型效果最优 如何判断盘古大模型训练状态是否正常 如何评估微调后的盘古大模型是否正常 如何调整推理参数，使盘古大模型效果最优 为什么微调后的盘古大模型总是重复相同的回答 为什么微调后的盘古大模型的回答中会出现乱码
进行选择。 高级设置 checkpoints：在模型训练过程中，用于保存模型权重和状态的机制。 关闭：关闭后不保存checkpoints，无法基于checkpoints执行续训操作。 自动：自动保存训练过程中的所有checkpoints。 自定义：根据设置保存指定数量的checkpoints。
1，N4模型 0.85 max_tokens 否 Integer 生成文本的最大token数量，单位token。 输入的文本加上生成的文本总量不能超过模型所能处理的最大长度。 最小值：1 最大值：N1模型：32K/128K，N2模型：4K/32K/128K/256K，N4模型：4K/32K
调用API有两种认证方式，包括Token认证和AppCode认证。其中，AppCode认证的使用场景为当用户部署的API服务期望开放给其他用户调用时，原有Token认证无法支持，可通过AppCode认证调用请求。 参考表2填写请求Header参数。 表2 请求Header参数填写说明 认证方式 参数名 参数值
服务端返回的数据格式不符合json格式，导致sdk侧解析json数据报错。 服务端返回的json数据不符合json反序列化的规则，和sdk定义的数据结构不一致，导致反序列化失败。 sdk json数据解析问题。 建议排查服务端返回的数据是否和服务SDK设计的结构、字段一致。 SDK运行报错 java.lang.N
插件服务的请求URL地址。 URL协议只支持HTTP和HTTPS。 系统会校验URL地址是否为标准的URL格式。 URL对应的IP默认不应为内网，否则会导致注册失败。仅在非商用环境部署时，才允许支持内网URL，且需要通过相关的服务的启动配置项关闭内网屏蔽。 请求方法 插件服务的请求方式，POST或GET。
盘古专业大模型能力与规格 盘古专业大模型是盘古百亿级NL2SQL模型，适用于问数场景下的自然语言问题到SQL语句生成，支持常见的聚合函数（如去重、计数、平均、最大、最小、合计）、分组、排序、比较、条件（逻辑操作、离散条件、范围区间等条件的混合和嵌套）、日期操作，支持多表关联查询。
学习率（learning_rate） 0~1 1e-6~5e-4 学习率是在梯度下降的过程中更新权重时的超参数，过高会导致模型在最优解附近震荡，甚至跳过最优解，无法收敛，过低则会导致模型收敛速度过慢。 您可根据数据和模型的规模进行调整。一般来说，如果数据量级很小或模型参数规模很大，可以使用较小的学习率，反之可以使用较大的学习率。
基于NL2JSON助力金融精细化运营 场景介绍 在金融场景中，客户日常业务依赖大量报表数据来支持精细化运营，但手工定制开发往往耗费大量人力。因此，希望借助大模型消除语义歧义性，识别用户查询意图，并直接生成支持下游操作的结构化JSON信息。大模型的NL2JSON能力可以从自然语言输
单击页面右下角“立即创建”，回退至“数据导入”页面，在该页面可以查看数据集的任务状态，若状态为“运行成功”，则数据导入成功。 如果任务状态为“运行失败”，可能由以下原因导致： 文件后缀校验不通过，需要检查文件后缀是否一致。例如，选择创建csv格式的数据集时，文件后缀应为“.csv”。 文
“创建用户”。 图6 创建用户 配置用户基本信息，单击“下一步”。 配置用户信息时，需要勾选“编程访问”，如果未勾选此项，会导致IAM用户无法使用盘古服务API、SDK。 图7 配置用户基本信息 将用户添加至创建用户组步骤中创建的用户组，单击“创建用户”，完成IAM用户的创建。 图8
训练智能客服系统大模型需考虑哪些方面？ 更多 大模型使用类 盘古大模型是否可以自定义人设？ 如何将本地的数据上传至平台？ 导入数据过程中，为什么无法选中OBS的具体文件进行上传？ 如何查看预置模型的历史版本？ 更多 大模型微调训练类 如何调整训练参数，使盘古大模型效果最优？ 为什么微调后的盘古大模型的回答中会出现乱码？
在工作流编排页面，平台已预先编排了开始、大模型与结束节点。 单击节点右上角的，可以对当前节点执行重命名、复制、删除操作。开始和结束节点为必选节点，无法删除。 图3 节点的重命名、复制、删除操作 配置“开始”节点。单击“开始”节点，该节点已默认配置query参数，该参数表示用户输入的内容。当前场景下无需新增参数，单击“确定”。
创建专业大模型部署任务 平台支持部署预置的专业大模型，操作步骤如下： 登录ModelArts Studio大模型开发平台，进入所需空间。 在左侧导航栏中选择“模型开发 > 模型部署”，单击界面右上角“创建部署”。 在“创建部署”页面，参考表1完成部署参数设置。 表1 专业大模型部署参数说明
基本概念 账号 用户注册华为云时的账号，账号对其所拥有的资源及云服务具有完全的访问权限，可以重置用户密码、分配用户权限等。由于账号是付费主体，为了确保账号安全，建议您不要直接使用账号进行日常管理工作，而是创建用户并使用他们进行日常管理工作。 用户 由账号在IAM中创建的用户，是云
文本类数据集格式要求 ModelArts Studio大模型开发平台支持创建文本类数据集，创建时可导入多种形式的数据，具体格式要求详见表1。 表1 文本类数据集格式要求 文件内容 文件格式 文件要求 文档 txt、mobi、epub、docx、pdf 单个文件大小不超过50GB，文件数量最多1000个。
订购盘古大模型服务 订购模型与资源 ModelArts Studio大模型开发平台支持订购模型资产、数据资源、训练资源、推理资源，支持模型资产的包年/包月订购、资源的包年/包月和按需计费订购。 模型资产：模型资产可用于模型开发、应用开发等模块。当前支持订购NLP大模型、CV大模型
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
