检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
编写输入参数内容，单击“开始运行”。 图10 编写输入参数内容 可在“运行结果”页面查看当前节点的运行结果。 若运行成功，节点处也将显示“运行成功”字样。 图11 单节点调试运行成功示例 父主题： 编排与调用工作流
earning Rate）是模型训练中最重要的超参数之一，它直接影响模型的收敛速度和最终性能： 学习率过高，会导致损失在训练初期快速下降，但随后波动较大，甚至出现NaN（梯度爆炸）的问题。 学习率过低，会导致损失下降非常缓慢，训练过程耗时较长，模型可能陷入局部最优等问题。 科学计算大模型的学习率调优策略如下：
科学计算大模型训练常见报错与解决方案 常见报错 问题现象 原因分析 解决方案 创建训练任务时，数据集列表为空 创建训练任务时，数据集选择框中显示为空，无可用的训练数据集。 数据集未发布。 请提前创建与大模型对应的训练数据集，并完成数据集发布操作。 训练日志提示“root: XXX valid
如何分析大模型输出错误回答的根因 大模型的输出过程通常是一个黑盒，涉及数以亿计甚至千亿计的参数计算，虽然这些参数共同作用生成输出，但具体的决策机制并不透明。 可以通过在提示词中引导模型输出思考过程，或者在模型输出后追问模型，帮助我们分析错误的根因。例如： “我注意到你犯了xxx的错误，请解释得出该结论的原因。”
基于NL2JSON助力金融精细化运营 场景介绍 在金融场景中，客户日常业务依赖大量报表数据来支持精细化运营，但手工定制开发往往耗费大量人力。因此，希望借助大模型消除语义歧义性，识别用户查询意图，并直接生成支持下游操作的结构化JSON信息。大模型的NL2JSON能力可以从自然语言输
NLP大模型训练常见报错与解决方案 常见报错 问题现象 原因分析 解决方案 创建训练任务时，数据集列表为空。 创建训练任务时，数据集选择框中显示为空，无可用的训练数据集。 数据集未发布。 请提前创建与大模型对应的训练数据集，并完成数据集发布操作。 训练日志提示“root: XXX valid
方案设计 虽然传统人工翻译可以提供高质量的结果，但其效率较低且成本高昂。相对而言，机器翻译虽然在速度和成本上具备优势，但在准确性和语境理解上仍存在一定的不足，例如，处理复杂、专业的内容时。 为了解决这些问题，构建一个自动化的多语言翻译工作流显得尤为重要。通过集成翻译工具（如机器翻
训练智能客服系统大模型需考虑哪些方面 大模型微调训练类问题 如何调整训练参数，使盘古大模型效果最优 如何判断盘古大模型训练状态是否正常 为什么微调后的盘古大模型评估结果很好，但实际场景表现很差 数据量足够，为什么盘古大模型微调效果仍然不好 大模型使用类问题 如何将本地的数据上传至平台 导入数据过程中，为什么无法选中OBS的单个文件进行上传
选择加工模板 加工步骤编排完成后，单击“启动加工”，将启动加工任务。 当数据加工任务运行成功后，状态将从“运行中”变为“运行成功”，表示数据已经完成加工。 在完成数据加工后，如果无需使用数据标注、数据合成功能，可直接在“加工任务”页面单击操作列“生成”，生成加工数据集。 加工后的数据集可在“数据工程
选择加工模板 加工步骤编排完成后，单击“启动加工”，将启动加工任务。 当数据加工任务运行成功后，状态将从“运行中”变为“运行成功”，表示数据已经完成加工。 在完成数据加工后，如果无需使用数据标注、数据合成功能，可直接在“加工任务”页面单击操作列“生成”，生成加工数据集。 加工后的数据集可在“数据工程
为什么在微调后的盘古大模型中输入训练样本问题，回答完全不同 当您将微调的模型部署以后，输入一个已经出现在训练样本中，或虽未出现但和训练样本差异很小的问题，回答完全错误。这种情况可能是由于以下几个原因导致的，建议您依次排查： 训练参数设置：您可以通过绘制Loss曲线查询来确认模型的
无监督领域知识数据量无法支持增量预训练，如何进行模型学习 一般来说，建议采用增量预训练的方式让模型学习领域知识，但预训练对数据量的要求较大，如果您的无监督文档量级过小，达不到预训练要求，您可以通过一些手段将其转换为有监督数据，再将转换后的领域知识与目标任务数据混合，使用微调的方式让模型学习。
若选择使用加工模板，将删除当前已编排的加工步骤。 图2 选择加工模板 加工步骤编排完成后，单击“启动加工”，将启动加工任务。 当数据加工任务运行成功后，状态将从“运行中”变为“运行成功”，表示数据已经完成加工。 在完成数据加工后，如果无需使用数据标注功能，可直接在“加工任务”页面单击操作列“生成”，生成加工数据集。
若选择使用加工模板，将删除当前已编排的加工步骤。 图2 选择加工模板 加工步骤编排完成后，单击“启动加工”，将启动加工任务。 当数据加工任务运行成功后，状态将从“运行中”变为“运行成功”，表示数据已经完成加工。 在完成数据加工后，在“加工任务”页面单击操作列“生成”，生成加工数据集。 加工后的数据集可在“数据工程
观察到模型前后两次回复内容的多样性降低。 图4 “核采样”参数为0.1的生成结果1 图5 “核采样”参数为0.1的生成结果2 预置模型部署成功后，可以通过“文本对话”API调用NLP大模型，调用步骤如下： 登录ModelArts Studio大模型开发平台，进入所需空间。 获取调用路径。单击左侧“模型开发
选择导入文件后，选择解析内容。 平台将自动解析jsonl文件。如果解析的文件在平台中已存在，勾选该文件将自动覆盖平台现有文件。 单击“导入”，导入成功的插件将在“工作台 > 插件”页面中展示。 父主题： 创建与管理插件
选择导入文件后，选择解析内容。 平台将自动解析jsonl文件。如果解析的文件在平台中已存在，勾选该文件将自动覆盖平台现有文件。 单击“导入”，导入成功的应用将在“工作台 > 应用”中展示。 父主题： 编排与调用应用
一步”。 如果评测盘古大模型， 需要在流通数据集时，将数据集格式发布为“盘古格式”。 选择“资源配置”，并单击“确定”。待任务状态为“运行成功”后，单击“启动”，生成“发布数据集”。 父主题： 评测NLP大模型
选择导入文件后，选择解析内容。 平台将自动解析jsonl文件。如果解析的文件在平台中已存在，勾选该文件将自动覆盖平台现有文件。 单击“导入”，导入成功的工作流将在“工作台 > 工作流”页面中展示。 父主题： 编排与调用工作流
填写“数据集名称”和“描述”。 单击页面右下角“立即创建”，回退至“导入任务”页面，在该页面可以查看数据集的任务状态，若状态为“运行成功”，则数据导入成功。 发布微调数据集 原始数据集不可以直接用于模型训练，需要发布为一个“发布数据集”，发布该数据集的步骤如下： 登录ModelArts
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
