检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
字节，可以有效降低推理显存占用。 INT4：该压缩策略与INT8相比，可以进一步减少模型的存储空间和计算复杂度。 配置资源。选择计费模式并设置训练单元。 可选择开启订阅提醒。开启后，系统将在本次压缩任务状态变更时，向用户发送短信/邮件提醒。 填写基本信息，包括任务名称、压缩后模型名称与描述，单击“立即创建”。
数据配比”，单击界面右上角“创建配比任务”。 在“数据集选择”页签选择需要配比的文本类数据集（至少选择两个），单击“下一步”。 在“数据配比”页面，可以设置不同数据集的配比数量，单击“确定”。 页面将返回至“数据配比”页面，配比任务运行成功后，状态将显示为“运行成功”。 单击操作列“生成”，将生成“发布数据集”。
话题重复度控制（presence_penalty） -2~2 0 话题重复度控制主要用于控制模型输出的话题重复程度。 参数设置正值，模型倾向于生成新的、未出现过的内容；参数设置负值，倾向于生成更加固定和统一的内容。 如果您没有专业的调优经验，可以优先使用建议，再结合推理的效果动态调整。 为
时，表示该标注任务创建完成。 进入“标注作业”页签，单击当前标注任务的“标注”。 如果需要将该标注任务移交给其他人员，可以单击“移交”，并设置移交人员以及移交数量，单击“确定”。 进入标注页面后，逐一对数据进行标注。 如图1，以标注单轮问答数据为例，需要逐一确认问题（Q）及答案（
如果需要模型以某个人设形象回答问题，可以将role参数设置为system。不使用人设时，可设置为user。在一次会话请求中，人设只需要设置一次。 content 是 String 对话的内容，可以是任意文本，单位token。 设置多轮对话时，message中content个数不能超过20。
在“数据集选择”页签选择需要配比的文本类数据集（至少选择两个），单击“下一步”。 在“数据配比”页面，支持两种配比方式，“按数据集”和“按标签”。 按数据集：可以设置不同数据集的配比数量，单击“确定”。 按标签：该场景适用于通过数据打标类清洗算子进行加工的文本类数据集，具体标签名称与标签值可在完成清洗文
插件介绍 在Agent开发平台中，插件是大模型能力的重要扩展。通过模块化方式，插件能够为大模型提供更多专业技能和复杂任务处理能力，使其在多样化的实际场景中更加高效地满足用户需求。 通过插件接入，用户可以为应用赋予大模型本身不具备的能力。插件提供丰富的外部服务接口，当任务执行时，模
Agent开发常见报错与解决方案 工作流常见错误码与解决方案 工作流常见报错及解决方案请详见表1。 表1 工作流节点常见报错与解决方案 模块名称 错误码 错误描述 解决方案 开始节点 101501 开始节点全局配置未传入值。 开始节点错误，请联系客服解决。 结束节点 101531
可对部署任务执行执行描述、删除等操作。 管理NLP大模型部署任务 调用NLP大模型 使用“能力调测”调用NLP大模型 使用该功能调用部署后的预置服务进行文本对话，支持设置人设和参数等。 使用“能力调测”调用NLP大模型 使用API调用NLP大模型 可调用API接口与NLP预置服务进行文本对话。 使用API调用NLP大模型
删除符合自定义正则表达式的数据。 自定义关键词过滤 剔除包含关键词的数据。 敏感词过滤 对文本中涉及黄色、暴力、政治等敏感数据进行自动检测和过滤。 文本长度过滤 按照设置的文本长度，保留长度范围内的数据进行。 冗余信息过滤 按照段落粒度，删除文本中的冗余信息，不改变数据条目。 例如目录封面、图注表注、标注说明、尾部信息、冗余段落和参考文献等。
应用”，在所需Agent中单击“ > 复制ID”。 conversation_id 是 String 会话ID，唯一标识每个会话的标识符，可将会话ID设置为任意值，使用标准UUID格式。 请求参数 表2 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是 String
NLP大模型训练流程与选择建议 NLP大模型训练流程介绍 NLP大模型的训练分为两个关键阶段：预训练和微调。 预训练阶段：在这一阶段，模型通过学习大规模通用数据集来掌握语言的基本模式和语义。这一过程为模型提供了处理各种语言任务的基础，如阅读理解、文本生成和情感分析，但它还未能针对特定任务进行优化。
云容器引擎-成长地图 | 华为云 盘古大模型 盘古大模型服务（PanguLargeModels）致力于深耕行业，打造多领域行业大模型和能力集。盘古大模型能力通过ModelArts Studio大模型开发平台承载，它提供了包括盘古大模型在内的多种大模型服务，提供覆盖全生命周期的大模型工具链。
型的收敛情况动态调整。 学习率衰减比率（learning_rate_decay_ratio） 0~1 0.01~0.1 学习率衰减比率用于设置训练过程中的学习率衰减的最小值。计算公式为：最小学习率=学习率*学习率衰减比率。 参数的选择没有标准答案，您需要根据任务的实际情况进行调整，以上建议值仅供参考。
起报时间间隔小时数，默认6。取值范围：[1, 24]。 forecast_lead_hours 否 Long 预报未来小时数，默认168。如需预报未来30天，可将此参数设置成720。 draw_figures 否 String 是否输出结果图片，取值true/false，默认true。 forecast_features
在“调用路径”页面，单击“复制路径”即可获取调用路径。 其中，conversation_id参数为会话ID，唯一标识每个会话的标识符，可将会话ID设置为任意值，使用标准UUID格式。 图2 获取应用调用路径-2 使用Postman调用API 获取Token。参考《API参考》文档“如何调用REST
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
