盘古大模型 PANGULARGEMODELS-为什么微调后的盘古大模型的回答中会出现乱码

时间:2024-12-03 10:23:25

为什么微调后的盘古大模型的回答中会出现乱码

当您将微调的模型部署以后,输入一个与目标任务同属的问题,模型生成的结果中出现了其他语言、异常符号、乱码等字符。这种情况可能是由于以下几个原因导致的,建议您依次排查:

  • 数据质量:请检查训练数据中是否存在包含异常字符的数据,可以通过规则进行清洗。
  • 训练参数设置:若数据质量存在问题,且因训练参数设置的不合理而导致过拟合,该现象会更加明显。请检查训练参数中的 “训练轮次”或“学习率”等参数的设置,适当降低这些参数的值,降低过拟合的风险。
  • 推理参数设置:请检查推理参数中的“温度”或“核采样”等参数的设置,适当减小其中一个参数的值,可以提升模型回答的确定性,避免生成异常内容。
support.huaweicloud.com/pangulm_faq/pangulm_07_0019.html