AI开发平台MODELARTS-在MaaS中创建模型:权重校验

时间:2024-12-16 10:58:36

权重校验

创建模型时,开启权重校验后,平台会自动创建一个权重校验的任务,在模型详情页的作业记录列表可以查看权重校验任务。

图1 查看权重校验任务

当状态显示运行失败时,鼠标悬停在状态即可查看失败信息,根据失败信息处理问题。常见的权限校验失败信息及其处理建议请参见表2

表2 权重校验常见的失败信息

失败信息

信息解释

处理建议

Unknown error, please contact the operation and maintenance personnel or check the log to locate the specific problem.

未知错误。

查看日志定位处理问题,或者联系技术支持。

Backend model template selection error (metadata error).

后台模型模板选择错误。

查看日志定位处理问题,或者联系技术支持。

Failed to read standard config.json in the background.

后台读取标准config.json失败。

查看日志定位处理问题,或者联系技术支持。

Failed to read generation_config.json.

generation_config.json内容格式错误。

检查“generation_config.json”文件中的内容是否为json格式。

The value of do_sample is not set to true in generation_config.json, which is inconsistent with the configured sampling parameters such as temperature, top_p, top_k etc.

在generation_config.json中没有将do_sample的值设置为true,与配置的temperature、top_p、top_k等采样参数矛盾。

“generation_config.json”文件中的“do_sample”的值设置为“true”

Failed to read user config.json.

config.json不存在或内容不符合json格式。

检查“config.json”文件是否存在,或者是内容是否为json格式。

The quantization_config field is missing in config.json, please check whether it is awq quantization weight.

config.json中缺少quantization_config字段,请检查是否为awq量化权重。

检查权重和模型模板是否匹配。

There is an extra quantization_config field in config.json. Please check whether it is a non-quantized weight.

config.json中多出quantization_config字段,请检查是否为非量化权重。

检查权重和模型模板是否匹配。

Key fields describing the model structure are missing from config.json, or their values are inconsistent with standard open source.

config.json中缺少描述模型结构的关键字段,或其值与标准开源不一致。

检查“config.json”文件中的配置是否与模型官方一致。

Error loading tokenizer in transformers.

transformers加载tokenizer出错。

检查词表文件是否正确。

Error loading weights in transformers.

transformers加载权重出错。

检查权重文件是否正确。

support.huaweicloud.com/usermanual-maas-modelarts/maas-modelarts-0007.html