AI开发平台MODELARTS-使用MaaS调优模型:约束限制

时间:2024-12-16 10:58:35

约束限制

表1列举了支持模型调优的模型,不在表格里的模型不支持使用MaaS调优模型。

当选择ChatGLM3-6B、GLM-4-9B、Qwen-7B、Qwen-14B和Qwen-72B模型框架进行模型调优时,在创建模型时需要修改权重配置才能正常运行模型。详细配置请参见修改权重配置

表1 支持模型微调的模型

模型名称

全参微调

lora微调

Baichuan2-13B

ChatGLM3-6B

GLM-4-9B

Llama2-13B

Llama2-70B

Llama2-7B

Llama3-70B

Llama3-8B

Qwen1.5-14B

Qwen1.5-32B

Qwen1.5-72B

Qwen1.5-7B

Qwen2-72B

Qwen2-72B-1K

Qwen2-7B

Qwen-72B

Qwen-14B

Qwen-7B

Qwen2-1.5B

Qwen2-0.5B

support.huaweicloud.com/usermanual-maas-modelarts/maas-modelarts-0008.html