AI开发平台MODELARTS-使用MaaS调优模型:约束限制
约束限制
当选择ChatGLM3-6B、GLM-4-9B、Qwen-7B、Qwen-14B和Qwen-72B模型框架进行模型调优时,在创建模型时需要修改权重配置才能正常运行模型。详细配置请参见修改权重配置。
模型名称 |
全参微调 |
lora微调 |
---|---|---|
Baichuan2-13B |
√ |
√ |
ChatGLM3-6B |
√ |
√ |
GLM-4-9B |
√ |
√ |
Llama2-13B |
√ |
√ |
Llama2-70B |
√ |
√ |
Llama2-7B |
√ |
√ |
Llama3-70B |
√ |
√ |
Llama3-8B |
√ |
√ |
Qwen1.5-14B |
√ |
√ |
Qwen1.5-32B |
√ |
√ |
Qwen1.5-72B |
√ |
√ |
Qwen1.5-7B |
√ |
√ |
Qwen2-72B |
√ |
√ |
Qwen2-72B-1K |
√ |
√ |
Qwen2-7B |
√ |
√ |
Qwen-72B |
√ |
√ |
Qwen-14B |
√ |
√ |
Qwen-7B |
√ |
√ |
Qwen2-1.5B |
√ |
√ |
Qwen2-0.5B |
√ |
√ |