华为云首页用户手册

AI开发平台MODELARTS-在模型广场查看模型:模型介绍

AI开发平台MODELARTS-在模型广场查看模型:模型介绍

时间：2024-12-16 10:58:36

AI开发平台MODELARTS

模型介绍

表1列举了ModelArts Studio大模型即服务平台支持的模型清单，模型详细信息请查看界面介绍。

表1 模型广场的模型系列介绍
模型系列	模型类型	应用场景	支持语言
GLM-4	文本生成	对话问答、长文本推理、代码生成	中文、英文
ChatGLM3	文本生成	对话问答、数学推理、代码生成	中文、英文
百川2	文本生成	对话问答、数学推理、代码生成、翻译	中文、英文
Llama 2	文本生成	对话问答、智能创作、文本摘要	英文
Llama 3	文本生成	对话问答、智能创作、文本摘要	英文
Llama 3.1	文本生成	对话问答、智能创作、文本摘要	英文
Yi	文本生成	代码生成、数学推理、对话问答	中文、英文
通义千问1.5	文本生成	代码生成、数学推理、对话问答	英文
通义千问	文本生成	对话问答、智能创作、文本摘要、翻译、代码生成、数学推理	中文、英文
通义千问2	文本生成	多语言处理、数学推理、对话问答	英文
通义千问2.5	文本生成	多语言处理、数学推理、对话问答	中文、英文
Deepseek Coder	文本生成	对话问答、文本推理	中文、英文

模型分为量化模型和非量化模型，其中，量化模型又包括SmoothQuant-W8A8和AWQ-W4A16两种。

AWQ-W4A16量化模型可以由非量化模型压缩后生成，也可以直接使用开源AWQ权重。
SmoothQuant-W8A8量化模型只能由非量化模型压缩生成。

ModelArts Studio大模型即服务平台已预置非量化模型与AWQ-W4A16量化模型的模型模板。

非量化模型可以支持调优、压缩、部署等操作。
量化模型仅支持部署操作。当需要获取SmoothQuant-W8A8量化模型时，则可以通过对非量化模型进行模型压缩获取。

上一篇：AI开发平台MODELARTS-在MaaS中创建模型:约束限制

下一篇：AI开发平台MODELARTS-修改MaaS模型服务:场景描述

新客秒杀 2核2G 3M L实例

68元/年

普惠上云领千元上云礼券

立即前往

企业专享 X实例 4核8G 5M

888元/年

热门域名 1元随心购

1元/年起

AI开发平台MODELARTS-在模型广场查看模型:模型介绍

意见反馈

0/200

提交成功！非常感谢您的反馈，我们会继续努力做到更好反馈提交失败！请稍后重试！

推荐文章

解决方案
相关专题