检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
比如指定运行模型的数据类型； vllm_path是模型权重路径； max_model_len 是最大模型长度，默认设置为4096； gpu_memory_utilization是gpu利用率，如果模型出现oom报错，调小参数； tensor_parallel_size是使用的卡数
父主题： 管理模型训练作业
是否选择加速深度学习训练框架Deepspeed，可参考表1选择不同的框架。 是，选用ZeRO (Zero Redundancy Optimizer)优化器。
导入模型提示该账号受限或者没有操作权限 问题现象 在导入AI应用时，提示用户账号受限。 原因分析 提示用户账号受限，常见原因有如下几种： 导入模型账号欠费导致被冻结； 导入模型账号没有对应工作空间的权限； 导入模型账号为子账号，主账号没有给子账号赋予模型相关权限。
更新模型服务的单个属性 功能介绍 更新模型服务的单个属性，目前只支持instance_count(更新模型服务实例数量)，仅运行中、告警、异常状态下的在线服务可以执行该操作。 调试 您可以在API Explorer中调试该接口，支持自动认证鉴权。
大模型推理standard常见问题 父主题： LLM大语言模型训练推理
Standard大模型推理常见问题 父主题： LLM大语言模型训练推理
Standard大模型推理常见问题 父主题： LLM大语言模型训练推理
主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.906） 场景介绍 准备工作 在Notebook调试环境中部署推理服务 在推理生产环境中部署推理服务 推理精度测试 推理性能测试 推理模型量化 父主题： LLM大语言模型训练推理
如何导出PTH模型 PyTorch模型导出时需要包含模型的结构信息，需要利用jit.trace方式完成模型的导出与保存。
ModelArts导入模型时，如何编写模型配置文件中的安装包依赖参数？ 问题描述 从OBS中或者从容器镜像中导入模型时，开发者需要编写模型配置文件。模型配置文件描述模型用途、模型计算框架、模型精度、推理代码依赖包以及模型对外API接口。配置文件为JSON格式。
帮助用户使能大模型业务。
帮助用户使能大模型业务。
帮助用户使能大模型业务。
父主题： 主流开源大模型基于Lite Server适配PyTorch NPU推理指导（6.3.909）
附录：大模型推理常见问题 问题1：在推理预测过程中遇到NPU out of memory。 解决方法：调整推理服务启动时的显存利用率，将--gpu-memory-utilization的值调小。
图3 提示clip-vit-large-patch14-336模型不能自动下载 父主题： MLLM多模态模型训练推理
语言模型推理性能测试 benchmark方法介绍 性能benchmark包括两部分。 静态性能测试：评估在固定输入、固定输出和固定并发下，模型的吞吐与首token延迟。该方式实现简单，能比较清楚的看出模型的性能和输入输出长度、以及并发的关系。
config.json存在模型对应的路径下，例如：/data/nfs/benchmark/tokenizer/chatglm3-6b/config.json 父主题： 主流开源大模型基于LIte Server适配PyTorch NPU推理指导（6.3.905）
通过自定义镜像创建模型失败 问题现象 通过用户自定义镜像创建模型失败。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
