检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
准备模型训练镜像 ModelArts平台提供了Tensorflow，PyTorch，MindSpore等常用深度学习任务的基础镜像，镜像里已经安装好运行任务所需软件。当基础镜像里的软件无法满足您的程序运行需求时，您还可以基于这些基础镜像制作一个新的镜像并进行训练。
（可选）完成软件包签名校验。 下载软件包签名校验文件。
在模型软件包和依赖包的同层目录下，创建并编辑Dockerfile。
本文档适配昇腾云ModelArts 6.3.906版本，请参考软件配套版本获取配套版本的软件包，请严格遵照版本配套关系使用本文档。 推理部署使用的服务框架是vLLM。vLLM支持v0.4.2版本。 仅支持FP16和BF16数据类型推理。 本案例仅支持在专属资源池上运行。
本文档适配昇腾云ModelArts 6.3.909版本，请参考软件配套版本获取配套版本的软件包，请严格遵照版本配套关系使用本文档。 推理部署使用的服务框架是vLLM。vLLM支持v0.6.0版本。 仅支持FP16和BF16数据类型推理。 本案例仅支持在专属资源池上运行。
父主题： 主流开源大模型基于DevServer适配PyTorch NPU训练指导（6.3.905）
原因分析 该问题为用户使用VS Code 1.86版本软件导致的，需要用户使用较低版本的VS Code 。 解决方案 使用VS Code 1.85版本软件。下载链接：https://code.visualstudio.com/updates/v1_85。
本文档适配昇腾云ModelArts 6.3.907版本，请参考软件配套版本获取配套版本的软件包，请严格遵照版本配套关系使用本文档。 推理部署使用的服务框架是vLLM。vLLM支持v0.5.0版本。 仅支持FP16和BF16数据类型推理。 本案例仅支持在专属资源池上运行。
可能是OBS桶加密或者OBS文件加密导致。 可能跟OBS桶的存储类别有关，并行文件系统不支持图像处理，所以无法展示缩略图。 解决方案 以Chrome浏览器为例，“F12”打开浏览器Console，锁定该图片，获取图片链接并复制。
本文档适配昇腾云ModelArts 6.3.910版本，请参考软件配套版本获取配套版本的软件包，请严格遵照版本配套关系使用本文档。 推理部署使用的服务框架是vLLM。vLLM支持v0.6.0版本。 仅支持FP16和BF16数据类型推理。 本案例仅支持在专属资源池上运行。
本文档适配昇腾云ModelArts 6.3.911版本，请参考软件配套版本获取配套版本的软件包，请严格遵照版本配套关系使用本文档。 推理部署使用的服务框架是vLLM。vLLM支持v0.6.3版本。 仅支持FP16和BF16数据类型推理。 本案例仅支持在专属资源池上运行。
原因分析 该问题为用户使用VS Code 1.86版本软件导致的，需要用户使用较低版本的VS Code 。 解决方案 使用VS Code 1.85版本软件。下载链接：https://code.visualstudio.com/updates/v1_85。
父主题： 主流开源大模型基于DevServer适配LlamaFactory PyTorch NPU训练指导（6.3.907）
在模型软件包和依赖包的同层目录下，创建并编辑Dockerfile。
本文档适配昇腾云ModelArts 6.3.909版本，请参考软件配套版本获取配套版本的软件包，请严格遵照版本配套关系使用本文档。 资源规格推荐使用“西南-贵阳一”Region上的Lite k8s Cluster和昇腾Snt9B资源。
父主题： 主流开源大模型基于DevServer适配PyTorch NPU训练指导（6.3.906）
父主题： 主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.905）
请注意，使用此命令将会检查您系统中已安装的软件包并更新至最新版本。
本文档适配昇腾云ModelArts 6.3.910版本，请参考软件配套版本获取配套版本的软件包，请严格遵照版本配套关系使用本文档。 资源规格推荐使用“西南-贵阳一”Region上的Lite k8s Cluster和昇腾Snt9B资源。
docker pull {image_url} Step5 构建ModelArts Standard推理镜像 获取模型软件包，并上传到ECS的目录下（可自定义路径），获取地址参考表1。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
