检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
ModelArts Lite Cluster面向k8s资源型用户,提供托管式k8s集群,并预装主流AI开发插件以及自研的加速插件,以云原生方式直接向用户提供AI Native的资源、任务等能力,用户可以直接操作资源池中的节点和k8s集群。请参见弹性集群k8s Cluster。
图4 下载并安装VS Code 如果用户之前未安装过ModelArts VS Code插件,此时会弹出安装提示,请单击“Install and Open”进行安装;如果之前已经安装过插件,则不会有该提示,请跳过此步骤,直接执行5。
此外,它还具备丰富的功能,例如对话知识库、AI绘画、翻译、多模型切换等。 ModelArts Studio(简称MaaS)服务将DeepSeek系列模型部署到平台中,支持广大开发者在线体验或端外调用。
修改hunyuan_dit_example.py脚本第16行,改为hunyuan-dit模型路径: 安装ascend_diffusers插件 执行以下命令安装华为侧插件ascend_diffusers。
主流开源大模型基于Server适配PyTorch NPU推理指导 主流开源大模型基于Server适配ModelLink PyTorch NPU训练指导 主流开源大模型基于Server适配LlamaFactory PyTorch NPU训练指导 AIGC模型 SDXL&SD1.5 ComfyUI插件基于
安装ascend_diffusers插件 执行以下命令安装华为侧插件ascend_diffusers。
表1 ModelArts 6.8.0版本配套关系表 强依赖组件 Ascend Snt9B配套版本 CCE 1.28(推荐)/1.25/1.23(存量) Volcano插件 1.15.8 ModelArts Device-Plugin 1.2.0 huawei-npu 2.1.22
此外,它还具备丰富的功能,例如对话知识库、AI绘画、翻译、多模型切换等。 ModelArts Studio(简称MaaS)服务将DeepSeek系列模型部署到平台中,支持广大开发者在线体验或端外调用。
NPU推理(适配ComfyUI) Open-Clip模型昇腾适配 SD1.5 Finetune高性能训练 moondream2推理适配昇腾 BERT、YOLO等8个常用模型适配 配套CANN8.0.RC1镜像 参考文档 SDXL文生图ComfyUI插件基于DevServer适配NPU
插件代码包获取路径参见表2。
为了支持不同的作业类型,后台需要在专属资源池上进行不同的初始化操作,例如安装插件、设置网络环境等。其中部分操作需要占据资源池的资源,导致用户实际可用资源减少。因此建议用户按需设置,避免不必要的资源浪费。 约束限制 专属资源池状态处于“运行中”。
ModelArts Lite资源池对应的CCE集群需要安装1.10.12及以上版本的华为云版Volcano插件。Volcano调度器的安装升级请参见Volcano调度器。仅华为云版Volcano插件支持开启路由加速特性。
ModelArts Standard开发环境 使用ModelArts VS Code插件调试训练ResNet50图像分类模型 本案例以Ascend Model Zoo为例,介绍如何通过VS Code插件及ModelArts Standard的Notebook进行云端数据调试及模型开发
docker exec -it ${container_name} bash 步骤二:上传代码、权重和数据集到容器中 安装插件代码包。将获取到的插件代码包AscendCloud-AIGC-6.3.912-xxx.zip文件上传到容器的/home/ma-user目录下,并解压。
支持本地IDE+ModelArts 插件远程开发能力,线上线下协同开发,开发训练一体化架构,支持大模型分布式部署及推理。 统一管理AI开发全流程,提升开发效率,记录模型构建实验全流程。 多场景部署,灵活满足业务需求 支持云端/边端部署等多种生产环境。
docker exec -it ${container_name} bash 步骤二:上传代码、权重和数据集到容器中 安装插件代码包。将获取到的插件代码包AscendCloud-AIGC-6.5.901-xxx.zip文件上传到容器的/home/ma-user目录下,并解压。
依赖的插件代码包、模型包和数据集存放在宿主机上的本地目录结构如下,供参考。
docker exec -it ${container_name} bash 步骤二:上传代码、权重和数据集到容器中 安装插件代码包。将获取到的插件代码包AscendCloud-AIGC-6.5.901-xxx.zip文件上传到容器的/home/ma-user目录下,并解压。
软件配套版本 表1 获取软件 分类 名称 获取路径 插件代码包 AscendCloud-6.3.908软件包中的AscendCloud-AIGC-6.3.908-xxx.zip 文件名中的xxx表示具体的时间戳,以包名发布的实际时间为准。
软件配套版本 表1 获取软件 分类 名称 获取路径 插件代码包 AscendCloud-6.3.908软件包中的AscendCloud-AIGC-6.3.908-xxx.zip 文件名中的xxx表示具体的时间戳,以包名发布的实际时间为准。