检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
NPU调度 CCE支持在容器中使用NPU资源。 前提条件 创建NPU类型节点，具体请参见创建节点。 安装huawei-npu插件，具体请参见CCE AI套件（Ascend NPU）。 使用NPU 创建工作负载申请NPU资源，可按如下方法配置，指定显卡的数量。 kind: Deployment
如何避免非GPU/NPU负载调度到GPU/NPU节点？ 问题现象 当集群中存在GPU/NPU节点和普通节点混合使用的场景时，普通工作负载也可以调度到GPU/NPU节点上，可能出现GPU/NPU资源未充分利用的情况。 问题原因 由于GPU/NPU节点同样提供CPU、内存资源，在一般
DaemonSet NPU指标 指标 监控级别 备注 cce_npu_memory_total NPU卡 NPU卡显存总量 cce_npu_memory_used NPU卡 NPU卡显存使用量 cce_npu_utilization NPU卡 NPU卡算力使用率 如何确认节点NPU驱动已安装完成
CCE AI套件（Ascend NPU） 插件介绍 CCE AI套件（Ascend NPU）是支持容器里使用NPU设备的管理插件。 安装本插件后，可创建“AI加速型”节点，实现快速高效地处理推理和图像识别等工作。 字段说明 表1 参数描述 参数 是否必选 参数类型 描述 basic
27 支持NPU监控 1.2.9 v1.19 v1.21 v1.23 v1.25 v1.27 适配CCE v1.27集群 1.2.6 v1.19 v1.21 v1.23 v1.25 支持NPU驱动自动安装 1.2.5 v1.19 v1.21 v1.23 v1.25 支持NPU驱动自动安装
GPU/NPU Pod重建风险检查异常处理 检查项内容 检查当前集群升级重启kubelet时，节点上运行的GPU/NPU业务容器是否可能发生重建，造成业务影响。 解决方案 请确保在业务影响可控的前提下（如业务低峰期）进行集群升级，以消减业务容器重建带来的影响； 如需帮助，请您提交工单联系运维人员获取支持。
AI套件（GPU/NPU），可参考CCE AI套件（NVIDIA GPU）和 CCE AI套件（Ascend NPU）。其中NPU驱动版本应大于23.0。 操作步骤 您可以在集群节点上查询GPU/NPU卡的信息，然后使用kubectl搜索到使用该卡的Pod。 GPU场景 NPU场景 登录
Volcano是一款构建于Kubernetes之上的增强型高性能计算任务批量处理系统。作为一个面向高性能计算场景的平台，它弥补了Kubernetes在机器学习、深度学习、HPC、大数据计算等场景下的基本能力缺失，其中包括gang-schedule的调度能力、计算任务队列管理、task-topology
Volcano调度器 插件简介 Volcano是一个基于Kubernetes的批处理平台，提供了机器学习、深度学习、生物信息学、基因组学及其他大数据应用所需要而Kubernetes当前缺失的一系列特性。 Volcano提供了高性能任务调度引擎、高性能异构芯片管理、高性能任务运行管
swith互联有更大的带宽，可以针对HCCS做亲和性调度发挥HCCS的带宽优势。 配置建议： 使用NPU的集群默认开启，不使用NPU资源可以关闭 昇腾NPU优选调度 支持昇腾NPU HCCS亲和优选调度 参数名 取值范围 默认值 是否允许修改 作用范围 cce-gpu-topology-priority true/false
Volcano调度器 插件介绍 Volcano 是一个基于 Kubernetes 的批处理平台，提供了机器学习、深度学习、生物信息学、基因组学及其他大数据应用所需要的而 Kubernetes 当下缺失的一系列特性。 字段说明 表1 参数描述 参数 是否必选 参数类型 描述 basic
提高GPU利用率。 GPU虚拟化 NPU调度 CCE为集群中的NPU异构资源提供调度能力，实现快速高效地处理推理和图像识别等工作。 功能 描述 参考文档 NPU调度 NPU调度可以指定Pod申请NPU的数量，为工作负载提供NPU资源。 NPU调度 Volcano调度 Volca
展的、高性能的云原生应用部署和管理方案。 为什么选择云容器引擎 云容器引擎深度整合高性能的计算（ECS/BMS）、网络（VPC/EIP/ELB）、存储（EVS/OBS/SFS）等服务，并支持GPU、NPU、ARM等异构计算架构，支持多可用区（Available Zone，简称AZ
Volcano调度概述 Volcano是一个基于Kubernetes的批处理平台，提供了机器学习、深度学习、生物信息学、基因组学及其他大数据应用所需要而Kubernetes当前缺失的一系列特性，提供了高性能任务调度引擎、高性能异构芯片管理、高性能任务运行管理等通用计算能力。 Volcano
方便灵活地进行定制化开发。 应用场景4：高精度资源调度 Volcano 在支持AI，大数据等作业的时候提供了高精度的资源调度策略，例如在深度学习场景下计算效率非常重要。以TensorFlow计算为例，配置“ps”和“worker”之间的亲和性，以及“ps”与“ps”之间的反亲和性
使用ASM实现灰度发布和蓝绿发布 应用服务网格（Application Service Mesh，简称ASM）是基于开源Istio推出的服务网格平台，它深度、无缝对接了企业级Kubernetes集群服务云容器引擎（CCE），在易用性、可靠性、可视化等方面进行了一系列增强，可为客户提供开箱即用的上手体验。
拟化GPU显存资源 NPU数量（D310） 参数名 取值范围 默认值 是否允许修改 作用范围 huawei.com/ascend-310 大于等于0小于等于1000整数 无 允许 - D310 NPU资源配额，配置时limit和request配置相同 NPU数量（Snt9B） 参数名
如何查看Pod是否使用CPU绑核？ 节点关机后Pod不重新调度 如何避免非GPU/NPU负载调度到GPU/NPU节点？ 为什么Pod调度不到某个节点上？ 修改kubelet参数导致已驱逐的Pod被重新调度 根据GPU/NPU卡信息定位使用该卡的Pod 父主题： 工作负载
7.2及以上版本的GPU插件时，支持以节点池级别配置XGPU虚拟化开关。 NPU配置 当不开启驱动选择时，无法根据用户诉求指定驱动版本，无法依靠插件进行驱动维护。如从控制台创建NPU节点，控制台会自动补充NPU驱动（用户无法指定版本和类型）安装命令，并在安装完成后自动重启节点；如通
Turbo集群支持 CCE基于Volcano调度器提供多元算力资源调度及任务调度的能力，面向机器学习、深度学习、生物信息学、基因组学及其他大数据应用场景提供完整的应用调度特性。 CCE支持CPU资源调度、GPU/NPU异构资源调度、在离线作业混合部署、CPU Burst弹性限流等调度策略，您可以根
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
