华为云计算 云知识 TBE基本概念之NPU
TBE基本概念之NPU

TBE(Tensor Boost Engine)提供了昇腾AI处理器自定义算子开发能力,通过TBE提供的API和自定义算子编程开发界面可以完成相应神经网络算子的开发。

TBE的重要概念之一为NPU,即Neural-network Processing Unit,神经网络处理器。

在维基 百科 中,NPU这个词条被直接指向了“人工智能加速器”,释义是这样的:

“人工智能加速器(AI accelerator)是一类专用于人工智能(特别是人工神经网络、机器视觉、机器学习等)硬件加速的微处理器或计算系统。典型的应用包括机器人学、物联网等数据密集型应用或传感器驱动的任务。”

本系列课程中,NPU可以特指为昇腾AI处理器。

上一篇:数据仓库服务快照功能 下一篇:容器镜像服务镜像同步,你真的了解吗-华为云

基于PyTorch NPU快速部署开源大模型

基于PyTorch NPU快速部署开源大模型