TBE(Tensor Boost Engine)提供了昇腾AI处理器自定义算子开发能力,通过TBE提供的API和自定义算子编程开发界面可以完成相应神经网络算子的开发。
张量(Tensor)是TBE算子中的数据,包括输入数据与输出数据,TensorDesc(Tensor描述符)是对输入数据与输出数据的描述,TensorDesc数据结构包含如下属性:
- 名称(name):用于对Tensor进行索引,不同Tensor的name需要保持唯一。
- 形状(shape):Tensor的形状,比如(10,)或者(1024,1024)或者(2,3,4)等;
默认值为无;形式为(i1, i2,…in),其中i1,i2,in为正整数。
- 数据类型(dtype)
功能描述:指定Tensor对象的数据类型。
默认值:无
取值范围:float16, float32, int8, int16, int32, uint8, uint16, bool。
不同计算操作支持的数据类型不同
- 数据排布格式(format):多个维度的排布顺序。