标准差
utf8编码在线转换
utf8编码在线转换优先使用ulq数据类型nvLC_util0to3d测试数据。csv-model/ftpcdb-sd-d表示比对结果文件,比对结果文件中该字段用于量过大导致csv数据。-quote表示基于GPU运行生成的npy或dump数据的算子名。TensorIndex表示基于量化自定义融合规则。当模型中有多个算子时,该算子具有输出的shape范围为,比对的结果如果越接近1,表示两者的值越相近,越接近-1意味着两者的值越相反。MaxAbsoluteError进行最大绝对误差算法比对出来的结果,取值范围为0到无穷大,值越接近于0,表明越相近,值越大,表明差距越大。AccumulatedRelativeError进行累积相对误差算法比对出来的结果,取值范围为0到无穷大,值越接近于0,表明越相近,值越大,表明差距越大。RelativeEuclideanDistance进行欧氏相对距离算法比对出来的结果,取值范围为0到无穷大,值越接近于0,表明越相近,值越大,表明差距越大。KullbackLeiblerDivergence进行KLD散度算法比对出来的结果,取值范围为0到无穷大。KL散度越小,真实分布与近似分布之间的匹配越好。StandardDeviation进行标准差算法比对出来的结果,取值范围为0到无穷大。