文字识别中智能边缘平台应用的优势
商用 文字识别 (OCR)场景下,如单据、发票和回执的文字识别,对 数据安全 性和应用的性能要求非常高。公有云提供强大的运算能力能满足应用性能要求,IEF能够将应用下发到边缘,这样可以在边缘完成数据脱敏,在本地处理和存储关键数据/隐私数据,将处理后的图片上传到云端进行文字识别,再将识别结果回传到本地边缘节点。
工业视觉的优势
传统的工业制造主要采用人工肉眼检测产品的缺陷,不仅使得检测产品速度慢、效率低下,而且在检测过程中容易出错,导致误检、漏检等问题。基于机器视觉的质检方案,通过云端建模分析与边缘实时决策的结合,实现自动视觉检测,提升产品质量。
离线模型推理流程介绍
离线模型加载完成后,就可以实现模型的推理功能。在离线模型的生成和加载过程中,都没有使用具体的待处理数据,仅仅是通过软件栈对模型中算子和计算流程实现了一种构造、编排、优化、封装以及硬件适配操作。而在具体的推理执行过程中,才会读入具体的输入数据来驱动完成执行并输出结果。
框架管理器离线模型加载介绍
框架管理器中离线模型生成器完成离线模型生成后,由离线模型执行器将模型加载到运行管理器中,与昇腾AI处理器进行融合后,才可以进行推理计算,这个过程中离线模型执行器发挥了主要的模型执行作用.
框架管理器离线模型生成介绍
离线模型生成:以卷积神经网络为例,在深度学习框架下构造好相应的网络模型,并且训练好原始数据,再通过离线模型生成器进行算子调度优化、权重数据重排和压缩、内存优化等,最终生成调优好的离线模型。离线模型生成器主要用来生成可以高效执行在昇腾AI处理器上的离线模型。
华为云智慧气象助力气象行业智慧化升级转型
12级台风海高斯登陆珠海,从台风海高斯的形成检测到台风轨迹推算,再到范围内的信息预报包括收到的防御提醒短信,基本可以相对最大化的降低灾害影响。随着科技与技术的不断进步,人类科技对自然灾害的检测也是越来越准确,并逐步提升了灾害的提前预警时间。那么这些能力的提升,科技在其中扮演这怎么样的能力呢?
昇腾AI软件栈框架管理器功能框架介绍
框架管理器协同TBE为神经网络生成可执行的离线模型。在神经网络执行之前,框架管理器与昇腾AI处理器紧密结合生成硬件匹配的高性能离线模型,并拉通了流程编排器和运行管理器使得离线模型和昇腾AI处理器进行深度融合。
任务调度器调度流程介绍
在神经网络的离线模型执行过程中,任务调度器接收来自离线模型执行器的具体执行任务,这些任务之间存在依赖关系,需要先解除依赖关系,再进行任务调度等步骤,最后根据具体的任务类型分发给AI Core或AI CPU,完成具体硬件的计算或执行。
昇腾AI软件栈任务调度器功能介绍
任务调度器与运行管理器工程组成软硬件之间的大坝系统。在执行时,任务调度器对硬件进行任务的驱动,为昇腾AI处理器提供具体的目标任务,与运行管理器一起完成任务调度流程,并将输出数据回送给运行管理器,充当了一个任务输送分发和数据回传的通道。
昇腾AI软件栈运行管理器介绍
运行管理器是神经网络软件任务流向系统硬件资源的大坝系统闸门,专门为神经网络的任务分配提供了资源管理通道。昇腾AI处理器通过运行管理器为应用程序提供了存储(Memory)管理、设备(Device)管理、执行流(Stream)管理、事件(Event)管理、核函数(Kernel)执行等功能。
张量加速引擎(TBE)的三种应用场景
张量加速引擎TBE在提供算子开发能力的同时也提供了标准算子调用以及算子融合优化的能力,使得昇腾AI处理器在实际的神经网络应用中,可以满足功能多样化的需求,构建网络的方法也会更加方便灵活,融合优化能力也会更好的提高运行性能。
张量加速引擎是什么?
神经网络构造中,算子组成了不同应用功能的网络结构。而张量加速引擎(Tensor Boost Engine)作为算子的兵工厂,为基于昇腾AI处理器运行的神经网络提供算子开发能力,用TBE语言编写的TBE算子来构建各种神经网络模型
数字视觉预处理机制介绍
当输入数据进入数据引擎时,引擎一旦检查发现数据格式不满足后续AI Core的处理需求,则可开启数字视觉预处理模块进行数据预处理。整个预处理过程中,Matrix完成不同模块的功能调用。DVPP作为定制化的数据补给模块,采用了异构或专用的处理方式来对图像数据进行快速变换,为AI Core提供了充足的数据源,从而满足了神经网络计算中 大数据 量、大带宽的需求。
数字视觉预处理6个模块功能及架构介绍
昇腾AI软件栈数字视觉预处理对外提供6个模块,分别为视频解码(VDEC)模块、视频编码(VENC)模块、JPEG解码(JPEGD)模块、JPEG编码(JPEGE)模块、PNG解码(PNGD)模块和视觉预处理(VPC)模块。
昇腾AI软件栈流程编排器(Matrix)功能介绍
昇腾AI处理器对网络执行层次进行划分,将特定功能的执行操作看做基本执行单位——计算引擎(Engine)。每个计算引擎在流程编排过程中对数据完成基本操作功能,如对图片进行分类处理、输入图片预处理及输出图片数据的标识等。计算引擎由开发者进行自定义来完成所需要的具体功能。
- 1
- ...
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
- 45
- 46
- 47
- 48
- 49
- 50
- 51
- 52
- 53
- 54
- 55
- 56
- 57
- 58
- 59
- 60
- 61
- 62
- 63
- 64
- 65
- 66
- 67
- 68
- 69
- 70
- 71
- 72
- 73
- 74
- 75
- 76
- 77
- 78
- 79
- 80
- 81
- 82
- 83
- 84
- 85
- 86
- 87
- 88
- 89
- 90
- 91
- 92
- 93
- 94
- 95
- 96
- 97
- 98
- 99
- 100
- 101
- 102
- 103
- 104
- 105
- 106
- 107
- 108
- 109
- 110
- 111
- 112
- 113
- 114
- 115
- 116
- 117
- 118
- 119
- 120
- 121
- 122
- 123
- 124
- 125
- 126
- 127
- 128
- 129
- 130
- 131
- 132
- 133
- 134
- 135
- 136
- 137
- 138
- 139
- 140
- 141
- 142
- 143
- 144
- 145
- 146
- 147
- 148
- 149
- 150
- 151
- 152
- 153
- 154
- 155
- 156
- 157
- 158
- 159
- 160
- 161
- 162
- 163
- 164
- 165
- 166
- 167
- 168
- 169
- 170
- 171
- 172
- 173
- 174
- 175
- 176
- 177
- 178
- 179
- 180
- 181
- 182
- 183
- 184
- 185
- 186
- 187
- 188
- 189
- 190
- 191
- 192
- 193
- 194
- 195
- 196
- 197
- 198
- 199
- 200
- 201
- 202
- 203
- 204
- 205
- 206
- 207
- 208
- 209
- 210
- 211
- 212
- 213
- 214
- 215
- 216
- 217
- 218
- 219
- 220
- 221
- 222
- 223
- 224
- 225
- 226
- 227
- 228
- 229
- 230
- 231
- 232
- 233
- 234
- 235
- 236
- 237
- 238
- 239
- 240
- 241
- 242
- 243
- 244
- 245
- 246
- 247
- 248
- 249
- 250
- 251
- 252
- 253
- 254
- 255
- 256
- 257
- 258
- 259
- 260
- 261
- 262
- 263
- 264
- 265
- 266
- 267
- 268
- 269
- 270
- 271
- 272
- 273
- 274
- 275
- 276
- 277
- 278
- 279
- 280
- 281
- 282
- 283
- 284
- 285
- 286
- 287
- 288
- 289
- 290
- 291
- 292
- 293
- 294
- 295
- 296
- 297
- 298
- 299
- 300
- 301
- 302
- 303
- 304
- 305
- 306
- 307
- 308
- 309
- 310
- 311
- 312
- 313
- 314
- 315
- 316
- 317
- 318
- 319
- 320
- 321
- 322
- 323
- 324
- 325
- 326
- 327
- 328
- 329
- 330
- 331
- 332
- 333
- 334
- 335
- 336
- 337
- 338
- 339
- 340
- 341
- 342
- 343
- 344
- 345
- 346
- 347
- 348
- 349
- 350
- 351
- 352
- 353
- 354
- 355
- 356
- 357
- 358
- 359
- 360
- 361
- 362
- 363
- 364
- 365
- 366
- 367
- 368
- 369
- 370
- 371
- 372
- 373
- 374
- 375
- 376
- 377
- 378
- 379
- 380
- 381
- 382
- 383
- 384
- 385
- 386
- 387
- 388
- 389
- 390
- 391
- 392
- 393
- 394
- 395
- 396
- 397
- 398
- 399
- 400
- 401
- 402
- 403
- 404
- 405
- 406
- 407
- 408
- 409
- 410
- 411
- 412
- 413
- 414
- 415
- 416
- 417
- 418
- 419
- 420
- 421
- 422
- 423
- 424
- 425
- 426
- 427
- 428
- 429
- 430
- 431
- 432
- 433
- 434
- 435
- 436
- 437
- 438
- 439
- 440
- 441
- 442
- 443
- 444
- 445
- 446
- 447
- 448
- 449
- 450
- 451
- 452
- 453
- 454
- 455
- 456
- 457
- 458
- 459
- 460
- 461
- 462
- 463
- 464
- 465
- 466
- 467
- 468
- 469
- 470
- 471
- 472
- 473
- 474
- 475
- 476
- 477
- 478
- 479
- 480
- 481
- 482
- 483
- 484
- 485
- 486
- 487
- 488
- 489
- 490
- 491
- 492
- ...
- 493
- 494
- 495
- 496
- 497
- 498
- 499
- 500
- 501
- 502
- 503
- 504
- 505
- 506
- 507
- 508
- 509
- 510
- 511
- 512
- 513
- 514
- 515
- 516
- 517
- 518
- 519
- 519