数据湖探索 DLI-MySql CDC:支持特性

时间:2024-04-18 20:33:04

支持特性

  • 增量快照读取

    增量快照读取是一种读取表快照的新机制。与旧的快照机制相比,增量快照具有许多优点,包括:

    • 在快照读取期间,Source 支持并发读取,
    • 在快照读取期间,Source 支持进行 chunk 粒度的 checkpoint,
    • 在快照读取之前,Source 不需要数据库锁权限。

    如果希望 source 并行运行,则每个并行 reader 都应该具有唯一的 server id,因此server id的范围必须类似于 5400-6400, 且范围必须大于并行度。在增量快照读取过程中,MySQL CDC Source 首先通过表的主键将表划分成多个块(chunk), 然后 MySQL CDC Source 将多个块分配给多个 reader 以并行读取表的数据。

  • 无锁算法

    MySQL CDC source 使用 增量快照算法, 避免了数据库锁的使用,因此不需要 “RELOAD” 权限。

  • 并发读取

    增量快照读取提供了并行读取快照数据的能力。

  • 全量阶段支持 checkpoint

    增量快照读取提供了在区块级别执行检查点的能力。它使用新的快照读取机制解决了以前版本中的检查点超时问题。

support.huaweicloud.com/sqlref-flink-dli/dli_08_15059.html