数据仓库服务 GAUSSDB(DWS)-Flink实时消费Binlog:Binlog相关参数说明
Binlog相关参数说明
下表仅涉及消费Binlog时的参数。
参数 |
说明 |
数据类型 |
默认值 |
---|---|---|---|
binlog |
是否读取Binlog信息 |
Boolean |
false |
binlogSlotName |
槽位信息,可以理解一个标识。由于可能存在多个Flink任务同时消费同一张表的Binlog信息,所以该场景需要保证每个任务的binlogSlotName不同。 |
String |
Flink映射表的表名 |
binlogBatchReadSize |
批量读取binlog的数据行数 |
Integer |
5000 |
fullSyncBinlogBatchReadSize |
全量读取binlog的数据行数 |
Integer |
50000 |
binlogReadTimeout |
增量消费Binlog数据时超时时间,单位毫秒 |
Integer |
600000 |
fullSyncBinlogReadTimeout |
全量消费Binlog数据时超时时间,单位毫秒 |
Long |
1800000 |
binlogSleepTime |
实时消费不到Binlog数据时休眠时间,单位毫秒。如果连续读取不到Binlog数据,则休眠时间为:binlogSleepTime * 次数,最大为binlogMaxSleepTime。读取到数据后,则重置。 |
Long |
500 |
binlogMaxSleepTime |
实时消费不到Binlog数据时最大休眠时间,单位毫秒。 |
Long |
10000 |
binlogMaxRetryTimes |
消费Binlog数据出错后的重试次数。 |
Integer |
1 |
binlogRetryInterval |
消费binlog数据出错后的重试时间间隔。重试时sleep时间:binlogRetryInterval * (1~binlogMaxRetryTimes) +Random(100)。单位毫秒。 |
Long |
100 |
binlogParallelNum |
消费Binlog数据时线程数,只有任务并发度小于DWS集群DN数时,该参数才有效,即此时一个并发度会消费多个DN上的数据,所以可以考虑设置该参数。 |
Integer |
3 |
connectionPoolSize |
JDBC连接池连接大小 |
Integer |
5 |
- MapReduce服务_什么是Kafka_如何使用Kafka
- 大数据应用范围有哪些_大数据技术与应用要学习什么课程
- 数据仓库服务GaussDB(DWS)_SQL on Anywhere
- DWS安全_数据仓库服务安全_DWS数据安全管理_DWS安全保障_DWS安全策略
- 调用GaussDB(DWS) API接口_数据仓库服务调用API_如何调用API_在DWS中调用API
- 什么是数据湖探索服务_数据湖探索DLI用途与特点
- DWS产品介绍_DWS产品优势_DWS功能_DWS使用场景_DWS是什么
- 如何进行日志采集和转储_日志平台_日志接入_日志转储
- 云数据库 GaussDB(for MySQL)与RDS for MySQL的区别
- 什么是Flink OpenSource SQL_数据湖探索_Flink OpenSource SQL