表格存储服务 CLOUDTABLE-Broker Load:相关系统配置

时间:2024-09-20 16:04:25

相关系统配置

  • FE配置。

    下面几个配置属于Broker load的系统级别配置,也就是作用于所有Broker load导入任务的配置。主要通过修改FE配置项来调整配置值。

    • max_bytes_per_broker_scanner/max_broker_concurrency

      max_bytes_per_broker_scanner配置限制了单个BE处理的数据量的最大值。max_broker_concurrency配置限制了一个作业的最大的导入并发数。最小处理的数据量(默认64M),最大并发数,源文件的大小和当前集群BE的个数 共同决定了本次导入的并发数。

      本次导入并发数=Math.min(源文件大小/最小处理量(默认64M),最大并发数,当前BE节点个数)。
      本次导入单个BE的处理量=源文件大小/本次导入的并发数。

      通常一个导入作业支持的最大数据量为max_bytes_per_broker_scanner*BE节点数。如果需要导入更大数据量,则需要适当调整max_bytes_per_broker_scanner参数的大小。

      默认配置:

      • 参数名:max_broker_concurrency, 默认10。
      • 参数名:max_bytes_per_broker_scanner,默认3G,单位bytes。
support.huaweicloud.com/devg-cloudtable/cloudtable_01_0259.html