数据治理中心 DATAARTS STUDIO-迁移作业原理:性能影响因素

时间：2024-09-09 17:46:31

性能影响因素

根据迁移模型，可以看出 CDM 数据迁移的速率受源端读取速度、网络带宽、目的端写入性能、CDM集群和作业配置等因素影响。

表1 性能影响因素
影响因素		说明
业务相关因素	作业抽取并发数配置	创建CDM迁移作业时，支持设置该作业的抽取并发数。该参数设置为适当的值可以有效提升迁移速度，过小则会限制迁移速度，过大则会导致任务过载、迁移失败。迁移的目的端为文件时，CDM不支持多并发，此时应配置为单进程抽取数据。表中每行数据大小为1MB以下的可以设置多并发抽取，超过1MB的建议单线程抽取数据。
	集群最大抽取并发数规格	该参数设置为适当的值可以有效提升迁移速度，过小则会限制迁移速度，过大则会导致源端负载过高、影响系统稳定性。不同规格的CDM集群支持的最大抽取并发数规格不同，并发数上限建议设置为vCPU核数*2。 cdm.large：16 cdm.xlarge：32 cdm.4xlarge：128
	业务模型	如果大量CDM作业同时执行，当超过当前CDM集群的并发执行作业数时，会导致作业排队，耗时提升。建议您将迁移作业的运行时间错开，平摊在业务周期内，避免资源紧张导致迁移时间过长。
	数据模型	数据迁移时，对于不同的数据结构，迁移速度也会受到一定影响。例如：对于表迁移，宽表的迁移速度较慢，字符串类型越多（字段大小）迁移速度越慢。对于文件而言，总大小相同时，大文件迁移较快，多个小文件迁移较慢。对于消息而言，消息内容越多，所占带宽越高，每秒事务（TPS）越低。
源端读取速度		取决于源端数据源的性能。如需优化，请参见源端数据源的相关说明文档。
网络带宽		CDM集群与数据源之间可以通过内网、公网VPN、NAT或专线等方式互通。通过内网互通时，网络带宽是根据不同的CDM实例规格的带宽限制的。 cdm.large实例规格CDM集群网卡的基准/最大带宽为0.8/3 Gbps。 cdm.xlarge实例规格CDM集群网卡的基准/最大带宽为4/10 Gbps。 cdm.4xlarge实例规格CDM集群网卡的基准/最大带宽为36/40 Gbps。通过公网互通时，网络带宽受到公网带宽的限制。CDM侧公网带宽规格受限于CDM集群所绑定的弹性公网IP，数据源侧受限于其所访问的公网带宽规格。通过VPN、NAT或专线互通时，网络带宽受到VPN、NAT或专线带宽的限制。
目的端写入性能		取决于目的端数据源的性能。如需优化，请参见目的端数据源的相关说明文档。