华为云首页用户手册

MAPREDUCE服务 MRS-创建Bucket索引表:判断使用分区表还是非分区表

MAPREDUCE服务 MRS-创建Bucket索引表:判断使用分区表还是非分区表

时间：2024-05-16 10:54:24

MAPREDUCE服务 MRS

判断使用分区表还是非分区表

根据表的使用场景一般将表分为事实表和维度表：

事实表通常整表数据规模较大，以新增数据为主，更新数据占比小，且更新数据大多落在近一段时间范围内（年或月或天），下游读取该表进行ETL计算时通常会使用时间范围进行裁剪（例如最近一天、一月、一年），这种表通常可以通过数据的创建时间来做分区已保证最佳读写性能。
维度表数据量一般整表数据规模较小，以更新数据为主，新增较少，表数据量比较稳定，且读取时通常需要全量读取做join之类的ETL计算，因此通常使用非分区表性能更好。
分区表的分区键不允许更新，否则会产生重复数据。

例外场景：超大维度表和超小事实表

特殊情况如存在持续大量新增数据的维度表（表数据量在200G以上或日增长量超过60M）或数据量非常小的事实表（表数据量小于10G且未来三至五年增长后也不会超过10G）需要针对具体场景来进行例外处理：

持续大量新增数据的维度表
 方法一：预留桶数，如使用非分区表则需通过预估较长一段时间内的数据增量来预先增加桶数，缺点是随着数据的增长，文件依然会持续膨胀；

方法二：大粒度分区（推荐），如果使用分区表则需要根据数据增长情况来计算，例如使用年分区，这种方式相对麻烦些但是多年后表无需重新导入。

方法三：数据老化，按照业务逻辑分析大的维度表是否可以通过数据老化清理无效的维度数据从而降低数据规模。

数据量非常小的事实表
 这种可以在预估很长一段时间的数据增长量的前提下使用非分区表预留稍宽裕一些的桶数来提升读写性能。

上一篇：MAPREDUCE服务 MRS-创建Bucket索引表:确认建表SQL

下一篇：MAPREDUCE服务 MRS-创建Bucket索引表:确认建表SQL

华为云11.11 2核1G 2M 云服务器

29元/年

立即注册领万元上云礼券

抽奖赢11111元免单

续费同价 L实例 2核2G 4M

98元/年

热门域名 1元随心购

1元/年

MAPREDUCE服务 MRS-创建Bucket索引表:判断使用分区表还是非分区表

意见反馈

0/200

提交成功！非常感谢您的反馈，我们会继续努力做到更好反馈提交失败！请稍后重试！

推荐文章

解决方案
相关专题