检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
如图1所示。 图1 小文件合并 操作步骤 要启动小文件优化，在Spark客户端的“spark-defaults.conf”配置文件中进行设置。 表1 参数介绍 参数 描述 默认值 spark.sql.files.maxPartitionBytes 在读取文件时，将单个分区打包的最大字节数。
打开任务运行日志窗口，查看运行详细情况以及备份路径。 “查看” 检查恢复任务的参数设置。 “执行” 运行恢复任务。 查看备份恢复任务（MRS 2.x及之前版本） 在MRS Manager，单击“系统设置”。 单击“备份管理”或“恢复管理”。 在任务列表中，查看“当次任务进度”列获取
attemptId", "spark.driver.host", "spark.driver.bindAddress", "spark.driver.port", "spark.master", "spark.yarn.jars", "spark.yarn.keytab", "spark
如果认证成功，客户端会发起访问服务端（MRS组件服务）的请求。 服务端会根据登录的用户，找到其属于的用户组和角色。 服务端获得用户组拥有的所有权限和角色拥有的所有权限的并集。 服务端判断客户端是否有权限访问其请求的资源。 示例场景（RBAC）： HDFS中有三个文件fileA、fileB、fileC。
FS数据的高可靠； 对于确定存在单副本诉求的文件也可通过dfs.single.replication.exclude.pattern配置项设置单副本的数据文件和目录。 MRS 1.9.2.3补丁安装完成之后，需要重启OMS服务。如果集群之前安装了1.9.2.2补丁，不需要做此操作。
选择“现有集群”，选中一个运行中的集群并单击集群名称，进入集群信息页面。 在集群详情页，单击“租户管理”。 单击“资源池”页签。 单击“添加资源池”。 在“添加资源池”设置资源池的属性。 “名称”：填写资源池的名称。不支持创建名称为“default”的资源池。可包含数字、字母和下划线，且不能以下划线开头。 “
Spark SQL性能调优 Spark SQL join优化 优化数据倾斜场景下的Spark SQL性能 优化小文件场景下的Spark SQL性能 Spark INSERT SELECT语句调优 动态分区插入场景内存优化 小文件优化 聚合算法优化 Datasource表优化 合并CBO优化
实时写入接口功能，只能提供Get、Scan查询服务。 HBase双读支持以下两种方式设置主备集群的相关配置： 在“hbase-dual.xml”中新增主备集群的相关配置。 将主备集群相关配置设置到HBaseMultiClusterConnection中（仅MRS 3.3.0及之后版本支持）。
<tablename> 注意事项 批量更新会把满足条件的行对应的字段值替换为要更新的值。 如果要更新的字段上建有索引，批量更新是不允许的。 如果不设置执行结果输出文件，默认是（/tmp/updatedata/表名）。 父主题： 增强HBase BulkLoad工具数据迁移能力
as parquet TBLPROPERTIES("parquet.compression"="zstd"); 其他格式或通用格式建表可执行设置参数指定compress,codec为“org.apache.hadoop.io.compress.ZStandardCode”： set
避免嵌套结构。 Key尽量不要使用String。 开发Spark应用程序时，建议序列化RDD。 RDD做cache时默认是不序列化数据的，可以通过设置存储级别来序列化RDD减小内存。例如： testRDD.persist(StorageLevel.MEMORY_ONLY_SER) 父主题：
attemptId", "spark.driver.host", "spark.driver.bindAddress", "spark.driver.port", "spark.master", "spark.yarn.jars", "spark.yarn.keytab", "spark
') location 'obs://xxx'; 给分区表“table_1”中插入数据后，对应的分区数据存储在对应的存储源上，可以使用desc查看分区的location，执行以下命令查看路径下的数据： desc formatted table_1 partition(pt='2021-12-18');
经分析，发现在建表时没有指定存储格式，所以采用了缺省存储格式RCFile。 在导入数据时，被导入数据格式是TEXTFILE格式，最终导致此问题。 解决办法 属于应用侧问题，解决办法有多种。只要保证表所指定存储格式和被导入数据格式是一致的，可以根据实际情况采用合适方法。 方法1： 可以使用具有H
IDEA工具，同时完成JDK、Maven等初始配置。 准备本地应用开发环境 准备连接集群配置文件 应用程序开发或运行过程中，需通过集群相关配置文件信息连接MRS集群，配置文件通常包括集群组件信息文件以及用于安全认证的用户文件，可从已创建好的MRS集群中获取相关内容。 用于程序调测或运行的节点，需要
时，该用户密码有效期保持不变。 单击“确定”完成修改操作。 修改用户信息（MRS 2.x及之前版本） 在MRS Manager，单击“系统设置”。 在“权限配置”区域，单击“用户管理”。 在要修改用户所在的行，单击“修改”，修改用户信息。 为用户修改用户组或分配的角色权限，最长可能需要3分钟时间生效。
操作 功能 物化视图SQL样例 备注 创建物化视图 （创建物化视图时，只创建了物化视图的定义，数据填充需要使用refresh materialized view name刷新物化视图数据） 创建永不过期的物化视图 create materialized view mv.default
format] 使用示例 --查看ClickHouse集群信息 select * from system.clusters; --显示当前节点设置的宏 select * from system.macros; --查看数据库容量 select sum(rows) as "总行数",
automatic默认为true)。 Archive操作并不是每次写数据时都会触发，至少需要满足以下两个条件： Hudi表满足hoodie.keep.max.commits设置的阈值。如果是Flink写hudi至少提交的checkpoint要超过这个阈值；如果是Spark写hudi，写Hudi的次数要超过这个阈值。
6及之后的任意一个补丁。 是，可以直接安装MRS_3.2.0-LTS.1.9补丁，此时安装MRS_3.2.0-LTS.1.9补丁会提示需要用户输入root密码或者密钥。 否，需要先安装MRS 3.2.0-LTS.1.8补丁，安装完需要重启相关服务，具体请参考MRS 3.2.0-LTS.1.8版本补丁说明。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
