检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
protection”需使用相同的数据传输方式。默认设置为“privacy”表示加密，“authentication”表示不加密。 对于开启了Kerberos认证的集群（安全模式），集群之间需要配置系统互信。 每个集群的两个安全组，需分别添加对端集群的两个安全组入方向规则，允许安全组中所有弹性云服务器全部协议全部端口的访问请求。
k写hudi，则至少提交的checkpoint要超过这个阈值；如果是批写Hudi，则批写次数要超过这个阈值。 建议 MOR表下游采用批量读模式，采用clean的版本数为compaction版本数+1。 MOR表一定要保证Compaction Plan能够被成功执行，Compaction
操作步骤说明。 前提条件 待迁移的源ClickHouse集群状态正常，并且源集群和目的集群必须同为安全集群或者同为普通集群。如果集群模式都为普通模式，请联运维人员。 已创建待迁移数据的ClickHouse目标集群，该集群版本为MRS 3.1.3及以上版本。该ClickHouse集
取值 区域 不同区域的云服务产品之间内网互不相通。请就近选择靠近您业务的区域，可减少网络时延，提高访问速度。 华北-北京四 计费模式 MRS提供两种计费模式： 包年/包月 按需计费 选择“按需计费”时，可能需要冻结一定的保证金。详细内容，请参见计费说明。 按需计费 集群名称 集群名
聚合函数 聚合函数对一组值进行运算，最终获得一个单值。 除count()、count_if()、max_by()、min_by()和approx_distinct()外，其他聚合函数都忽略空值，并在没有输入行或所有值都为空时返回空值。例如sum()返回null而不是零，并且avg
yServer HA特性 JobHistoryServer（JHS）是用于查看MapReduce历史任务信息的服务器，当前开源JHS只支持单实例服务。JobHistoryServer HA能够解决JHS单点故障时，应用访问MapReduce接口无效，导致整体应用执行失败的场景，从
3.1402231402231404 参数解释： deploy-mode：Spark driver的运行模式，可设置为client或者cluster，本示例中使用client模式提交该作业。 conf：额外的配置属性，例如本示例中使用keytab文件进行用户认证，配置以下参数： spark
包周期集群不允许克隆集群作业 普通集群支持克隆作业，安全集群不支持克隆作业 集群相关配置是否支持克隆情况参见表1。 表1 MRS集群参数克隆说明 参数 说明 计费模式、版本类型、集群版本、集群类型、组件列表、可用区、企业项目、虚拟私有云、子网、安全组（默认共用克隆集群的）、节点组配置、Kerberos认
REST接口访问。一种为已结束任务的Web UI，可以通过Spark2x JobHistory服务或者REST接口访问。 本章节仅支持安全模式（开启了Kerberos认证）集群。 运行中任务Web UI ACL配置。 运行中的任务，可通过服务端对如下参数进行配置。 “spark.admin
执行以下命令配置环境变量并认证用户。 source bigdata_env kinit 提交Oozie任务的用户（ 如果集群未启用Kerberos认证（普通模式）请跳过该操作） 检查Share Lib，包括客户端和服务端两种方式。Spark Share Lib仅支持客户端检查。 客户端方式： 检查Oozie核心Share
开启Oozie HA机制 操作场景 Oozie多个节点同时提供服务的时候，通过ZooKeeper来提供高可用（HA）功能，防止单节点故障以及多节点同时处理一个任务。 MRS 3.3.1及之后版本Oozie默认开启HA机制，无需执行该章节操作。 对系统影响 操作过程中需要重启Ooz
储资源、共享计算资源+专属存储资源、专属计算资源+专属存储资源。 主机安全 MRS支持与公有云安全服务集成，支持漏洞扫描、安全防护、应用防火墙、堡垒机、网页防篡改等。针对操作系统和端口部分，华为云提供如下安全措施： 操作系统内核安全加固 操作系统权限控制 操作系统端口管理 应用安全
内存（MB）：输入值最小为512。 开启CheckPoint 是否开启CheckPoint。开启后，需配置以下内容： 时间间隔（ms）：必填； 模式：必填； EXACTLY_ONCE：数据或事件仅会被算子处理一次； AT_LEAST_ONCE：数据或事件会被算子至少处理一次； 最小间隔（ms）：输入值最小为10；
$exitCode") } 根据业务逻辑，开发对应的Spark应用程序，并设置用户编写的Spark应用程序的主类等常数。 如果您使用的是普通模式，准备业务应用代码及其相关配置即可。 调用org.apache.spark.launcher.SparkLauncher.launch()方法，将用户的应用程序提交。
行以下命令： cd 客户端安装目录 source bigdata_env kinit 组件业务用户（若集群未启用Kerberos认证（普通模式），请跳过该操作） 查看损坏的StoreFile文件。 执行以下命令检查HDFS的“/hbase/autocorrupt”目录是否为空，不为空则执行4。
除数据、插入数据、更新数据以及授权他人访问HBase表。 本章节适用于MRS 3.x及之后版本。 仅开启了Kerberos认证的集群（安全模式）支持创建HBase角色。 如果当前组件使用了Ranger进行权限控制，须基于Ranger配置相关策略进行权限管理，具体操作可参考添加HBase的Ranger访问权限策略。
否，执行11。 数据倾斜，需要均衡集群中的数据。以root用户登录MRS客户端，用户密码为安装前用户自定义，请咨询系统管理员。如果集群为普通模式，执行su - omm切换到omm用户。执行cd命令进入客户端安装目录，然后执行source bigdata_env。如果集群采用安全版本，要进行安全认证。执行kinit
是异步的。 本章节主要介绍如何配置ClickHouse保证副本间数据强一致。 参数配置 配置ClickHouse副本间数据强一致优先级别：单条语句设置 > 会话级别设置 > 全局默认设置。 副本间强一致必须要结合原子性一起使用，否则在插入过程中出现异常，无法回退成功。 登录FusionInsight
/opt/client”。 cd /opt/client 如果集群为普通模式，需先执行su - omm切换为omm用户。 执行以下命令配置环境变量。 source bigdata_env 如果集群为安全模式，执行以下命令认证hdfs身份。 kinit hdfs 是否调整带宽控制？
/opt/client”。 cd /opt/client 如果集群为普通模式，需先执行su - omm切换为omm用户。 执行以下命令配置环境变量。 source bigdata_env 如果集群为安全模式，执行以下命令认证hdfs身份。 kinit hdfs 是否调整带宽控制？
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
