检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
value>对。执行过程中都会涉及到RDD的partition重排，这个操作称为shuffle。 由于shuffle类算子存在节点之间的网络传输，因此对于数据量很大的RDD，应该尽量提取需要使用的信息，减小其单条数据的大小，然后再调用shuffle类算子。 常用的有如下几种： combineByKey()
properties schedule-tool工具支持两种登录方式，两者只能选一。详细参数请参见schedule-tool工具使用指导。配置文件中包含认证密码信息可能存在安全风险，建议当前场景执行完毕后删除相关配置文件或加强安全管理。 以密码方式登录，配置信息示例如下： [server.url
执行以下命令，切换到客户端安装目录。 cd /opt/client 执行以下命令配置环境变量。 source bigdata_env 执行以下命令，进行用户认证。（普通模式跳过此步骤） kinit 组件业务用户 执行以下命令切换到Kafka客户端安装目录。 cd Kafka/kafka/bin 执
t”。 cd /opt/kafkaclient 执行以下命令，配置环境变量。 source bigdata_env 执行以下命令，进行用户认证（普通模式跳过此步骤）。 kinit 组件业务用户 执行以下命令，切换到Kafka客户端目录。 cd Kafka/kafka/bin 执行
至少添加2个TokenSever（TS）实例。 例如，配置如下图所示，不同版本集群可能存在差异，具体界面显示以实际为准。 Kerberos认证 开启 委托 勾选“高级配置”后的“现在配置”，“委托”选择“现有委托”，并选择创建对接ECS/BMS云服务委托创建的委托。 例如，配置如
Ranger策略的权限，即如果已经对表的HDFS存储源设置了HDFS Ranger权限，则级联权限将不会生效。 CDL业务用户权限配置 集群已启用Kerberos认证（安全模式）若需在对接OBS成功后，使用CDL实现实时数据入湖选择存储到OBS时，则需参考以下操作为对应用户赋予相应OBS路径的“Read”和“Write”权限。
存在数据倾斜 Rows/s Task每秒钟读取的数据条数，通过分析相同Stage阶段不同Task每秒钟读取数据条数可以快速判断节点是否存在网络带宽差异，定位是否节点网卡存在问题 Bytes Task读取的数据量 Bytes/s Task每秒钟读取的数据量 Elapsed Task执行时长
默认值：1 1 单击“删除”可以删除已增加的自定义配置参数。 单击“确定”。 登录集群客户端所在节点，执行以下命令，切换到客户端安装目录并认证用户。 cd /opt/client source bigdata_env kinit HetuEngine组件操作用户 （普通模式集群跳过）
统管理员。进入客户端安装目录，设置环境变量： cd 客户端安装目录 source bigdata_env 如果集群采用安全版本，要进行安全认证。执行kinit hbase命令，按提示输入密码（向MRS集群管理员获取密码）。 执行以下命令进入hbase shell，查看目前负载均衡功能是否打开：
source bigdata_env kinit 归属于supergroup用户组或具备Global的Admin权限的用户（集群未启用Kerberos认证（普通模式）请跳过该操作） 执行以下命令打开HBase负载均衡功能，并确认是否成功打开。 hbase shell balance_switch
source bigdata_env kinit 归属于supergroup用户组或具备Global的Admin权限的用户（集群未启用Kerberos认证（普通模式）请跳过该操作） 执行以下命令打开负载均衡功能，并查看是否成功打开。 hbase shell balance_switch true
检查“/user/oozie/share”路径是否存在，用户密码为安装前用户自定义，请咨询系统管理员。 如果集群采用安全版本，要进行安全认证。 kinit admin hdfs dfs -ls /user/oozie/share 是，执行18。 否，执行10。 在Oozie客户
至少添加2个TokenSever（TS）实例。 例如，配置如下图所示，不同版本集群可能存在差异，具体界面显示以实际为准。 Kerberos认证 开启 委托 勾选“高级配置”后的“现在配置”，“委托”选择“现有委托”，并选择创建对接ECS/BMS云服务委托创建的委托。 例如，配置如
现有集群：包括除了“失败”和“已删除”状态以外的所有集群。 历史集群：仅包含“已删除”的集群，目前界面只显示6个月内创建且已删除的集群，若需要查看6个月以前删除的集群，请联系华为云支持人员。 失败任务管理：单击可查看“失败”状态的集群创建任务。 表1 集群列表参数 参数 参数说明 名称/ID 集群的名称，创建集群时
约束与限制 使用MRS前，您需要认真阅读并了解以下使用限制。 MRS集群创建限制 表1 MRS集群创建约束说明 限制项 说明 网络要求 MRS集群必须创建在VPC子网内。 创建MRS集群时，支持自动创建安全组，也可选择已有的安全组。 MRS集群使用的安全组请勿随意放开权限，避免被恶意访问。
导用户通过MRS Manager创建备份任务并备份元数据。支持创建任务自动或手动备份数据。 前提条件 需要准备一个用于备份数据的备集群，且网络连通。每个集群的安全组，需分别添加对端集群的安全组入方向规则，允许安全组中所有弹性云服务器全部协议全部端口的访问请求。 根据业务需要，规划
大连接数设置为0。 上述命令需要指定Broker的IP和端口，设置配置项的大小，指定brokerId和用户名，这里的用户指kerberos认证用户。 使用命令行工具更新的配置可以动态生效，重启服务会失效。如果想在重启后继续生效，请在FusionInsight Manager首页，选择“集群
以root用户登录安装HDFS客户端的服务器，执行以下命令配置环境变量。 source HDFS客户端安装目录/bigdata_env 如果集群为安全模式，执行以下命令认证用户身份。 kinit hdfs 在HDFS客户端执行以下命令，检查HDFS根目录下全部目录和文件是否状态正常。 hdfs fsck / 检查fsck显示结果：
权限 > 用户”，添加人机用户sparkuser，用户组（hadoop、hive），主组（hadoop）。 进入客户端目录，加载环境变量并认证用户： cd /客户端安装目录 source ./bigdata_env source ./Spark2x/component_env MRS
以root用户登录安装HDFS客户端的服务器，执行以下命令配置环境变量。 source HDFS客户端安装目录/bigdata_env 如果集群为安全模式，执行以下命令认证用户身份。 kinit hdfs 在HDFS客户端执行以下命令，检查HDFS根目录下全部目录和文件是否状态正常。 hdfs fsck / 检查fsck显示结果：
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
